Hashicorp Vault
Hashicorp Vault (Secret Manager)
LiteLLM의 비밀 관리자(Secret Manager) 중 하나인 Hashicorp Vault에 대한 문서예요. Vault에 저장된 시크릿을 프록시 시작 시 가져와 설정에 사용할 수 있어요.
출처: 문서
본문
LiteLLM은 Hashicorp Vault를 비밀 관리자로 지원해요. Vault에 저장된 API 키와 자격 증명을 중앙에서 관리하고 LiteLLM 프로덕션 배포에 사용할 수 있어요.
설정
다음이 필요해요:
VAULT_ADDR- Vault 서버 주소VAULT_TOKEN또는 인증 방법 - Vault 접근 토큰 또는 인증 구성- 시크릿 경로 - 조회할 시크릿의 경로
사용법
environment_variables에서 값을 Vault 경로 형태로 지정하면 프록시가 시작 시 해당 시크릿을 가져와 사용해요.
Kubernetes, 클라우드 등 다양한 환경에서 시크릿을 안전하게 관리할 때 유용해요. 자세한 설정은 LiteLLM 비밀 관리자 문서와 Hashicorp Vault 공식 문서를 참고하세요.