AWS Secret Manager

AWS Secret Manager (Secret Manager)

LiteLLM의 비밀 관리자(Secret Manager) 중 하나인 AWS Secrets Manager에 대한 문서예요. 시크릿을 AWS Secrets Manager에 저장하고 LiteLLM이 프록시 시작 시 가져와 복호화해 사용할 수 있어요.

출처: 문서

본문

LiteLLM은 AWS Secrets Manager를 비밀 관리자로 지원해요. 시크릿을 중앙에서 관리하고 코드에 평문 시크릿을 두지 않으려 할 때 유용해요.

설정

다음 환경 변수가 필요해요:

  • AWS_ACCESS_KEY_ID - AWS 액세스 키
  • AWS_SECRET_ACCESS_KEY - AWS 시크릿 액세스 키
  • AWS_REGION_NAME - AWS 리전

사용법

environment_variables에서 값을 AWS_SECRET_MANAGER::<secret-name> 형태로 지정하면 LiteLLM이 프록시 시작 시 해당 시크릿을 가져와 사용해요.

자세한 설정 단계와 예시는 LiteLLM 비밀 관리자 문서와 AWS 공식 문서를 참고하세요.

더 알아보기 (Learn more)