커스텀 비밀 관리자
커스텀 비밀 관리자 (Custom Secret Manager)
LiteLLM에 커스텀 비밀 관리자(Secret Manager)를 붙이는 방법을 다루는 문서예요. 자체 비밀 저장소를 사용하고 싶을 때 커스텀 관리자를 구현해 통합할 수 있어요.
출처: 문서
본문
LiteLLM은 기본 제공 비밀 관리자 외에 자체 커스텀 비밀 관리자를 구현해 통합할 수 있게 해줘요. 조직의 기존 비밀 저장소에서 API 키, 자격 증명 등을 동적으로 가져올 수 있어요.
구현 방법
BaseSecretManager를 상속하는 커스텀 클래스를 작성하고 필수 메서드를 구현한 뒤, 이를 LiteLLM에 등록해 사용해요. 커스텀 관리자는 environment_variables의 값에서 비밀을 해석하는 데 쓰여요.
사용법
커스텀 관리자를 등록하면 environment_variables의 값을 커스텀 비밀 관리자가 처리하는 형태로 지정할 수 있어요.
이 페이지는 커스텀 비밀 관리자 구현의 시작점이에요. 구체적인 클래스/메서드 시그니처는 소스 코드와 통합 문서를 참고하세요.