Azure OpenAI 설정
Azure OpenAI 설정 (Azure OpenAI)
LiteLLM을 Azure OpenAI와 함께 설정하고 사용하는 방법을 안내하는 튜토리얼이에요.
출처: 문서
본문
Azure OpenAI 배포를 LiteLLM에서 사용하려면 배포 이름, api_base, api_key, api_version을 구성해야 해요.
핵심 내용
- Azure 모델은
azure/<deployment-name>형태로 지정해요. AZURE_API_KEY,AZURE_API_BASE,AZURE_API_VERSION환경 변수를 설정해요.- 프록시
config.yaml의model_list에 azure 배포를 등록해요.
사용 예
config.yaml에서 model: azure/<deployment>로 배포를 선언하고, SDK 또는 프록시를 통해 요청을 보내요. LiteLLM이 Azure의 요청/응답 형식을 OpenAI 표준으로 변환해줘요.
이 페이지는 튜토리얼의 시작점이에요. 자세한 설정과 파라미터는 LiteLLM Azure 문서를 참고하세요.