호환성 & 확장성

호환성 & 확장성 (Compatibility & Extensibility)

LiteLLM이 OpenAI 규격만 지원하지 않고, 각 프로바이더가 가진 고유 파라미터와 커스텀 형식을 어떻게 다루는지 확인해 볼 수 있는 가이드 묶음이에요.

출처: 문서

본문

📄️ Provider-specific Params (프로바이더별 파라미터)

프로바이더는 OpenAI가 지원하지 않는 파라미터(예: top_k)를 제공할 수 있어요. LiteLLM은 OpenAI가 아닌 어떤 파라미터든 프로바이더별 파라미터로 취급해서, 요청 body에 kwarg로 그대로 전달해요. 자세한 내용은 Reserved Params를 참고하세요.

📄️ Drop Unsupported Params (지원하지 않는 파라미터 제거)

LLM 프로바이더가 지원하지 않는 OpenAI 파라미터를 자동으로 제거할 수 있어요.

📄️ Model Alias (모델 별칭)

엔드유저에게 보여주는 모델 이름과 LiteLLM에 실제로 전달하는 모델 이름은 달라질 수 있어요. 예를 들어 백엔드에서는 다른 값을 호출하면서 사용자에게는 GPT-5.6이라는 이름으로 표시하는 식이죠.

📄️ Calling Finetuned Models (파인튜닝 모델 호출)

OpenAI 파인튜닝 모델을 호출하는 방법을 다뤄요.

📄️ Call any LiteLLM model in your custom format (커스텀 형식으로 모델 호출)

LiteLLM이 지원하는 .completion() 모델을 어떤 커스텀 형식으로든 호출할 수 있어요. 커스텀 API가 있고, LiteLLM이 지원하는 모든 모델을 지원하고 싶을 때 유용해요.