마이그레이션 가이드 - LiteLLM v1.0.0+

마이그레이션 가이드 - LiteLLM v1.0.0+ (Migration Guide)

브레이킹 체인지(예: 1.x.x → 2.x.x)가 있을 때 그 변경 사항을 이곳에 기록해 둘게요.

출처: 문서

본문

브레이킹 체인지(예: 1.x.x에서 2.x.x로 갈 때)가 발생하면 그 변경 사항을 이곳에 문서화해요.

1.0.0

• 마지막 브레이킹 체인지 이전 릴리스: 0.14.0
• 무엇이 바뀌었나요?
  • openai>=1.0.0 필요
  • openai.InvalidRequestError → openai.BadRequestError
  • openai.ServiceUnavailableError → openai.APIStatusError
  • 새로운 litellm 클라이언트: 사용자가 api_key를 전달할 수 있음 — litellm.Litellm(api_key="sk-123")
  • 응답 객체는 이제 BaseModel을 상속 (이전에는 OpenAIObject)
  • 새로운 기본 예외 — APIConnectionError (이전에는 APIError)
  • litellm.get_max_tokens()가 이제 dict가 아닌 int를 반환

max_tokens = litellm.get_max_tokens("gpt-3.5-turbo")  # returns an int not a dict
assert max_tokens == 4097

• 스트리밍 — OpenAI Chunk는 이제 빈 stream chunk에 대해 None을 반환해요. 콘텐츠가 있는 stream chunk를 처리하는 방법은 다음과 같아요:

response = litellm.completion(
    model="gpt-5.6-luna",
    messages=messages,
    stream=True
)
for part in response:
    print(part.choices[0].delta.content or "")

변경 사항을 더 잘 전달하려면?

• Discord
• 이메일 ([email protected])

더 알아보기 (Learn more)

• Migration Policy
• Learn LiteLLM