Anthropic 파일 사용

Anthropic 파일 사용 (Anthropic File Usage)

LiteLLM를 통해 Anthropic의 파일 사용 방식(AI SDK file usage / base64 파일 전달)을 구성하고 사용하는 방법을 안내할게요.

출처: 문서

본문

이 튜토리얼은 Anthropic 모델과 LiteLLM 프록시를 함께 쓸 때 파일(base64 이미지, 문서 등)을 요청에 포함하는 방법을 다뤄요.

핵심 내용

  • LiteLLM은 Anthropic 형식의 이미지/파일 콘텐츠 블록을 받아 제공자에 맞게 변환해요.
  • /chat/completions/messages 엔드포인트 모두에서 파일을 전달할 수 있어요.
  • 지원 내용 타입(이미지, 텍스트, 문서 등)에 따라 요청을 구성해요.

사용 예

OpenAI 호환 요청에서 image_url 류 블록 또는 Anthropic 형식 블록을 사용해 파일을 전달할 수 있어요. LiteLLM이 제공자별 형식으로 변환해 처리해요.

이 페이지는 튜토리얼의 시작점이에요. 구체적인 요청 예시는 LiteLLM 문서의 멀티모달/파일 사용 페이지를 참고하세요.

더 알아보기 (Learn more)