Claude Code Autorouter
Claude Code Autorouter (튜토리얼)
Claude Code를 LiteLLM의 자동 라우팅(Autorouter) 기능과 함께 사용하는 방법을 안내하는 튜토리얼이에요.
출처: 문서
본문
Claude Code를 LiteLLM 프록시에 연결하면, 프록시의 라우팅 기능을 통해 여러 백엔드 모델/제공자로 요청을 자동으로 분배할 수 있어요.
핵심 내용
model_list에 여러 모델을 등록하고 라우팅 전략(지연 기반, 사용량 기반 등)을 설정해요.- 옵션 라우팅과 폴백으로 가용성을 높이고 비용을 최적화해요.
- Claude Code의 요청이 프록시에서 건강한/최적의 모델로 자동 라우팅되게 해요.
사용 예
config.yaml의 router_settings에 라우팅 전략을 설정해, Claude Code 요청이 가장 적합한 백엔드로 분산되도록 구성할 수 있어요.
이 페이지는 튜토리얼의 시작점이에요. 자세한 내용은 LiteLLM 라우팅 문서를 참고하세요.