Claude Code 비용 절감
Claude Code 비용 절감 (Cut Costs)
LiteLLM 프록시를 통해 Claude Code 사용 비용을 절감하는 방법을 안내하는 튜토리얼이에요.
출처: 문서
본문
Claude Code를 LiteLLM 게이트웨이로 연결하면 프록시의 라우팅·캐싱·예산 기능으로 비용을 절감할 수 있어요.
핵심 내용
- 여러 제공자/모델을 등록하고 가장 저렴한 경로로 라우팅해요 (가격 기반 라우팅).
- 응답/프롬프트 캐싱으로 반복 호출 비용을 줄여요.
- 키/팀/사용자 단위 예산과 속도 제한으로 통제된 사용을 유도해요.
- 로깅으로 지출을 분석해 최적화 포인트를 찾아요.
사용 예
config.yaml에서 저렴한 모델을 우선하도록 router 라우팅 전략을 설정하고, 캐시를 켜서 재사용을 유도할 수 있어요.
이 페이지는 튜토리얼의 시작점이에요. 자세한 내용은 LiteLLM 라우팅/비용 최적화 문서를 참고하세요.