LiteLLM 배우기
LiteLLM 배우기 (Learn LiteLLM)
LiteLLM은 100개 이상의 LLM 프로바이더를 위한 하나의 OpenAI 호환 인터페이스를 제공해요. 자신의 설정에 맞는 경로부터 시작해 보세요.
출처: 문서
본문
LiteLLM은 100개 이상의 LLM 프로바이더를 위한 단일 OpenAI 호환 인터페이스를 제공해요. 자신의 환경에 맞는 경로부터 시작해 보세요.
여기서 시작하기 (Start Here)
먼저 하나의 경로를 선택하세요.
- 🐍 SDK Quickstart — 애플리케이션 코드에서 LiteLLM을 직접 사용
- 설치 → 첫 요청 → 다음 SDK 기능
- 🖥️ Gateway Quickstart — LiteLLM을 공유 게이트웨이로 실행
- 프록시 시작 → 모델·키 추가 → 클라이언트 연결
- ✨ Enterprise Quickstart — LiteLLM Enterprise Quickstart 가이드: LLM, MCP, Agent 게이트웨이
- 라이선스로 배포 → 세 게이트웨이 검증 → 엔터프라이즈 컨트롤 활성화
일반 작업 (Common Tasks)
특정 작업으로 바로 이동해요.
- ⚡ Stream Responses — 토큰이 생성되는 즉시 반환
- 🧰 Use Tools — 앱에 함수 호출 추가
- 🔀 Add Routing — 재시도, 폴백, 로드 밸런싱
- 🔑 Set Up Keys — 게이트웨이 인증, 가상 키, 접근 제어
- 📈 Add Logging — 요청 로그와 지출 데이터 캡처
- 🌐 Choose A Provider — 프로바이더별 인증과 파라미터 확인
문서 지도 (Docs Map)
원하는 문서 유형을 이미 알고 있을 때 활용해요.
- 📚 Guides — 기능 참조
- 🛠️ Tutorials — 단계별 통합
어디서 시작할지 모르겠다면, 앱 코드에는 SDK Quickstart, 공유 인프라에는 Gateway Quickstart, 트라이얼이나 PoC 평가에는 ✨ Enterprise Quickstart를 추천해요.