에이전트 SDK
에이전트 SDK (Agent SDKs)
LiteLLM 프록시를 통해 OpenAI Agents SDK, Claude Agent SDK, CopilotKit, Google GenAI SDK 등 다양한 에이전트/앱 SDK를 연결할 수 있어요. 하나의 게이트웨이로 여러 LLM 공급자를 사용하고 비용·스펜드 제한 등을 관리할 수 있답니다.
출처: 문서
본문
- 📄️ OpenAI Agents SDK with LiteLLM: LiteLLM 프록시를 통해 어떤 LLM 공급자와도 OpenAI의 Agents SDK를 사용할 수 있어요.
- 📄️ Claude Agent SDK with LiteLLM: LiteLLM 프록시를 통해 어떤 LLM 공급자와도 Anthropic의 Claude Agent SDK를 사용해요.
- 📄️ CopilotKit SDK with LiteLLM: LiteLLM 프록시를 통해 어떤 LLM 공급자와도 CopilotKit SDK를 사용해요.
- 📄️ Google ADK with LiteLLM: Google ADK 연결 가이드예요.
- 📄️ Google GenAI SDK with LiteLLM: Google 공식 GenAI SDK(JavaScript/TypeScript 및 Python)를 LiteLLM 프록시를 통해 사용해요.
- 📄️ LiveKit xAI Realtime Voice Agent: LiveKit의 xAI Grok Voice Agent 플러그인을 LiteLLM 프록시와 결합해 저지연 음성 AI 에이전트를 만들 수 있어요.
- 📄️ Letta Integration: Letta(구 MemGPT)는 영구 메모리를 가진 상태 기반 LLM 에이전트를 만드는 프레임워크예요. LiteLLM SDK와 프록시를 모두 연동해 메모리 기반 에이전트에서 여러 LLM 공급자를 쓸 수 있어요.
- 📄️ Scalekit with LiteLLM: 인증된 툴 호출을 LiteLLM 기반 에이전트에 추가할 수 있어요. Scalekit이 100개 이상의 서드파티 앱(Gmail, GitHub, Slack, Salesforce 등)의 OAuth 흐름, 토큰 저장, API 실행을 관리해요.
- 📄️ Instructor with LiteLLM: LiteLLM과 jxnl의 instructor 라이브러리를 결합해 더 견고한 구조화된 출력을 만들 수 있어요. 출력이 자동으로 Pydantic 타입으로 검증되고, 검증 오류가 모델에 다시 전달되어 재시도 성공 가능성을 높여요.
- 📄️ LangChain with LiteLLM: LangChain 연동 전제 조건을 안내해요.
- 📄️ OpenAI Agents SDK: LiteLLM 프록시를 통해 어떤 LLM 공급자와도 OpenAI Agents SDK를 사용해요.