AI 도구

AI 도구 (AI Tools)

LiteLLM을 AI 코딩 도구 및 CLI와 연결하는 방법을 정리한 페이지예요. 각 도구를 LiteLLM 게이트웨이에 연결하면 통합 로깅, 예산 관리, 비용 추적, 그리고 100개 이상의 프로바이더 접근을 단일 게이트웨이에서 누릴 수 있어요.

본문

아래는 LiteLLM에 연결할 수 있는 인기 AI 도구 통합 목록이에요:

  • 📄️ Open WebUI — Open WebUI를 LiteLLM에 연결하는 가이드예요. Open WebUI와 LiteLLM을 함께 사용하면 팀이
  • 🗃️ Claude Code — 17개 항목
  • 📄️ Claude Desktop (Cowork) — Claude Desktop (Cowork, Chat, Code 세션)을 LiteLLM의 추론 게이트웨이로 지정해요. LiteLLM JWT 인증 또는 정적 가상 키로 SSO, 같은 신원으로 LiteLLM MCP 게이트웨이를 통한 MCP 서버, fleet rollout을 지원해요.
  • 📄️ OpenCode Quickstart — OpenCode를 기존 LiteLLM 인스턴스에 연결하고 모델을 전환하는 방법을 보여주는 튜토리얼이에요.
  • 📄️ OpenClaw — OpenClaw는 채팅 앱(WhatsApp, Telegram, Discord 등)을 LLM 프로바이더에 연결하는 셀프 호스팅 AI 어시스턴트예요. OpenClaw를 LiteLLM Proxy로 라우팅하면 단일 게이트웨이에서 100개 이상의 프로바이더, 비용 추적, 지출 한도, 자동 장애 조치를 누릴 수 있어요.
  • 📄️ Cursor Integration — Cursor IDE 요청을 LiteLLM으로 라우팅해 통합 로깅, 예산 제어, 그리고 모든 모델 접근을 지원해요. Cursor를 MCP 도구에 연결하려면 MCP Configuration Reference의 direct-client URL과 헤더를 사용하세요.
  • 📄️ GitHub Copilot / VS Code — VS Code 채팅에서 LiteLLM Proxy를 사용하는 두 가지 방법을 보여주는 튜토리얼이에요. LiteLLM 확장은 게이트웨이를 언어 모델 프로바이더로 추가해 채팅 모델 선택기에 키가 도달할 수 있는 모델(각 모델의 가격 및 reasoning effort 제어 포함)을 나열해요. Copilot proxy override는 GitHub Copilot 자체 트래픽을 프록시로 지정합니다.
  • 📄️ Gemini CLI — Gemini CLI를 LiteLLM Proxy와 통합해 LiteLLM의 통합 인터페이스로 요청을 라우팅하는 튜토리얼이에요.
  • 📄️ Qwen Code CLI — Qwen Code CLI를 LiteLLM Proxy와 통합해 요청을 LiteLLM의 통합 인터페이스로 라우팅하는 튜토리얼이에요.
  • 📄️ Retool Assist — Retool Assist를 LiteLLM Proxy에 연결하는 가이드예요. Retool Assist는 Retool 앱 IDE 안에서 AI를 사용해 앱을 생성·편집해요. LiteLLM과 함께 사용하면:
  • 📄️ Track Usage for Coding Tools — Claude Code, Roo Code, Gemini CLI, OpenAI Codex 같은 AI 코딩 도구의 사용량과 비용을 LiteLLM을 통해 추적해요.

출처: 문서

더 알아보기 (Learn more)