LiteLLM 스킬

LiteLLM 스킬 (LiteLLM Skills)

litellm-skills는 실행 중인 LiteLLM 프록시를 관리하기 위한 Agent Skills 모음이에요. 한 번 설치하면 Agent Skills 표준을 지원하는 모든 에이전트(Claude Code, OpenCode, OpenClaw 등)가 프록시에 대해 curl 명령을 실행해서 사용자, 팀, 키, 모델, MCP 서버, 에이전트를 만들고 사용량을 조회할 수 있어요.

출처: 문서

본문

설치

curl -fsSL https://raw.githubusercontent.com/BerriAI/litellm-skills/main/install.sh | sh

요구 사항

  • curl 설치

  • 실행 중인 LiteLLM 프록시(로컬 또는 원격)

  • llm_api_routes로 범위가 제한된 가상 키가 아니라 프록시 관리자 키(admin key)

사용 가능한 스킬

사용자 (Users)

| 스킬 | 하는 일 | | /add-user | 사용자 생성 — 이메일, 역할, 예산, 모델 접근 | | /update-user | 기존 사용자의 예산, 역할, 모델 업데이트 | | /delete-user | 한 명 이상의 사용자 삭제 |

팀 (Teams)

| 스킬 | 하는 일 | | /add-team | 예산과 모델 제한이 있는 팀 생성 | | /update-team | 예산, 모델, 속도 제한 업데이트 | | /delete-team | 한 개 이상의 팀 삭제 |

API 키 (API Keys)

| 스킬 | 하는 일 | | /add-key | 사용자, 팀, 예산, 만료일에 범위가 한정된 키 생성 | | /update-key | 예산, 모델, 만료일 업데이트 | | /delete-key | 키 값 또는 별칭으로 삭제 |

조직 (Organizations)

| 스킬 | 하는 일 | | /add-org | 예산과 모델 접근이 있는 조직 생성 | | /delete-org | 한 개 이상의 조직 삭제 |

모델 (Models)

| 스킬 | 하는 일 | | /add-model | 모든 제공자(OpenAI, Azure, Anthropic, Bedrock, Ollama…) 추가 및 테스트 | | /update-model | 자격 증명 교체 또는 기본 배포 전환 | | /delete-model | 모델 제거 |

MCP 서버

| 스킬 | 하는 일 | | /add-mcp | MCP 서버 등록(SSE, HTTP 또는 stdio) | | /update-mcp | URL, 자격 증명 또는 허용 도구 업데이트 | | /delete-mcp | MCP 서버 제거 |

에이전트 (Agents)

| 스킬 | 하는 일 | | /add-agent | 모델과 선택적 MCP 서버로 구동되는 에이전트 생성 | | /update-agent | 모델 교체 또는 설명과 제한 업데이트 | | /delete-agent | 에이전트 제거 |

사용량 (Usage)

| 스킬 | 하는 일 | | /view-usage | 일일 지출 및 토큰 활동 — 사용자, 팀, 조직, 모델별 |

동작 원리

스킬을 호출하면 에이전트가 사용자의 LITELLM_BASE_URL과 관리자 키를 묻고, 해당 작업에 필요한 필드를 수집한 뒤 curl을 실행하고 그 결과를 보여줘요. 예를 들어:

/add-model

→ 에이전트가 제공자, 공개 이름, 자격 증명을 물어봐요. 모델을 추가하고 테스트 완성(completion)을 실행해 통과/실패를 보고해요.

/view-usage

→ 에이전트가 날짜 범위(기본값은 현재 달), 선택적 팀/모델 필터를 물어봐요. 일일 요청, 토큰, 지출 표를 출력해요.

더 알아보기 (Learn more)