사용자 온보딩 가이드

사용자 온보딩 가이드 (User Onboarding Guide)

어드민이 LiteLLM 프록시 인스턴스에 사용자를 온보딩하고, 사용자가 자신의 API 키로 시작할 수 있도록 돕는 단계별 가이드예요. 어드민용 설정 과정과 최종 사용자용 키 검증 과정을 함께 안내할게요.

출처: 문서

본문

어드민이 사용자를 여러분의 LiteLLM 프록시 인스턴스에 온보딩하고, 사용자가 자신의 API 키로 시작할 수 있도록 돕는 단계별 가이드예요.

관리자용

1단계: 사용자 계정 만들기

Admin UI 또는 API를 사용해 사용자 계정을 만들 수 있어요.

Admin UI

  • /ui 엔드포인트로 이동해요.
  • Internal Users 섹션으로 이동해요.
  • "Add User"를 클릭하고 필요한 세부 정보를 채워 넣어요.

API

curl -X POST http://localhost:4000/user/new \
  -H "Authorization: Bearer ***" \
  -H "Content-Type: application/json" \
  -d '{"user_email": "[email protected]"}'

2단계: 접근 및 권한 부여

  • 사용자를 팀에 할당해요 (선택 사항).
  • 필요에 따라 예산, 속도 제한, 허용 모델을 설정해요.
  • 사용자를 위한 API 키를 생성해요 (UI 또는 API로).

API 키 생성 (API 예시)

curl -X POST http://localhost:4000/key/generate \
  -H "Authorization: Bearer ***" \
  -H "Content-Type: application/json" \
  -d '{"user_id": "<user-id>", "max_budget": 100}'

최종 사용자용

3단계: API 키 검증하기

LLM 호출을 하기 전에 /v1/models 엔드포인트를 호출해 키가 동작하는지 검증해요:

curl -X GET http://localhost:4000/v1/models \
  -H "Authorization: Bearer ***"
  • 키가 유효하면 사용 가능한 모델 목록을 받아요.
  • 유효하지 않으면 401 오류가 나와요.

4단계: Hello World - 첫 LLM 호출

curl -X POST http://localhost:4000/v1/chat/completions \
  -H "Authorization: Bearer ***" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5.6-luna",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

문제 해결

  • 401 오류가 나오면 어드민에게 키가 활성 상태이고 요청한 모델에 접근 권한이 있는지 확인해 달라고 하세요.
  • /v1/models 엔드포인트를 사용해 LLM 토큰을 소비하지 않고 키가 유효한지 빠르게 확인할 수 있어요.

같이 보기

  • Proxy Quick Start
  • User Management
  • Key Management

더 알아보기 (Learn more)