✨ [Beta] 프로젝트 관리 UI

✨ [Beta] 프로젝트 관리 UI (Project Management UI)

LiteLLM Admin UI에서 프로젝트를 직접 관리할 수 있는 엔터프라이즈 기능이에요. 조직 계층에서 팀과 키 사이에 프로젝트를 두어 특정 사용 사례나 애플리케이션에 대한 세밀한 접근 제어와 예산 관리를 할 수 있게 해줘요.

출처: 문서

본문

엔터프라이즈 기능 이 기능은 LiteLLM Enterprise 라이선스가 필요해요. 무료 30일 체험판을 시작하거나 데모를 예약하세요. Enterprise에 포함된 내용을 확인하세요.

LiteLLM Admin UI에서 프로젝트를 직접 관리해요. 프로젝트는 조직 계층에서 팀과 키 사이에 위치하며, 특정 사용 사례나 애플리케이션에 대한 세밀한 접근 제어와 예산 관리를 가능하게 해요.

info

프로젝트 관리는 베타 기능이에요. API와 UI는 변경될 수 있어요. 전체 API 문서는 Project Management를 참고하세요.

개요

프로젝트를 사용하면 다음이 가능해요:

  • 사용 사례나 애플리케이션별로 API 키를 정리해요.
  • 프로젝트 수준의 예산과 속도 제한을 설정해요.
  • 프로젝트 수준에서 지출과 사용량을 추적해요.
  • 각 프로젝트가 접근할 수 있는 모델을 제어해요.
  • 서로 다른 애플리케이션 또는 팀 사이의 명확한 분리를 유지해요.

계층 구조: Organizations > Teams > Projects > Keys

프로젝트 API와 구성에 대한 자세한 내용은 Project Management를 참고하세요.

사전 요구 사항

  • Admin 또는 Team Admin 접근 권한
  • 팀이 하나 이상 생성되어 있어야 해요 (프로젝트는 팀에 속함)
  • LiteLLM Admin UI가 로컬 또는 원격으로 실행 중

UI 설정에서 프로젝트 사용하기

프로젝트를 만들기 전에 Admin UI 설정에서 Projects 기능을 활성화해야 해요.

1단계: Admin 설정 열기

Admin UI로 이동해요 (예: http://localhost:4000/ui/?login=success).

2단계: 설정 메뉴 열기

상단 탐색에서 "New" 버튼을 클릭해요.

3단계: Admin 설정으로 이동

"Admin Settings"를 클릭해요.

4단계: UI 설정 열기

"UI Settings New"를 클릭해요.

5단계: Projects 기능 활성화

토글을 클릭해 Projects 기능을 활성화해요. 활성화하면 Admin UI 탐색에 Projects 섹션이 나타나고, 프로젝트를 만들고 관리할 수 있게 돼요.

프로젝트 만들기 및 관리하기

Projects 기능을 활성화하면 Projects 페이지에서 프로젝트를 만들 수 있어요.

1단계: Projects로 이동

사이드바에서 "Projects New"를 클릭해요.

2단계: 새 프로젝트 만들기

"Create Project"를 클릭해요.

3단계: 프로젝트 이름 입력

"Project Name" 필드를 클릭하고 프로젝트 이름을 입력해요.

4단계: 팀 선택

이 프로젝트가 속할 팀을 선택해요. 프로젝트는 팀 범위로 한정되므로 해당 팀이 이용할 수 있는 모델과 기능만 접근할 수 있어요.

5단계: 모델 접근 구성

이 프로젝트가 접근할 모델을 선택해요. 사용 가능한 모델은 팀이 허용한 모델 범위로 한정돼요.

6단계: 프로젝트 만들기

"Create Project"를 클릭해 프로젝트를 저장해요.

사용 사례

팀 내 키 정리

팀 내 API 키를 사용 사례나 애플리케이션별로 정리해요. 관련 키들을 프로젝트로 묶어 예산, 모델 접근, 권한을 개별적으로가 아니라 하나의 단위로 관리해요.

비용 배분

프로젝트를 서로 다른 원가 센터나 팀에 할당해요. 프로젝트별 지출을 추적하고 비용을 책임 팀이나 사업 부서에 배분해요.

기능 출시

새 기능이나 실험적 사용 사례를 위한 전용 프로젝트를 만들어요. 테스트 중 어떤 모델을 사용할 수 있는지 제어하고 보수적인 속도 제한을 설정해요.

고객 세분화

플랫폼이라면 서로 다른 고객 세그먼트나 사용 사례별로 프로젝트를 만들어요. 각 세그먼트의 리소스 할당을 독립적으로 제어해요.

다음 단계

프로젝트를 만든 후에는:

  • API 키 생성 - 애플리케이션 사용을 위해 프로젝트 범위로 한정된 API 키를 만들어요.
  • 예산 설정 - Project Management API로 프로젝트 수준 예산 한도를 구성해요.
  • 지출 추적 - Usage 대시보드에서 프로젝트 수준 지출을 확인해요.
  • 접근 관리 - Access Groups로 모델과 MCP 서버 접근을 제어해요.

관련 문서

  • Project Management API - 프로젝트의 전체 API 레퍼런스
  • Access Groups - 모델, MCP 서버, 에이전트에 대한 재사용 가능한 접근 제어 정의
  • Virtual Keys - 프로젝트 범위로 한정된 API 키 생성 및 관리
  • Role-based Access Control - 조직, 팀, 사용자 역할
  • Spend Logs - 요청 수준 세부 비용 및 사용량 추적

더 알아보기 (Learn more)