UI - 커스텀 루트 경로

UI - 커스텀 루트 경로 (UI - Custom Root Path)

💥 LiteLLM을 커스텀 base url 경로(예: https://localhost:4000/api/v1)로 서빙하고 싶을 때 사용해요.

출처: 문서

본문

info

v1.72.3 이상 필요.

제한사항:

UI 파일에 쓰기 액세스가 필요하므로 litellm non-root 이미지에서는 동작하지 않아요.

사용법 (Usage)

1. .env에 SERVER_ROOT_PATH 설정

👉 .env에 SERVER_ROOT_PATH를 설정하면 서버 루트 경로로 설정돼요.

export SERVER_ROOT_PATH="/api/v1"

2. 프록시 실행

litellm proxy --config /path/to/config.yaml

프록시 실행 후 http://0.0.0.0:4000/api/v1/에서 접근할 수 있어요 (SERVER_ROOT_PATH="/api/v1"을 설정했으므로).

3. 올바른 경로에서 실행되는지 검증

그게 전부예요. 커스텀 루트 경로에서 프록시를 실행하는 데 필요한 전부예요.

데모 (Demo)

커스텀 루트 경로에서 프록시를 실행하는 데모 동영상이 여기 있어요.