✨ 임시 예산 증가
✨ 임시 예산 증가 (Temporary Budget Increase)
LiteLLM 가상 키(Virtual Key)에 임시 예산 증가를 설정하는 방법을 알려드릴게요. 어떤 키의 예산을 일시적으로 늘려달라는 요청을 받았을 때 사용하면 돼요.
출처: 문서
본문
| Hierarchy | Supported |
|---|---|
| LiteLLM Virtual Key | ✅ |
| User | ❌ |
| Team | ❌ |
| Organization | ❌ |
엔터프라이즈 기능 임시 예산 증가 기능을 사용하려면 LiteLLM 엔터프라이즈 라이선스가 필요해요. 무료 30일 체험판 을 시작하거나 데모를 예약 하세요. 엔터프라이즈에 포함된 기능 을 확인해 보세요.
- 예산이 있는 LiteLLM 가상 키 만들기
curl -L -X POST 'http://localhost:4000/key/generate' \
-H 'Content-Type: application/json' \
-H 'Authorization: Bearer LITELL..._KEY' \
-d '{
"max_budget": 0.0000001
}'
예상 응답:
{
"key": "***"
}
- 키에 임시 예산 증가 업데이트하기
curl -L -X POST 'http://localhost:4000/key/update' \
-H 'Authorization: Bearer LITELL..._KEY' \
-H 'Content-Type: application/json' \
-d '{
"key": "***",
"temp_budget_increase": 100,
"temp_budget_expiry": "2025-01-15"
}'
- 테스트해 보기!
curl -L -X POST 'http://localhost:4000/chat/completions' \
-H 'Authorization: Bearer ***' \
-H 'Content-Type: application/json' \
-d '{
"model": "gpt-5.6-terra",
"messages": [{"role": "user", "content": "Hello, world!"}]
}'
예상 응답 헤더 (Expected Response Header):
x-litellm-key-max-budget: 100.0000001