지출 큐 경고
지출 큐 경고 (Spend Queue Warnings)
LiteLLM 프록시에서 지출 기록이 큐(배치)로 처리될 때 나타나는 경고 메시지를 이해하고 해결하는 방법을 안내할게요.
출처: 문서
본문
LiteLLM은 성능을 위해 지출/로그 기록을 큐에 쌓아 비동기로 배치 처리해요. 이 과정에서 큐 관련 경고가 나타날 수 있어요.
흔한 경고와 의미
- 지출 기록이 큐에 밀려 지연되거나 유실될 수 있다는 경고
- RabbitMQ/Redis 등 큐 백엔드 미설정 또는 연결 문제
- 큐가 가득 차서 드롭이 발생
해결 방법
- 큐 백엔드(Redis 또는 RabbitMQ)가 올바르게 구성되어 있는지 확인하세요.
- 큐 소비자/워커가 실행 중인지 확인하세요.
- 큐 상태를 모니터링하고 필요하면 재시도/복구 설정을 확인하세요.
이 페이지는 지출 큐 경고 해결의 시작점이에요. 자세한 내용은 LiteLLM 로깅/지출 문서를 참고하세요.