UI 지출 로그 설정

UI 지출 로그 설정 (UI Spend Log Settings)

config 파일을 수정하거나 프록시를 재시작하지 않고 Admin UI에서 직접 지출 로그 동작을 구성하는 방법이에요. config 업데이트가 어렵거나 긴 릴리스 과정이 필요한 클라우드 배포에서 특히 유용해요.

출처: 문서

본문

config 파일을 수정하거나 프록시를 재시작하지 않고 Admin UI에서 직접 지출 로그 동작을 구성해요. config 업데이트가 어렵거나 긴 릴리스 과정이 필요한 클라우드 배포에서 도움이 돼요.

개요

이전에는 지출 로그 옵션(요청/응답 내용 저장, 보존 기간 등)을 proxy_config.yaml의 general_settings 아래에 설정해야 했어요. 변경하려면 config를 수정하고 프록시를 재시작해야 했는데, 특히 config에 쉽게 접근할 수 없거나 배포 과정이 config 업데이트를 느리게 만드는 클라우드 환경의 사용자에게는 불편한 점이었어요.

UI 지출 로그 설정으로 할 수 있는 일들:

지출 로그에 프롬프트 저장 - 지출 로그 테이블에 요청 및 응답 내용을 저장할지 켜고 끄기 (설정을 변경한 뒤 생성된 로그에만 영향)
보존 기간 설정 - 자동 정리 전 지출 로그를 얼마나 유지할지 구성 (예: 7d, 30d)
변경 즉시 적용 - 프록시 재시작 불필요; 저장하는 즉시 새 요청에 설정이 적용

UI가 config를 덮어써요 UI에서 변경한 설정은 config 파일의 값을 덮어써요. 예를 들어 general_settings에서 store_prompts_in_spend_logs가 false로 명시되어 있어도, UI에서 켜면 프롬프트 저장을 여전히 활성화할 수 있어요. 재배포 없이 런타임 제어를 원할 때 UI를 사용하세요.

구성할 수 있는 설정

설정	설명
Store Prompts in Spend Logs	활성화하면 새 지출 로그에 요청 메시지와 응답 내용이 저장되어 Logs UI에서 볼 수 있어요. 활성화 전에 생성된 로그에는 요청/응답 내용이 없어요. 비활성화하면 새 로그에는 메타데이터(예: 토큰, 비용, 모델)만 저장돼요.
Retention Period	로그가 자동 삭제되기 전 최대 유지 기간 (예: `7d`, `30d`). 선택 사항이며, 설정하지 않으면 config나 기본 동작에 따라 로그가 유지돼요.

같은 옵션을 config의 general_settings (store_prompts_in_spend_logs, maximum_spend_logs_retention_period)로도 설정할 수 있어요. UI에서 설정한 값이 우선해요.

UI에서 지출 로그 설정 구성하기

1. Logs 페이지 열기

Admin UI로 이동해(예: http://localhost:4000/ui 또는 PROXY_BASE_URL/ui) Logs를 클릭해요.

2. Logs 설정 열기

Logs 페이지에서 설정(톱니) 아이콘을 클릭해 지출 로그 설정 패널을 열어요.

3. Store Prompts in Spend Logs 활성화 (선택 사항)

새 요청에 대해 요청 및 응답 내용을 저장하고 해당 로그 항목을 열 때 보이게 하려면 Store Prompts in Spend Logs를 켜요. 활성화한 뒤 생성된 로그에만 영향을 주며, 기존 로그에는 요청/응답 내용이 추가되지 않아요. 메타데이터(토큰, 비용, 모델 등)만 필요하면 꺼 두어요.

4. 보존 기간 설정 (선택 사항)

자동 정리 전 지출 로그를 얼마나 유지할지 Retention Period (예: 7d, 30d)를 설정해요. config 옵션 maximum_spend_logs_retention_period와 같은 형식을 사용해요.

5. 설정 저장

Save Settings를 클릭해요. 변경 사항은 새 요청에 즉시 적용되며 프록시 재시작은 필요 없어요. 기존 로그는 업데이트되지 않아요.

6. 확인: 로그에서 요청과 응답 보기

Store Prompts in Spend Logs를 활성화한 뒤 프록시를 통해 새 요청을 보내고 그 로그 항목(또는 설정 활성화 후 생성된 다른 로그)을 열어요. 로그 상세 보기에 요청과 응답 내용이 포함될 거예요. 설정을 켜기 전에 있던 로그에는 이 내용이 없어요.

사용 사례

클라우드 및 관리형 배포

프록시가 관리형 또는 클라우드 환경에서 실행되면 config가 별도 저장소에 있거나 긴 릴리스가 필요하거나 다른 팀이 관리할 수 있어요. UI를 사용하면 그 과정을 거치지 않고 지출 로그 동작을 변경할 수 있어요 (예: 디버깅을 위해 프롬프트 저장 활성화, 보존 기간 설정).

빠른 디버깅 토글

디버깅 시 새 요청의 요청/응답 내용을 검사하려면 Store Prompts in Spend Logs를 임시로 켜고, config를 수정하거나 재시작 없이 다시 끌 수 있어요. 설정이 켜져 있는 동안 생성된 로그에만 내용이 포함돼요.

재배포 없는 보존 기간 조정

지출 로그 보존 기간을 조정하고(예: 저장 공간을 줄이기 위해 단축하거나 규정 준수를 위해 연장) 새 보존 기간과 정리 작업이 즉시 적용되게 해요.

UI 지출 로그 설정