PromptLayer 관측성 — 요청 로그와 트레이스
PromptLayer 관측성
관측성은 모델 호출을 들여다보고, 프롬프트·에이전트·도구·워크플로를 가로지르는 AI 애플리케이션의 실행을 따라가는 데 초점을 맞춰요. PromptLayer는 관측성 데이터를 크게 두 가지 산출물로 조직합니다.
출처: https://docs.promptlayer.com/features/observability/overview
두 산출물
| 산출물 | 용도 |
|---|---|
| Request Log | 개별 모델 호출의 입력·출력·오류·사용량·비용을 기록 |
| Trace | LLM 호출·에이전트·도구·검색·커스텀 스팬의 계층으로 한 end-to-end 작업을 추적 |
트레이스는 여러 모델 호출을 포함할 수 있어 여러 Request Log에 연결돼요.
설정 방법
- 요청 로깅: 요청이 어떻게 캡처될지 선택하고, ID·태그·메타데이터·점수·프롬프트 연결을 추가
- 트레이싱: PromptLayer SDK 스팬, 제공자 자동 계측, 텔레메트리 통합, OpenTelemetry 중 선택
검색·분석
콘텐츠 쿼리·구조 필터·날짜 범위로 요청 로그나 트레이스를 검색하고, 그 결과를 차트로 집계하는 Analytics도 제공해요.