Datadog LLM Observability
Datadog LLM Observability
Datadog가 제공하는 LLM 전용 관찰가능성 플랫폼을 다루는 카테고리예요. Datadog은 원래 인프라·애플리케이션 모니터링으로 유명한 회사인데, 여기에 LLM과 AI 에이전트의 요청을 트레이스(trace)·스팬(span) 단위로 추적하고 비용·지연·토큰 사용량·오류를 관찰하며, 응답 품질과 보안을 **평가(evaluation)**까지 하는 LLM Observability가 얹혀 있어요. 챗봇 같은 LLM 앱을 운영하면서 성능 저하의 원인을 찾고, 환각이나 프롬프트 인젝션 같은 품질·보안 문제를 다잡고 싶을 때 써요.
이 카테고리의 문서
- 관찰 전반: Overview — LLM 애플리케이션 모니터링·트러블슈팅·평가의 전체 그림
- 트레이싱 시작: Quickstart — Python·Node.js·Java SDK로 첫 트레이스를 생성하는 순서
- 계측 방식: Instrumentation — SDK 자동/커스텀 계측과 HTTP API 엔드포인트
- 조사·평가: Investigate — 대시보드, 쿼리, 패턴, 온라인 평가
- 가드레일·데이터: Data Governance — 접근 제어, 데이터 레드액션, 보존 기간