관측 가능성
관측 가능성 (Observability) (observability)
Qdrant를 운영하다 보면, 벡터 검색 응용 프로그램(특히 LLM 앱)의 성능과 동작을 눈으로 확인하고 싶을 때가 있어요. 관측 가능성(Observability)은 바로 이런 문제를 다루는 영역이에요. Qdrant는 LLM과 벡터 데이터베이스 애플리케이션을 추적하고 모니터링할 수 있도록 여러 오픈소스 관측 도구와 통합을 제공해요. 어떤 도구들이 있는지 아래 표로 정리해 볼게요.
출처: Qdrant 공식문서
Observability 통합 (Observability Integrations)
| 도구 | 설명 |
|---|---|
| OpenLIT | LLM과 벡터 데이터베이스를 위한 OpenTelemetry 네이티브 관측 및 평가(Evals) 플랫폼. |
| OpenLLMetry | LLM 애플리케이션에 관측 기능을 추가하기 위한 OpenTelemetry 확장 모음. |
| Datadog | 클라우드 기반 모니터링 및 분석 플랫폼. |
각 도구마다 특징과 사용법이 조금씩 달라요. 어떤 도구가 내 운영 환경에 맞는지, 그리고 연동을 어떻게 설정하는지가 궁금하다면 위 링크의 개별 가이드를 따라가 보세요.
더 알아보기 (Learn more)
- OpenLIT — OpenLIT 연동 가이드
- OpenLLMetry — OpenLLMetry 연동 가이드
- Datadog — Datadog 연동 가이드