Langtrace — LLM 앱을 위한 오픈소스 옵저버빌리티

Langtrace는 LLM 앱을 개선하기 위해 트레이스를 수집·분석하는 오픈소스 옵저버빌리티 도구예요. OpenTelemetry 기반이라 Langtrace API 키 없이도 Grafana·Datadog·Honeycomb 등 기존 관측 스택으로 보낼 수 있어요.

출처: https://docs.langtrace.ai/

토큰·비용(Usage), 정확도(Accuracy), 레이턴시·성공률(Performance)이라는 세 축을 최적화의 대상으로 삼아요. Python·TypeScript SDK를 제공하고 셀프 호스팅도 지원해요.

더 알아보기