Maxim 트레이싱 — 실시간 LLM 관측성
Maxim 트레이싱
Maxim의 트레이싱은 AI 애플리케이션을 실시간으로 모니터링하는 기업급 LLM 관측성 플랫폼이에요. 일관된 결과를 내도록 안정적인 앱을 만들고 운영하는 데 분산 트레이싱·실시간 모니터링·알림을 제공해요.
핵심 개념
- 로그(Logs)·트레이스(Traces)·리포지토리(Repositories) — 서비스 간 요청의 전체 여정을 트레이스로 묶고, 이를 저장소별로 정리해 깊은 모니터링·디버깅·평가를 가능하게 해요.
- Span — 트레이스 안에서 마이크로서비스 간 요청을 구성·추적하는 작업 단위.
- Generation — LLM 호출 하나를 기록. 트레이스·스팬마다 여러 generation을 담아 모든 LLM 상호작용을 추적해요.
- Retrieval — RAG 구성요소(검색 단계) 기록.
- Session — 여러 트레이스를 묶어 전체 사용자 인터랙션을 추적.
- Tool Calls / Errors / Events / Tags / Metadata / Attachments — 외부 호출, 오류, 이정표, 태그, 커스텀 메타데이터, 파일 첨부까지 관측성에 포함.
연동
OpenTelemetry(OTLP)로 트레이스를 수집할 수 있고, 데이터 커넥터로 New Relic·Snowflake·다른 OpenTelemetry 컬렉터에 포워딩할 수도 있어요. LangChain·LangGraph·OpenAI·CrewAI·LiteLLM·Anthropic·Mistral 등 다양한 SDK·프레임워크와 한 줄 통합을 지원해요.