통합

통합 (Integrations)

Confident AI는 광범위한 통합을 지원해서 여러분의 기존 워크플로에 매끄럽게 들어맞아요. 네이티브 SDK를 쓰든 서드파티 프레임워크를 쓰든, 다 커버해요.

출처: 문서

본문

개요

통합은 두 가지 다른 워크플로에 유용해요:

LLM 앱을 트레이스하고 싶을 때,
개발에서 평가를 실행하고 싶을 때

모든 통합이 전자의 용례를 지원해요. 개발에서 평가를 실행하려면 각 통합의 문서 페이지를 확인해서 end-to-end, 컴포넌트 수준, multi-turn 평가를 실행할 수 있는지 알아보아야 해요.

OpenTelemetry (OTEL)

OpenTelemetry는 오픈소스, 벤더 중립적인 관측성 프레임워크예요. Confident AI는 https://otel.confident-ai.com에서 OTEL 트레이스를 네이티브로 받아들이므로, 다음과 같은 팀에게 가장 좋은 옵션이에요:

어떤 프로그래밍 언어든 사용(Python/TypeScript뿐만 아니라)
이미 OTEL 기반 관측성 스택을 가진
벤더 록인 없이 표준 기반 트레이싱 접근을 원하는
여러 서비스에 걸친 분산 트레이싱이 필요한

OpenTelemetry 개요

OTEL 서버가 어떻게 동작하는지, 그리고 받아들이는 gen_ai, confident, OpenInference, OpenLLMetry 관례에 대해 설명해요.

수동 인스트루먼테이션

원시 OpenTelemetry SDK용 퀵스타트와 전체 속성 레퍼런스예요.

분산 트레이싱

여러 서비스와 마이크로서비스에 걸친 트레이스 상관관계를 만들어요.

서드파티 통합

인기 있는 프레임워크와 프로바이더를 위한 원라이너 통합으로 LLM 애플리케이션을 자동 인스트루먼트해요.

Python과 TypeScript 지원은 통합마다 달라요. 지원되는 런타임과 설정 요구사항은 각 페이지를 확인하세요.

모든 confident-trace 통합은 트레이스 컨텍스트를 통해 자동 인스트루먼트된 트레이스에 user와 customer ID를 붙일 수 있어요.

OpenAI

Chat completion과 responses API.

LangChain

AI 애플리케이션 구축 프레임워크.

Pydantic AI

Python용 타입 안전 에이전트 프레임워크.

LangGraph

상태 유지 AI 애플리케이션용 그래프 기반 프레임워크.

Deep Agents

파일시스템 툴과 서브에이전트 위임을 가진 에이전트 프레임워크.

OpenAI Agents

지능형 어시스턴트용 OpenAI의 에이전트 프레임워크.

Claude Agent SDK

프로덕션 AI 에이전트 구축용 Anthropic의 SDK.

Vercel AI SDK

모든 AI 기반 애플리케이션용 Vercel의 TypeScript AI SDK.

Crew AI

협업 AI 워크플로를 위한 멀티에이전트 오케스트레이션.

LlamaIndex

RAG 시스템과 지식 에이전트용 데이터 프레임워크.

Strands Agents

네이티브 OTel 트레이싱을 가진 AWS 오픈소스 에이전트 프레임워크.

LiveKit Agents

Python과 TypeScript의 실시간 음성·멀티모달 에이전트.

Google ADK

멀티에이전트 시스템 구축용 Google의 Agent Development Kit.

smolagents

Python용 가벼운 에이전트 프레임워크.

Agno

에이전트, 팀, 워크플로 구축 프레임워크.

클라우드 런타임

AWS, Microsoft Azure, Google Cloud에 배포된 에이전트의 OpenTelemetry 트레이스를 Confident AI로 보내요. 각 가이드는 호스팅 에이전트의 exporter 구성과 플랫폼별 설정을 다뤄요.

LLM 게이트웨이

LLM 게이트웨이나 프록시를 쓴다면, 이 통합들이 라우팅하는 모든 프로바이더에 걸쳐 트레이스를 자동으로 캡처해요.

통합