Agent traces
출처: 문서
본문
Agent traces
3.6 버전부터 도입 {: .label .label-purple }
Agent traces는 생성형 AI 애플리케이션과 대규모 언어 모델(LLM) 에이전트에 관측 가능성(observability)을 제공해요. 일반적인 애플리케이션 모니터링과 달리, agent traces는 생성형 AI 시맨틱 컨벤션을 활용해서 LLM 호출, 토큰 사용량, 도구 호출, 에이전트 추론 흐름을 추적하는 데 특화되어 있어요.
사전 준비 사항
agent traces를 사용하려면 다음 항목이 필요해요:
- OpenSearch 클러스터 --
otel-v1-apm-span-*인덱스에 트레이스 데이터를 저장해요. - OpenSearch Dashboards -- 시각화를 위한 Agent Traces 패널을 제공해요.
- OpenSearch Data Prepper -- 트레이스 데이터를 처리해서 OpenSearch에 저장해요.
Agent traces 워크플로
Agent traces 워크플로는 다음 단계로 구성되어 있어요:
-
계측: AI 애플리케이션에 관측 가능성을 추가해요:
- OpenAI, Anthropic, Amazon Bedrock, LangChain 같은 라이브러리를 위한 데코레이터, enrichment 함수, 자동 LLM 계측 기능이 포함된 GenAI SDK를 사용해요.
-
정규화: OpenTelemetry Collector가 생성형 AI 시맨틱 컨벤션을 사용해 스팬을 표준화해서, 프로바이더 전반에서 일관된 속성 이름을 보장해요.
-
로컬 도구 사용 (선택 사항): 개발 중 로컬 디버깅, 스코어링, 평가를 위해 Agent Health를 사용해요.
-
처리: OpenSearch Data Prepper가 OpenTelemetry Protocol (OTLP) 데이터를 OpenSearch로 라우팅하면서 서비스 맵을 생성하고, 트레이스를 연관 짓고, 메트릭을 집계해요.
-
확인: OpenSearch Dashboards는 agent traces를 계층형 트리, 방향성 비순환 그래프(DAG), 타임라인 형태로 보여주고, 프로덕션 모니터링을 위한 메트릭도 함께 제공해요.
Agent traces는 다음 프레임워크와 프로바이더를 지원해요:
- 프레임워크: Strands Agents, LangGraph, CrewAI, 그리고 OpenAI Agents SDK.
- 프로바이더: OpenAI, Anthropic, Amazon Bedrock, LangChain, LlamaIndex, 그리고 그 외의 LLM 프로바이더.
시작하기
agent traces를 사용하기 시작하려면 다음 주제들을 살펴보세요:
- 애플리케이션 계측하기 -- SDK를 설치하고 AI 에이전트에 트레이싱을 추가해요.
- agent traces 보기 -- OpenSearch Dashboards에서 agent traces를 구성하고 탐색해요.