AWS Bedrock AgentCore

AWS Bedrock AgentCore

호스팅 에이전트 트레이스를 OpenTelemetry로 Confident AI에 내보내요.

출처: 문서

본문

개요

Amazon Bedrock AgentCore Runtime은 AI 에이전트를 호스팅하고 확장해요. 호스팅 에이전트가 생성한 OpenTelemetry 스팬을 OTLP exporter로 Confident AI에 직접 보내요.

에이전트가 이미 OpenTelemetry 스팬을 내보낸다면 그 인스트루먼테이션을 재사용하고 exporter를 구성하면 돼요. 기존 스팬을 Confident AI에 보내기 위해서만 confident-trace를 설치할 필요는 없어요. 인스트루먼테이션이 필요한 애플리케이션이라면 AgentCore SDK 통합을 보세요.

시작 전에

  • 에이전트 프레임워크가 OpenTelemetry 스팬을 내보내는 AgentCore 배포.
  • 에이전트 프로세스에 설치되고 초기화된 OTLP/HTTP protobuf 트레이스 exporter.
  • Confident AI의 프로젝트 API 키.
  • 런타임에서 Confident AI 수집 엔드포인트까지의 아웃바운드 HTTPS 접근.

트레이스 내보내기 구성하기

외부 관측성용 AgentCore 구성하기

AgentCore 배포 구성에서 DISABLE_ADOT_OBSERVABILITY를 true로 설정해요. AWS는 이 설정을 다른 관측성 플랫폼을 쓸 때 문서화해요: 런타임의 기본 ADOT 환경 변수를 지워요. 기본값을 제거한 뒤 여러분 애플리케이션의 자체 인스트루먼테이션과 exporter를 구성하세요.

이것은 기본 텔레메트리 설정을 바꿔요. CloudWatch에서도 애플리케이션 트레이스가 필요하면 의도적으로 별도 내보내기 경로를 구성하세요. 기본 ADOT 내보내기가 계속 켜져 있다고 가정하지 마세요.

트레이스 exporter를 Confident AI로 지정하기

에이전트의 OpenTelemetry SDK가 쓰는 환경에서 다음 설정을 구성해요:

Setting Value
OTEL_EXPORTER_OTLP_TRACES_ENDPOINT https://otel.confident-ai.com/v1/traces
OTEL_EXPORTER_OTLP_TRACES_PROTOCOL http/protobuf
OTEL_EXPORTER_OTLP_TRACES_HEADERS x-confident-api-key=YOUR_CONFIDENT_PROJECT_KEY
OTEL_SERVICE_NAME A stable name for your agent

EU 프로젝트라면 https://eu.otel.confident-ai.com/v1/traces를 써요. 셀프호스팅 배포라면 전체 OTLP/HTTP 트레이스 URL을 써요. API 키는 배포의 시크릿 구성으로 공급하세요.

이 설정은 초기화된 OTLP exporter가 읽어요. 환경 변수만으로는 스팬을 만들거나 트레이싱을 초기화하지 않아요. 프레임워크가 exporter를 명시적으로 구성한다면 거기에 같은 엔드포인트, 프로토콜, 헤더를 공급하세요. OpenTelemetry 설정을 보세요.

배포하고 검증하기

업데이트된 에이전트를 배포하고 한 번 호출해요. Confident AI 프로젝트에서 Observatory를 열고 그 호출이 만든 트레이스를 찾아요. 스팬 계층, 모델·툴 연산, 인스트루먼테이션이 캡처한 메시지 내용을 확인하세요.

exporter가 배치를 플러시하게 해요. 에이전트 프로세스가 종료될 때 정상 종료가 대기 중인 스팬을 플러시하게 하세요.

무엇이 캡처되나요

Confident AI는 애플리케이션이 내보내는 스팬 — 에이전트 실행, 모델 호출, 툴 실행, 인스트루먼테이션이 지원하는 커스텀 연산 — 을 받아요. 입력/출력 내용과 토큰 사용량은 프레임워크의 캡처 설정과 내보내는 속성에 달려요.

최종 사용자와 그 계정을 식별하려면 트레이스 수준 confident.trace.user.id와 confident.trace.customer.id 속성을 설정하세요. 표시 이름과 레거시 *_id 별칭은 수동 인스트루먼테이션을 보세요.

Runtime, Memory, Gateway 등 관리 리소스에 대한 AgentCore 서비스 생성 텔레메트리는 별도의 AWS 전달 설정이 있어요. 애플리케이션의 OTLP exporter를 구성하는 것으로 그 모든 서비스 스팬이 Confident AI로 리다이렉트되지는 않아요.

문제 해결

  • 트레이스 없음: 에이전트가 OTLP 트레이스 exporter를 초기화하고 실제로 스팬을 내보내는지 확인하세요. 런타임 기본값이 의도한 구성을 대체하지 않았는지 확인하세요.
  • 인증 오류: 프로젝트 키와 x-confident-api-key 헤더, 프로젝트 리전을 확인하세요.
  • 메시지나 모델 세부 정보 누락: 프레임워크의 콘텐츠 캡처 설정과 지원되는 스팬 속성을 살펴보세요.
  • 중복 스팬: 여러 인스트루먼테이션 라이브러리가 같은 연산을 트레이스하지 않는지 확인하세요.

런타임의 외부 관측성 설정과 별도 서비스 텔레메트리 옵션은 AWS의 관측성 구성을 보세요.

더 알아보기