Microsoft Foundry

Microsoft Foundry

호스팅 에이전트 트레이스를 OpenTelemetry로 Confident AI에 내보내요.

출처: 문서

본문

개요

Microsoft Foundry hosted agents가 여러분의 에이전트 애플리케이션을 관리형 컨테이너에서 실행해요. 애플리케이션의 OpenTelemetry 트레이스 exporter를 구성해서 에이전트, 모델, 툴 스팬을 Confident AI로 보내요.

Foundry는 기본적으로 호스팅 에이전트에 Application Insights 연결 문자열을 제공해요. Confident AI로 내보내려면 에이전트 프로세스에 OTLP exporter를 구성해요. 이 가이드는 애플리케이션과 텔레메트리 설정을 제어하는 에이전트를 다뤄요.

시작 전에

  • OpenTelemetry 인스트루먼테이션이 있는 Foundry 호스팅 에이전트.
  • 에이전트 컨테이너에 설치된 OTLP/HTTP protobuf 트레이스 exporter.
  • Confident AI의 프로젝트 API 키.
  • 컨테이너에서 Confident AI 수집 엔드포인트로의 아웃바운드 HTTPS 접근.

트레이스 내보내기 구성하기

에이전트의 트레이싱 설정 고르기

Microsoft Agent Framework라면 표준 OTLP 엔드포인트와 헤더 환경 변수를 지원하는 configure_otel_providers() 헬퍼로 텔레메트리를 초기화해요. 또는 명시적으로 구성된 OTLP 트레이스 exporter로 프레임워크의 커스텀-export 옵션을 쓰세요.

기존 라이브러리가 이미 OpenTelemetry 프로바이더를 소유하고 있다면 exporter를 그 프로바이더에 붙이고 프레임워크의 인스트루먼테이션을 켜요. 경쟁하는 전역 프로바이더를 초기화하는 것은 피하세요. Microsoft의 관측성 레퍼런스를 보세요.

다른 프레임워크라면 네이티브 OpenTelemetry 설정이나 해당 Confident AI 통합을 쓰세요.

엔드포인트와 자격 증명 구성하기

텔레메트리 초기화 전에 호스팅 에이전트 환경에 다음 설정을 추가해요:

Setting Value
OTEL_EXPORTER_OTLP_TRACES_ENDPOINT https://otel.confident-ai.com/v1/traces
OTEL_EXPORTER_OTLP_TRACES_PROTOCOL http/protobuf
OTEL_EXPORTER_OTLP_TRACES_HEADERS x-confident-api-key=YOUR_CONFIDENT_PROJECT_KEY
OTEL_SERVICE_NAME A stable name for your hosted agent

EU 프로젝트라면 https://eu.otel.confident-ai.com/v1/traces를 써요. 셀프호스팅 배포라면 전체 OTLP/HTTP 트레이스 URL을 써요. 프로젝트 키는 배포의 시크릿 구성으로 공급하세요.

이것들은 표준 OTLP exporter 설정이에요. 텔레메트리 헬퍼가 시그널별 설정을 소비하지 않는다면 같은 URL과 헤더로 트레이스 exporter를 명시적으로 구성하세요. OpenTelemetry 설정을 보세요.

이 엔드포인트에는 트레이스 exporter를 써요. 로그와 메트릭은 자체 목적지가 필요하고 /v1/traces로 보내면 안 돼요.

배포하고 검증하기

텔레메트리 구성으로 업데이트된 호스팅 에이전트 버전을 만들고 배포해요. Foundry 환경 변수는 에이전트 버전별로 구성돼요.

배포된 에이전트를 호출하고 Confident AI 프로젝트에서 Observatory를 열어요. 에이전트 스팬이 도착하고, 부모/자식 관계가 보존되고, 기대한 모델·툴 세부 정보가 있는지 확인하세요. 정상 종료 중 대기 중인 스팬을 플러시하세요.

무엇이 캡처되나요

내보낸 트레이스는 호스팅 에이전트 안에서 인스트루먼트된 연산을 담아요. 모델 이름, 토큰 수, 툴 인자, 입력/출력 내용은 프레임워크와 그 캡처 설정에 달려요. Confident AI가 인식하는 필드는 OpenTelemetry 스팬 속성을 보세요.

최종 사용자와 그 계정을 식별하려면 트레이스 수준 confident.trace.user.id와 confident.trace.customer.id 속성을 설정하세요. 표시 이름과 레거시 *_id 별칭은 수동 인스트루먼테이션을 보세요.

Application Insights 연결 문자열은 Confident AI로의 내보내기를 구성하지 않아요. 이 설정은 Foundry 관리형 서비스 트레이스를 모두 리다이렉트하지도 않아요. Application Insights에도 애플리케이션 트레이스를 유지하려면 같은 프로바이더에 두 exporter를 모두 구성하세요.

문제 해결

  • 트레이스가 Application Insights에만 나타남: Azure Monitor exporter에 더해(또는 대신) OTLP 트레이스 exporter가 초기화됐는지 확인하세요.
  • 트레이스 없음: 인스트루먼테이션 초기화, exporter 구성, 아웃바운드 연결, 배치 플러싱을 확인하세요.
  • 인증 오류: 프로젝트 리전과 x-confident-api-key 헤더를 확인하세요.
  • 메시지 콘텐츠 누락: 해당하는 곳에서 프레임워크의 콘텐츠 캡처를 켜세요. 로그로만 내보내지는 콘텐츠는 트레이스 exporter가 포함하지 않아요.

배포와 기본 관측성 동작은 Microsoft의 호스팅 에이전트 문서를 보세요.

더 알아보기