Traceloop

Traceloop

Traceloop은 안정적인 AI 애플리케이션을 구축하기 위한 개발 플랫폼이에요. AI SDK와 통합한 후 Traceloop을 사용해 LLM 프로바이더, 프롬프트, 플로우를 추적하고, 모니터링하며, 실험할 수 있어요.

출처: 문서

본문

설정

Traceloop은 OpenTelemetry를 통해 AI SDK 텔레메트리 데이터를 지원해요. https://app.traceloop.com 에서 가입하고 API 키를 받아야 해요.

Next.js

AI SDK를 사용해 텔레메트리 데이터를 Traceloop으로 보내려면 Next.js 앱의 .env 파일에 다음 환경 변수를 설정해요:

OTEL_EXPORTER_OTLP_ENDPOINT=https://api.traceloop.com
OTEL_EXPORTER_OTLP_HEADERS="Authorization=Bearer <Your API Key>"

@ai-sdk/otel을 설치하고 instrumentation.ts 파일에서 LegacyOpenTelemetry를 등록해요:

import { registerTelemetry } from 'ai';
import { LegacyOpenTelemetry } from '@ai-sdk/otel';

registerTelemetry(new LegacyOpenTelemetry());

그런 다음 telemetry 옵션을 사용해 지원되는 AI SDK 함수 호출에서 텔레메트리를 활성화할 수 있어요:

import { generateText } from 'ai';
import { openai } from '@ai-sdk/openai';

const result = await generateText({
  model: openai('gpt-6-luna'),
  prompt: 'What is 2 + 2?',
  telemetry: {
    metadata: {
      query: 'weather',
      location: 'San Francisco',
    },
  },
});

자료

더 알아보기 (Learn more)