Helicone 프로바이더

Helicone 프로바이더

Helicone AI Gateway 는 수백 개의 AI 모델에 대한 접근과 함께, 관측성 플랫폼을 통해 직접 통합된 트레이싱과 모니터링을 제공해요.

  • 통합 모델 접근: 하나의 API 키로 Anthropic, Google, Meta 등 주요 제공업체의 수백 개 모델에 접근해요.
  • 스마트 프로바이더 선택: 항상 가장 저렴한 프로바이더를 사용해, 프로바이더 가동 시간과 속도 제한에 대한 폴백을 가능하게 해요.
  • 간소화된 트레이싱: 기본적으로 Helicone 관측성으로 LLM 성능을 모니터링하고 애플리케이션을 디버깅할 수 있으며, 로그·메트릭·트레이스를 위한 OpenTelemetry를 지원해요.
  • 성능과 비용 개선: 응답을 캐시해 비용과 지연 시간을 줄여요.
  • 프롬프트 관리: 프롬프트 버저닝과 플레이그라운드를 Helicone에서 직접 처리해, 더 이상 변경을 위해 엔지니어에게 의존하지 않아도 돼요.

Helicone의 기능에 대해 더 알고 싶다면 Helicone 문서를 참고하세요.

출처: 문서

본문

설정 (Setup)

Helicone 프로바이더는 @helicone/ai-sdk-provider 패키지에서 사용할 수 있어요. 다음과 같이 설치할 수 있어요:

시작하기 (Get started)

Helicone을 시작하려면 createHelicone 함수로 프로바이더 인스턴스를 만들어요. 그런 다음 원하는 모델을 쿼리하면 돼요.

import { createHelicone } from '@helicone/ai-sdk-provider';
import { generateText } from 'ai';

const helicone = createHelicone({
  apiKey: proces...KEY,
});

const result = await generateText({
  model: helicone('claude-4.5-haiku'),
  prompt: 'Write a haiku about artificial intelligence',
});

console.log(result.text);

Helicone API 키는 Helicone 대시보드에서 받을 수 있어요.

예시 (Examples)

다음은 AI SDK와 함께 Helicone을 사용하는 예시예요.

generateText

import { createHelicone } from '@helicone/ai-sdk-provider';
import { generateText } from 'ai';

const helicone = createHelicone({
  apiKey: proces...KEY,
});

const { text } = await generateText({
  model: helicone('gemini-2.5-flash-lite'),
  prompt: 'What is Helicone?',
});

console.log(text);

streamText

const helicone = createHelicone({
  apiKey: proces...KEY,
});

const result = await streamText({
  model: helicone('deepseek-v3.1-terminus'),
  prompt: 'Write a short story about a robot learning to paint',
  maxOutputTokens: 300,
});

for await (const chunk of result.textStream) {
  process.stdout.write(chunk);
}

console.log('\n\nStream completed!');

고급 기능 (Advanced Features)

Helicone은 AI 애플리케이션을 향상시키는 여러 고급 기능을 제공해요:

  1. 모델 유연성 (Model flexibility): 코드를 바꾸거나 여러 API 키를 관리하지 않고도 수백 개 모델 사이를 전환해요.

  2. 비용 관리 (Cost management): Helicone의 LLM 관측성 대시보드를 통해 모델별 비용을 실시간으로 관리해요.

  3. 관측성 (Observability): Helicone의 LLM 관측성 대시보드를 통해 모든 요청에 대한 포괄적인 분석과 로그에 접근해요.

  4. 프롬프트 관리 (Prompts management): Helicone 대시보드를 통해 프롬프트와 버저닝을 관리해요.

  5. 캐싱 (Caching): 응답을 캐시해 비용과 지연 시간을 줄여요.

  6. 정기 업데이트 (Regular updates): 새 모델과 기능이 출시되면 자동으로 접근할 수 있어요.

이 기능들과 고급 설정 옵션에 대한 자세한 내용은 Helicone 문서를 참고하세요.

더 알아보기 (Learn more)

전체 사이트맵