OpenRouter 프로바이더

OpenRouter 프로바이더

OpenRouter 는 Anthropic, Google, Meta, Mistral 등 주요 제공업체의 수백 가지 AI 모델에 접근할 수 있게 해주는 통합 API 게이트웨이예요. AI SDK용 OpenRouter 프로바이더는 이러한 모든 모델과 원활하게 통합하면서 고유한 장점을 제공해요:

  • 범용 모델 접근 (Universal Model Access): 하나의 API 키로 여러 제공업체의 수백 개 모델
  • 비용 효율 (Cost-Effective): 월 사용료나 약정 없는 사용한 만큼 과금
  • 투명한 가격 (Transparent Pricing): 모든 모델에 대한 명확한 토큰별 비용
  • 고가용성 (High Availability): 자동 장애 조치를 갖춘 엔터프라이즈급 인프라
  • 간단한 통합 (Simple Integration): 모든 모델에 걸친 표준화된 API
  • 최신 모델 (Latest Models): 새 모델이 출시되면 즉시 접근

OpenRouter의 기능에 대해 더 알고 싶다면 OpenRouter 문서를 참고하세요.

출처: 문서

본문

설정 (Setup)

OpenRouter 프로바이더는 @openrouter/ai-sdk-provider 모듈에서 사용할 수 있어요. 다음과 같이 설치할 수 있어요:

프로바이더 인스턴스 (Provider Instance)

OpenRouter 프로바이더 인스턴스를 만들려면 createOpenRouter 함수를 사용하세요:

import { createOpenRouter } from '@openrouter/ai-sdk-provider';

const openrouter = createOpenRouter({
  apiKey: 'YOUR_...EY',
});

OpenRouter API 키는 OpenRouter 대시보드에서 받을 수 있어요.

언어 모델 (Language Models)

OpenRouter는 채팅과 완성(completion) 모델을 모두 지원해요. 채팅 모델에는 openrouter.chat()을, 완성 모델에는 openrouter.completion()을 사용하세요:

// 채팅 모델 (권장)
const chatModel = openrouter.chat('anthropic/claude-3.5-sonnet');

// 완성 모델
const completionModel = openrouter.completion(
  'meta-llama/llama-3.1-405b-instruct',
);

사용 가능한 전체 모델 목록은 OpenRouter 모델 문서에서 확인할 수 있어요.

예시 (Examples)

다음은 AI SDK와 함께 OpenRouter를 사용하는 예시예요:

generateText

import { createOpenRouter } from '@openrouter/ai-sdk-provider';
import { generateText } from 'ai';

const openrouter = createOpenRouter({
  apiKey: 'YOUR_...EY',
});

const { text } = await generateText({
  model: openrouter.chat('anthropic/claude-3.5-sonnet'),
  prompt: 'What is OpenRouter?',
});

console.log(text);

streamText

import { createOpenRouter } from '@openrouter/ai-sdk-provider';
import { streamText } from 'ai';

const openrouter = createOpenRouter({
  apiKey: 'YOUR_...EY',
});

const result = streamText({
  model: openrouter.chat('meta-llama/llama-3.1-405b-instruct'),
  prompt: 'Write a short story about AI.',
});

for await (const chunk of result.textStream) {
  console.log(chunk);
}

고급 기능 (Advanced Features)

OpenRouter는 AI 애플리케이션을 향상시키는 여러 고급 기능을 제공해요:

  1. 모델 유연성 (Model Flexibility): 코드를 바꾸거나 여러 API 키를 관리하지 않고도 수백 개 모델 사이를 전환해요.

  2. 비용 관리 (Cost Management): 대시보드를 통해 모델별 사용량과 비용을 실시간으로 추적해요.

  3. 엔터프라이즈 지원 (Enterprise Support): 커스텀 SLA와 전담 지원이 있는 대용량 사용자용.

  4. 크로스 프로바이더 호환성 (Cross-Provider Compatibility): 다른 모델 제공업체에서도 같은 코드 구조를 사용해요.

  5. 정기 업데이트 (Regular Updates): 새 모델과 기능이 출시되면 자동으로 접근해요.

이 기능들과 고급 설정 옵션에 대한 자세한 내용은 OpenRouter 문서를 참고하세요.

더 알아보기 (Learn more)

전체 사이트맵