OpenRouter 프로바이더
OpenRouter 프로바이더
OpenRouter 는 Anthropic, Google, Meta, Mistral 등 주요 제공업체의 수백 가지 AI 모델에 접근할 수 있게 해주는 통합 API 게이트웨이예요. AI SDK용 OpenRouter 프로바이더는 이러한 모든 모델과 원활하게 통합하면서 고유한 장점을 제공해요:
- 범용 모델 접근 (Universal Model Access): 하나의 API 키로 여러 제공업체의 수백 개 모델
- 비용 효율 (Cost-Effective): 월 사용료나 약정 없는 사용한 만큼 과금
- 투명한 가격 (Transparent Pricing): 모든 모델에 대한 명확한 토큰별 비용
- 고가용성 (High Availability): 자동 장애 조치를 갖춘 엔터프라이즈급 인프라
- 간단한 통합 (Simple Integration): 모든 모델에 걸친 표준화된 API
- 최신 모델 (Latest Models): 새 모델이 출시되면 즉시 접근
OpenRouter의 기능에 대해 더 알고 싶다면 OpenRouter 문서를 참고하세요.
출처: 문서
본문
설정 (Setup)
OpenRouter 프로바이더는 @openrouter/ai-sdk-provider 모듈에서 사용할 수 있어요. 다음과 같이 설치할 수 있어요:
프로바이더 인스턴스 (Provider Instance)
OpenRouter 프로바이더 인스턴스를 만들려면 createOpenRouter 함수를 사용하세요:
import { createOpenRouter } from '@openrouter/ai-sdk-provider';
const openrouter = createOpenRouter({
apiKey: 'YOUR_...EY',
});
OpenRouter API 키는 OpenRouter 대시보드에서 받을 수 있어요.
언어 모델 (Language Models)
OpenRouter는 채팅과 완성(completion) 모델을 모두 지원해요. 채팅 모델에는 openrouter.chat()을, 완성 모델에는 openrouter.completion()을 사용하세요:
// 채팅 모델 (권장)
const chatModel = openrouter.chat('anthropic/claude-3.5-sonnet');
// 완성 모델
const completionModel = openrouter.completion(
'meta-llama/llama-3.1-405b-instruct',
);
사용 가능한 전체 모델 목록은 OpenRouter 모델 문서에서 확인할 수 있어요.
예시 (Examples)
다음은 AI SDK와 함께 OpenRouter를 사용하는 예시예요:
generateText
import { createOpenRouter } from '@openrouter/ai-sdk-provider';
import { generateText } from 'ai';
const openrouter = createOpenRouter({
apiKey: 'YOUR_...EY',
});
const { text } = await generateText({
model: openrouter.chat('anthropic/claude-3.5-sonnet'),
prompt: 'What is OpenRouter?',
});
console.log(text);
streamText
import { createOpenRouter } from '@openrouter/ai-sdk-provider';
import { streamText } from 'ai';
const openrouter = createOpenRouter({
apiKey: 'YOUR_...EY',
});
const result = streamText({
model: openrouter.chat('meta-llama/llama-3.1-405b-instruct'),
prompt: 'Write a short story about AI.',
});
for await (const chunk of result.textStream) {
console.log(chunk);
}
고급 기능 (Advanced Features)
OpenRouter는 AI 애플리케이션을 향상시키는 여러 고급 기능을 제공해요:
-
모델 유연성 (Model Flexibility): 코드를 바꾸거나 여러 API 키를 관리하지 않고도 수백 개 모델 사이를 전환해요.
-
비용 관리 (Cost Management): 대시보드를 통해 모델별 사용량과 비용을 실시간으로 추적해요.
-
엔터프라이즈 지원 (Enterprise Support): 커스텀 SLA와 전담 지원이 있는 대용량 사용자용.
-
크로스 프로바이더 호환성 (Cross-Provider Compatibility): 다른 모델 제공업체에서도 같은 코드 구조를 사용해요.
-
정기 업데이트 (Regular Updates): 새 모델과 기능이 출시되면 자동으로 접근해요.
이 기능들과 고급 설정 옵션에 대한 자세한 내용은 OpenRouter 문서를 참고하세요.