Portkey 프로바이더

프로바이더 인스턴스 (Provider Instance)

Portkey 프로바이더 인스턴스를 만들려면 createPortkey 함수를 사용하세요:

import { createPortkey } from '@portkey-ai/vercel-provider';

const portkeyConfig = {
  provider: 'openai', // 원하는 프로바이더 입력
  api_key: 'OPENAI_API_KEY', // 해당 프로바이더의 API 키 입력
  override_params: {
    model: 'gpt-5', // 250개 이상 LLM 중 선택
  },
};

const portkey = createPortkey({
  apiKey: 'YOUR_...EY',
  config: portkeyConfig,
});

Portkey API 키는 Portkey 대시보드에서 찾을 수 있어요.

언어 모델 (Language Models)

Portkey는 채팅과 완성 모델을 모두 지원해요. 채팅 모델에는 portkey.chatModel()을, 완성 모델에는 portkey.completionModel()을 사용하세요:

const chatModel = portkey.chatModel('');
const completionModel = portkey.completionModel('');

참고: portkeyConfig에서 모델을 정의했다면 모델 이름으로 빈 문자열을 제공할 수 있어요.

예시 (Examples)

Portkey 언어 모델을 generateText 또는 streamText 함수와 함께 사용할 수 있어요:

generateText

import { createPortkey } from '@portkey-ai/vercel-provider';
import { generateText } from 'ai';

const portkey = createPortkey({
  apiKey: 'YOUR_...EY',
  config: portkeyConfig,
});

const { text } = await generateText({
  model: portkey.chatModel(''),
  prompt: 'What is Portkey?',
});

console.log(text);

streamText

import { createPortkey } from '@portkey-ai/vercel-provider';
import { streamText } from 'ai';

const portkey = createPortkey({
  apiKey: 'YOUR_...EY',
  config: portkeyConfig,
});

const result = streamText({
  model: portkey.completionModel(''),
  prompt: 'Invent a new holiday and describe its traditions.',
});

for await (const chunk of result) {
  console.log(chunk);
}

참고:

• Portkey는 AI SDK와 함께 Tool 사용을 지원해요
• Output을 통한 구조화 출력은 현재 지원되지 않아요.

고급 기능 (Advanced Features)

Portkey는 AI 애플리케이션을 향상시키는 여러 고급 기능을 제공해요:

1. 상호운용성 (Interoperability): 설정에서 프로바이더와 모델 이름을 바꾸는 것만으로 250개 이상의 AI 모델 사이를 쉽게 전환해요.

2. 관측성 (Observability): 모든 요청에 대한 포괄적인 분석과 로그에 접근해요.

3. 안정성 (Reliability): 캐싱, 폴백, 로드 밸런싱, 조건부 라우팅을 구현해요.

4. 가드레일 (Guardrails): 입력·출력 검사로 LLM 동작을 실시간으로 강제해요.

5. 보안과 컴플라이언스 (Security and Compliance): 예산 한도를 설정하고 세밀한 사용자 역할과 권한을 구현해요.

이 기능들과 고급 설정 옵션에 대한 자세한 내용은 Portkey 문서를 참고하세요.

더 알아보기 (Learn more)

• Portkey 문서
• Twitter
• Discord 커뮤니티
• Portkey 대시보드

전체 사이트맵