AI Gateway 프로바이더

AI Gateway 프로바이더

AI Gateway 프로바이더는 단일 인터페이스로 여러 AI 프로바이더의 모델에 연결해 줍니다. 각 프로바이더를 따로 연동하는 대신 OpenAI·Anthropic·Google·Meta·xAI 등 여러 프로바이더와 모델을 한 번에 접근할 수 있습니다. AI SDK는 creator/model-name 형식의 모델 문자열을 넘기면 자동으로 AI Gateway를 사용합니다.

출처: 공식문서

본문

기능

  • 추가 프로바이더 모듈/의존성 설치 없이 여러 프로바이더의 모델 접근
  • 서로 다른 AI 프로바이더에서 동일한 코드 구조 사용
  • 모델·프로바이더 간 손쉬운 전환
  • Vercel에 배포 시 자동 인증
  • 프로바이더 간 가격 정보 확인
  • Vercel 대시보드를 통한 AI 모델 사용량 관찰성(observability)

설치

AI Gateway 프로바이더는 AI SDK의 일부이므로 별도 패키지 설치가 필요 없습니다(ai 패키지에서 제공).

기본 사용

모델 문자열을 global provider와 함께 직접 사용:

// use plain model string with global provider
import { generateText } from 'ai';

const { text } = await generateText({
  model: 'openai/gpt-5.4',
  prompt: 'Hello world',
});

프로바이더 인스턴스 사용(버전 5.0.36 이상):

// use provider instance (requires version 5.0.36 or later)
import { generateText, gateway } from 'ai';

const { text } = await generateText({
  model: gateway('openai/gpt-5.4'),
  prompt: 'Hello world',
});

프로바이더 인스턴스

gateway 인스턴스는 ai 패키지에서 import할 수 있습니다(5.0.36 이상). 커스텀 인스턴스가 필요한 경우:

  • 커스텀 설정(API 키, Vercel access token, base URL, 헤더) 지정
  • 프로바이더 레지스트리에서 사용
  • 미들웨어로 래핑
  • 앱의 서로 다른 부분에 서로 다른 설정 사용
import { createGateway } from 'ai';

const gateway = createGateway({
  apiKey: process.env.VERCEL_GATEWAY_API_KEY ?? '',
});

커스텀 인스턴스 옵션: baseURL, apiKey, token(Vercel access token), headers, fetch 등.

더 알아보기