Vercel AI Gateway

Vercel AI Gateway

Vercel AI Gateway의 모델을 Docker Agent에서 사용하는 방법을 설명해요. 하나의 API 키로 여러 프로바이더의 모델을 마크업 없는 정가로 쓸 수 있어요.

출처: 문서

본문

Vercel AI Gateway는 OpenAI, Anthropic, Google, xAI 등의 모델을 마크업 없는 정가로 라우팅하는 단일 통합 OpenAI 호환 엔드포인트예요. 프로바이더 라우팅과 장애 조치(failover)도 제공해요. 하나의 API 키로 여러 프로바이더에 도달할 수 있게 해주죠. Docker Agent에는 Vercel AI Gateway를 기본 제공 alias 프로바이더로 지원하고 있어요.

설정

  • Vercel AI Gateway 대시보드에서 API 키를 만드세요.
export AI_GATEWAY_API_KEY=your-api-key

사용법

Vercel AI Gateway 모델 ID는 creator/model 형태를 사용해요(예: openai/gpt-5.6-sol 또는 anthropic/claude-sonnet-4.5). 게이트웨이가 각 요청을 기반 프로바이더로 라우팅해요. 게이트웨이는 명시적 변형 슬러그만 나열해요(openai/gpt-5.6-sol, -terra, -luna) — 게이트웨이에는 접미사 없는 openai/gpt-5.6 alias가 없어요.

인라인 문법

Vercel AI Gateway를 쓰는 가장 간단한 방법:

agents:
  root:
    model: vercel/openai/gpt-5.6-sol
    description: Assistant using Vercel AI Gateway
    instruction: You are a helpful assistant.

네임드 모델 (Named Model)

파라미터를 더 세밀하게 제어하려면:

models:
  vercel_model:
    provider: vercel
    model: openai/gpt-5.6-sol
    max_tokens: 8192

agents:
  root:
    model: vercel_model
    description: Assistant using Vercel AI Gateway
    instruction: You are a helpful assistant.

사용 가능한 모델

Vercel AI Gateway는 한 엔드포인트 뒤에서 여러 프로바이더의 모델을 노출해요. 현재 모델 목록, ID, 가격은 Vercel AI Gateway 문서에서 확인하세요.

모델 설명
openai/gpt-5.6-sol 게이트웨이로 라우팅되는 OpenAI GPT-5.6 Sol(프론티어)
openai/gpt-5.6-terra 게이트웨이로 라우팅되는 OpenAI GPT-5.6 Terra(워크호스)
openai/gpt-5.6-luna 게이트웨이로 라우팅되는 OpenAI GPT-5.6 Luna(대량 처리)
anthropic/claude-sonnet-4.5 게이트웨이로 라우팅되는 Anthropic Claude Sonnet
google/gemini-2.5-flash 게이트웨이로 라우팅되는 Google Gemini

모델 ID는 대소문자를 구분하고 게이트웨이가 나열하는 방식 그대로 creator/ 접두사를 포함해 전달해야 해요.

동작 방식

Vercel AI Gateway는 Docker Agent의 기본 제공 alias로 구현돼 있어요:

게이트웨이가 엄격한 채팅 템플릿을 요구하는 오픈웨이트 모델로 라우팅할 수 있기 때문에, Docker Agent는 이 프로바이더에서 연속된 시스템 메시지를 맨 앞의 하나로 합쳐 줘요.

예시: 코드 어시스턴트

agents:
  coder:
    model: vercel/anthropic/claude-sonnet-4.5
    description: Code assistant via Vercel AI Gateway
    instruction: |
      You are an expert programmer.
      Write clean, well-documented code and follow language best practices.
    toolsets:
      - type: filesystem
      - type: shell
      - type: think

더 알아보기 (Learn more)