프로바이더와 모델
프로바이더와 모델 (Providers and Models)
OpenAI나 Anthropic 같은 회사, 그러니까 **프로바이더(provider)**는 자기만의 API를 통해 성능도 특징도 각기 다른 여러 대규모 언어 모델(LLM)에 접근할 수 있게 해줘요. 그런데 프로바이더마다 모델과 소통하는 방식이 제각각이라서, 다른 프로바이더로 갈아탈 때마다 코드를 다시 맞추느라 고생하고 벤더 락인(vendor lock-in) 위험도 커지기 마련이에요.
이 문제를 해결하기 위해 AI SDK Core는 언어 모델 명세를 통해 프로바이더 차이를 추상화한 표준 인터페이스를 제공해요. 같은 API 하나로 모든 프로바이더와 대화하면서도, 필요할 때마다 프로바이더를 쉽게 바꿔 끼울 수 있는 거죠.
출처: 공식문서
본문
AI SDK는 다양한 프로바이더를 기본 지원해요. 대표적으로 xAI Grok(@ai-sdk/xai), OpenAI(@ai-sdk/openai), Azure OpenAI(@ai-sdk/azure), Anthropic(@ai-sdk/anthropic), Amazon Bedrock(@ai-sdk/amazon-bedrock), Google(@ai-sdk/google), Google Vertex(@ai-sdk/google-vertex), Mistral(@ai-sdk/mistral), Together.ai(@ai-sdk/togetherai), Cohere(@ai-sdk/cohere), Fireworks(@ai-sdk/fireworks), DeepSeek(@ai-sdk/deepseek), Groq(@ai-sdk/groq), Perplexity(@ai-sdk/perplexity) 같은 것들이 있어요. 또 OpenAI 호환 API를 쓰는 OpenAI Compatible provider도 쓸 수 있어요 (예: LM Studio, Heroku).
우리가 만든 언어 모델 명세는 오픈소스 패키지로 공개돼 있어서, 이걸 바탕으로 커스텀 프로바이더를 직접 만들 수도 있어요. 커뮤니티에서 만든 프로바이더도 아주 많아요 — Ollama(ollama-ai-provider), OpenRouter(@openrouter/ai-sdk-provider), Cloudflare Workers AI(workers-ai-provider), Mem0(@mem0/vercel-ai-provider), Letta(@letta-ai/vercel-ai-sdk-provider) 등이 대표적이에요.
셀프호스티드 모델 (Self-Hosted Models)
직접 운영하는 모델에도 접근할 수 있어요. Ollama, LM Studio, Baseten, Browser AI 프로바이더를 쓰면 되고, OpenAI 명세를 지원하는 셀프호스티드 프로바이더라면 OpenAI Compatible Provider로 얼마든지 연결할 수 있어요.
모델 역량 (Model Capabilities)
프로바이더마다 지원하는 모델의 역량이 달라요. 예를 들어 이미지 입력(Image Input), 객체 생성(Object Generation), 도구 사용(Tool Usage), 도구 스트리밍(Tool Streaming) 같은 것들이 모델별로 갈리죠. 특정 모델이 어떤 기능을 지원하는지는 프로바이더 문서 페이지와 프로바이더 웹사이트에서 확인하는 게 가장 정확해요. 이 표는 일부 인기 모델만 요약한 것이지 완전한 목록이 아니에요.