프로바이더(LLM) 연결하기
프로바이더(LLM) 연결하기
Atomic Agents는 모델 접근을 Instructor에게 위임해요. 그래서 OpenAI 호환 API를 제공하는 어떤 프로바이더든 instructor.from_openai(...)로 그대로 연결할 수 있어요.
기본적으로 OpenAI와 Anthropic을 지원하고, OpenAI 호환 게이트웨이들을 추가로 붙일 수 있어요. 예를 들어 EU 기반 게이트웨이인 Eden AI부터 OpenRouter, MiniMax까지 모두 같은 패턴으로 연결해요.
import instructor
from openai import OpenAI
# OpenAI 호환 base_url 을 쓰는 모든 프로바이더는 이 패턴으로 연결
client = instructor.from_openai(
OpenAI(
base_url="https://api.example.com/v1",
api_key="...",
)
)
모델 ID는 공급자에 따라 접두사를 붙여 쓰는 경우가 많아요. 예컨대 openai/gpt-4o-mini, anthropic/claude-haiku-4-5처럼요. 이렇게 게이트웨이를 거치면 한 코드베이스에서 여러 벤더 모델을 상황에 맞춰 골라 쓸 수 있어요.
프로바이더 다중 연결 예제는 리포의 퀵스타트 예제에 단위 테스트와 함께 들어 있으니, 새 프로바이더를 붙일 때 그 패턴을 복사해 쓰면 돼요.