프로바이더(LLM) 연결하기

프로바이더(LLM) 연결하기

Atomic Agents는 모델 접근을 Instructor에게 위임해요. 그래서 OpenAI 호환 API를 제공하는 어떤 프로바이더든 instructor.from_openai(...)로 그대로 연결할 수 있어요.

출처: https://github.com/Eigenwise/atomic-agents

기본적으로 OpenAI와 Anthropic을 지원하고, OpenAI 호환 게이트웨이들을 추가로 붙일 수 있어요. 예를 들어 EU 기반 게이트웨이인 Eden AI부터 OpenRouter, MiniMax까지 모두 같은 패턴으로 연결해요.

import instructor
from openai import OpenAI

# OpenAI 호환 base_url 을 쓰는 모든 프로바이더는 이 패턴으로 연결
client = instructor.from_openai(
    OpenAI(
        base_url="https://api.example.com/v1",
        api_key="...",
    )
)

모델 ID는 공급자에 따라 접두사를 붙여 쓰는 경우가 많아요. 예컨대 openai/gpt-4o-mini, anthropic/claude-haiku-4-5처럼요. 이렇게 게이트웨이를 거치면 한 코드베이스에서 여러 벤더 모델을 상황에 맞춰 골라 쓸 수 있어요.

프로바이더 다중 연결 예제는 리포의 퀵스타트 예제에 단위 테스트와 함께 들어 있으니, 새 프로바이더를 붙일 때 그 패턴을 복사해 쓰면 돼요.

더 알아보기