AG2 LLM Configuration — 에이전트 지능의 심장

AG2 LLM Configuration

LLM 설정은 AG2 에이전트에 '생각하는 힘'을 부여합니다. 어떤 프로바이더·모델을 쓰고, 어떻게 인증하고, 어떤 파라미터로 동작할지 정의합니다.

출처: LLM Configuration — 공식문서

지원 모델 프로바이더

클라우드 — OpenAI, Anthropic, Google(Gemini), Amazon(Bedrock), Mistral AI, Cerebras, Together AI, Groq
로컬 — Ollama, LiteLLM, LM Studio

v0.8 부터 AG2 는 "bring your own LLM" 방식을 택해 프로바이더 패키지를 기본 포함하지 않으므로 원하는 것을 명시 설치합니다.

pip install ag2[openai]        pip install ag2[gemini]
pip install ag2[anthropic,cohere,mistral]

LLM 설정 만들기

단일 모델 — 프로바이더, 모델, 인증을 직접 지정합니다.

import os
from autogen import LLMConfig
llm_config = LLMConfig({"api_type": "openai", "model": "gpt-5-nano",
                        "api_key": os.environ["OPENAI_API_KEY"]})

다중 모델(폴백) — 설정 딕셔너리를 여러 개 넘겨 폴백 모델을 지정할 수 있습니다.

llm_config = LLMConfig(
    {"api_type": "openai", "model": "gpt-5-nano", "api_key": os.environ["OPENAI_API_KEY"]},
    {"api_type": "openai", "model": "gpt-5",       "api_key": os.environ["OPENAI_API_KEY"]},
)

⚠️ API 키나 시크릿을 코드에 하드코딩하지 말고 항상 환경변수나 안전한 설정 파일을 쓰세요.

에이전트에 적용

ConversableAgent 에 키워드 인자로 넘기거나, 여러 에이전트가 같은 설정을 공유할 수 있습니다.

my_agent = ConversableAgent(name="helpful_agent",
                            system_message="You are a poetic AI assistant",
                            llm_config=llm_config)