Transformers Agents 핵심 기능 — 모델 정의·추론·도구
Transformers Agents 핵심 기능
Transformers는 텍스트·비전·오디오·비디오·멀티모달 모델의 모델 정의 프레임워크예요. 에이전트 기능을 이해하려면 Transformers가 모델을 어떻게 정의·추론하게 하는지, 그리고 그 위에 도구·에이전트가 어떻게 얹히는지 보는 게 좋아요.
Transformers: 모델 정의의 중추
Transformers는 생태계 전반에서 합의된 모델 정의를 중앙화해요. 정의가 지원되면 대부분의 훈련 프레임워크, 추론 엔진, 인접 모델링 라이브러리와 호환돼요.
- 훈련: Axolotl, Unsloth, DeepSpeed, FSDP, PyTorch-Lightning 등
- 추론: vLLM, SGLang, TGI 등
- 인접: llama.cpp, mlx 등
Hugging Face Hub에는 100만 개 이상의 Transformers 모델 체크포인트가 있어요.
주요 기능
- Pipeline — 텍스트 생성, 이미지 분할, 음성 인식, 문서 QA 등 작업을 위한 최적화 추론 클래스
- Trainer — 혼합 정밀도, torch.compile, FlashAttention, 분산 훈련 지원
- generate — LLM·VLM의 빠른 텍스트 생성 (스트리밍·여러 디코딩 전략 지원)
설계 원칙
- 빠르고 쉽게 — 모든 모델은 configuration·model·preprocessor 세 클래스로 구현
- 사전 훈련 모델 — 탄소 발자국·비용·시간 절약 (성능은 원본에 가깝게)
에이전트로 확장
Transformers 생태계 위에 에이전트를 구축하면 모델 선택·도구 호출·여러 작업 수행을 하나의 인터페이스로 할 수 있어요. v4.52부터는 이 기능이 smolagents 라이브러리로 분리되어 관리되고 있어요.