Transformers serve CLI — 🤗 Transformers로 OpenAI 호환 서버 띄우기

Hugging Face의 transformers serve는 🤗 Transformers 모델을 그대로 OpenAI 호환 로컬 서버로 띄워주는 CLI예요. vLLM처럼 무거운 전용 추론 엔진의 런타임·운영 부담 없이, 평가·실험·적절한 규모의 배포에 가볍게 쓰기 좋습니다.

출처: https://huggingface.co/docs/transformers/en/serve-cli/serving

한 줄 명령으로 서버가 http://localhost:8000에 뜨고, OpenAI SDK·InferenceClient·curl 어느 쪽으로든 호출할 수 있어요. 아래 페이지에서 기본 사용법, 성능 최적화, MCP 에이전트 연동까지 살펴볼게요.