Llama Stack 구성 요소 — 분배·프로바이더·통일 API
Llama Stack 구성 요소
Llama Stack이 왜 '스택'인지 그 구조를 볼게요. 핵심은 하나의 일관된 인터페이스로 여러 백엔드에 붙을 수 있는 점이에요.
통일된 API
추론(inference), 안전(safety), 에이전트(agents), 벡터 스토어 같은 모든 AI 니즈를 하나의 일관된 인터페이스로 제공해요. 기능마다 서로 다른 SDK를 쓰지 않아도 되죠.
프로바이더 유연성
프로바이더를 바꿔도 코드 변경 없이 스왑할 수 있어요. 로컬에서 Ollama로 개발하다가, 운영에서는 vLLM으로, 또는 관리형 서비스로 전환해도 애플리케이션 코드는 그대로예요.
프로덕션 레디
내장 안전·모니터링·평가 도구를 함께 제공해 기업 애플리케이션에 바로 쓸 수 있어요.
멀티 플랫폼 SDK
Python, Node.js, iOS, Android SDK와 모든 언어를 위한 REST API를 지원해요. 참고로 이 프로젝트는 최근 OGX로 리브랜딩하며 모델 무관·멀티 SDK·프로덕션 지향으로 확장됐어요.