Llama Stack API — OpenAI 호환 엔드포인트와 에이전트 API
Llama Stack API
Llama Stack은 익숙한 OpenAI 스타일 API를 그대로 제공하면서, 그 위에 서버 측 에이전트 오케스트레이션을 덧붙인 구조예요.
OpenAI 호환 엔드포인트
표준 추론·임베딩 엔드포인트를 지원해요.
/v1/chat/completions— 채팅 완성/v1/completions— 완성/v1/embeddings— 임베딩
에이전트·확장 API
- Responses API — 도구 호출, MCP 서버 통합, 내장 파일 검색(RAG)을 한 번의 API 호출로 처리하는 서버 측 에이전틱 오케스트레이션
/v1/vector_stores,/v1/files— 관리형 문서 저장·검색/v1/batches— 오프라인 배치 처리/v1alpha/skills— 버전 관리된 스킬 번들(zip 아카이브 + SKILL.md 매니페스트) 관리
멀티 SDK 네이티브
OpenAI SDK뿐 아니라 Anthropic SDK(/v1/messages)나 Google GenAI SDK(/v1alpha/interactions)도 그대로 쓸 수 있어요. 모델·인프라가 달라져도 API가 같게 유지되는 것이 이 스택의 요점이에요.