Granite 문서 허브와 생태계

Granite 문서 허브와 생태계

Granite 시리즈는 IBM의 공식 Granite Docs 허브에서 모델별 문서를 제공해요. 워크플로우, 통합, 배포 방법이 체계적으로 정리돼 있어요.

출처: Granite Docs

문서에서 다루는 것

  • 모델 제품군: Granite 3.x 언어 모델, Granite Code, Granite Time-Series 등
  • 시작하기: 모델 다운로드, 로컬 실행, API 서빙
  • 워크플로우: RAG, 함수 호출(Function Calling), 에이전트 구축
  • 통합: Hugging Face, watsonx.ai, vLLM, SGLang 등

추론 제공

Hugging Face 모델 카드에서는 pip install + serve, Docker(docker model run hf.co/ibm-granite/granite-3.0-8b-instruct), vLLM, SGLang 등 다양한 추론 경로를 안내해요. 새 버전은 granite-3.3-8b-instruct처럼 이어지고 있어요.

더 알아보기