Granite 4.1 — 밀집 언어 모델 패밀리와 강화된 도구 호출

Granite 4.1

Granite 4.1은 3B·8B·30B 세 크기로 제공되는 밀집(dense) 언어 모델 패밀리예요. 각 크기는 base·instruct 변형이 있고, 효율적인 배포를 위한 FP8 양자화 옵션을 선택할 수 있어요. Granite 4.0 대비 도구 호출·지시 따르기·코딩·수학 추론이 크게 개선됐어요.

출처: https://www.ibm.com/granite/docs/models/granite4-1

모델 변형

  • granite-4.1-3b-base / 3b-instruct — 엣지·리소스 제약 환경에 최적화
  • granite-4.1-8b-base / 8b-instruct — 범용 기업 애플리케이션용 밸런스
  • granite-4.1-30b-base / 30b-instruct — 복잡 추론·전문화 작업용 고용량

모든 모델은 Apache 2.0 라이선스 + 암호화 서명 + ISO 인증 + 투명성 공개로 배포돼요.

핵심 능력

  • Tool Calling: 도구·API 연동으로 AI 워크플로 자동화
  • Instruction Following: 복잡한 업무 지시를 안정적으로 수행
  • Code Generation & Explanation: 여러 언어의 코드 생성·설명
  • Mathematical Reasoning: 기초 산술부터 미적분·선형대수까지 계산·의사결정 지원

사용 예시

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

device = "cuda"
model_path = "ibm-granite/granite-4.1-30b"
tokenizer = AutoTokenizer.from_pretrained(model_path)
model = AutoModelForCausalLM.from_pretrained(model_path, device_map=device)

더 알아보기