GLM-4-9B 모델 카드
GLM-4-9B 모델 카드
GLM-4-9B 는 GLM-4 시리즈에서 오픈소스로 풀린 최신 생성 모델이에요. 90억 파라미터 크기라 리소스가 넉넉지 않은 환경에서도 돌려볼 만하고, 국·영문 벤치마크에서 좋은 점수를 보여줘요.
벤치마크
공식 카드가 공개한 대표 점수예요.
| 벤치마크 | GLM-4-9B |
|---|---|
| MMLU | 74.7 |
| C-Eval | 77.1 |
| GPQA | 34.3 |
| GSM8K | 84.0 |
| MATH | 30.4 |
| HumanEval | 70.1 |
HumanEval 70.1 은 코드 생성 능력이 꽤 좋다는 뜻이고, GSM8K 84.0 은 수학 추론에서도 쓸 만하다는 걸 보여줘요.
빠른 시작
추론 코드와 요구사항은 공식 GitHub 저장소(THUDM/GLM-4)에 정리돼 있어요. transformers 로 불러올 때 trust_remote_code=True 가 필요할 수 있어요.
from transformers import AutoTokenizer, AutoModelForCausalLM
model = AutoModelForCausalLM.from_pretrained("zai-org/glm-4-9b-hf", trust_remote_code=True)
tokenizer = AutoTokenizer.from_pretrained("zai-org/glm-4-9b-hf", trust_remote_code=True)
더 알아보기
- GLM-4 저장소: github.com/zai-org/GLM-4
- GLM-4.5: glm45.org