GLM-4-9B 모델 카드

GLM-4-9B 모델 카드

GLM-4-9B 는 GLM-4 시리즈에서 오픈소스로 풀린 최신 생성 모델이에요. 90억 파라미터 크기라 리소스가 넉넉지 않은 환경에서도 돌려볼 만하고, 국·영문 벤치마크에서 좋은 점수를 보여줘요.

출처: https://huggingface.co/zai-org/glm-4-9b-hf

벤치마크

공식 카드가 공개한 대표 점수예요.

벤치마크 GLM-4-9B
MMLU 74.7
C-Eval 77.1
GPQA 34.3
GSM8K 84.0
MATH 30.4
HumanEval 70.1

HumanEval 70.1 은 코드 생성 능력이 꽤 좋다는 뜻이고, GSM8K 84.0 은 수학 추론에서도 쓸 만하다는 걸 보여줘요.

빠른 시작

추론 코드와 요구사항은 공식 GitHub 저장소(THUDM/GLM-4)에 정리돼 있어요. transformers 로 불러올 때 trust_remote_code=True 가 필요할 수 있어요.

from transformers import AutoTokenizer, AutoModelForCausalLM

model = AutoModelForCausalLM.from_pretrained("zai-org/glm-4-9b-hf", trust_remote_code=True)
tokenizer = AutoTokenizer.from_pretrained("zai-org/glm-4-9b-hf", trust_remote_code=True)

더 알아보기