Yi-34B 모델 카드

Yi-34B 모델 카드

Yi-34B 는 Yi 시리즈의 대표적인 큰 모델이에요. 특히 중소기업용 상업 활용에 적합한 비용 효율 모델로 소개돼요. 일반 지식·상식 추론·독해 영역에서 강점을 보여줘요.

출처: https://huggingface.co/01-ai/Yi-34B

모델 정보

  • 파라미터: 34B
  • 유형: 이중언어(영어·중국어) 프리트레인·인스트럭트 모델
  • 훈련 토큰: 약 3T
  • 기본 컨텍스트: 4K (추론 시 더 확장 가능)

어디서 받나요

공식 배포는 Hugging Face(01-ai/Yi-34B)·ModelScope·WiseModel 에서 해요. 4bits·8bits 양자화 버전(Yi-34B-Chat-4bits, Yi-34B-Chat-8bits)도 있어서 메모리가 부족한 환경에서 활용할 수 있어요.

사용 예시 (transformers)

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("01-ai/Yi-34B", use_fast=False)
model = AutoModelForCausalLM.from_pretrained("01-ai/Yi-34B")

Yi 시리즈는 Llama 아키텍처를 따르므로 기존 Llama 기반 도구·라이브러리 생태계를 그대로 활용할 수 있어요.

더 알아보기