mistral-src — 참조 구현
mistral-src — 참조 구현
mistral-src는 미스트랄이 공개한 모델의 참조 구현(reference implementation) 저장소예요. Mistral 7B를 비롯한 모델을 어디서든(로컬 포함) 실행하거나 파인튜닝할 수 있도록 구성 요소를 제공해요.
구성 요소
- mistral_common: 토크나이저와 프롬프트 프로토콜.
MistralTokenizer.v1()로 채팅 완성 요청을 토큰으로 인코딩해요. - mistral_inference:
Transformer·generate등 추론 코드. 모델 폴더에서 모델을 로드해 토큰 시퀀스를 생성해요.
왜 유용한가요
Hugging Face transformers 구현과 별개로, 미스트랄의 공식 구현을 그대로 쓰고 싶은 개발자에게 기준이 돼요. 발표 블로그에서도 "우리 참조 구현을 사용해 어디서든 쓰세요"라고 안내할 정도로 중립적·기준 구현 역할을 해요.
참고 — transformers 토크나이저
HF 저장소에는 "transformers 토크나이저가 mistral_common 참조 구현과 1:1 동일하게 결과를 내도록 하는 PR을 환영한다"는 안내도 있어요. 즉 미세한 토큰화 차이가 있을 수 있다는 뜻이에요.