CTranslate2 퀵스타트 — 변환·번역

CTranslate2 퀵스타트 — 변환·번역

CTranslate2 공식 퀵스타트는 모델을 CTranslate2 포맷으로 변환하고 Python/C++에서 번역까지 실행하는 전체 흐름을 보여줘요.

Python으로 시작하기

pip install ctranslate2 opennmt-py sentencepiece
  • 사전학습 모델을 받아 CTranslate2 포맷으로 변환해요.
  • ct2-transformers-converter를 쓰면 HuggingFace 모델도 변환 가능해요.
import ctranslate2
translator = ctranslate2.Translator("ende_ctranslate2/")
translator.translate_batch(["▁Hello", "▁world", "!"])

성능 포인트

  • 변환 시 양자화(--quantization int8) 옵션을 쓰면 품질 손실을 최소화하면서 메모리·속도를 크게 개선해요.
  • 멀티스레드(intra_threads)와 배치 크기도 추론 성능에 큰 영향을 줘요.

더 알아보기