CTranslate2 — 가볍고 빠른 트랜스포머 추론 엔진
CTranslate2
CTranslate2는 OpenNMT 팀이 만든 C++/Python 기반 고속 트랜스포머 추론 엔진이에요. 가중치 양자화·레이어 융합·배치 재정렬 등 다양한 최적화로 범용 딥러닝 프레임워크보다 빠르고 메모리도 적게 써요.
이 카테고리의 문서
- 개요: CTranslate2 개요 — 고속 트랜스포머 추론
- 핵심 기능: CTranslate2 퀵스타트 — 변환·번역
- 실전·API: CTranslate2 Python API — Translator · Generator