T5 모델 클래스 — Transformers의 T5 API

T5 모델 클래스

Hugging Face Transformers는 T5를 여러 클래스로 제공해요. 작업과 용도에 맞는 클래스를 고르면 됩니다. model_doc/t5에 정리된 API를 보면서 대표 클래스를 정리할게요.

토크나이저

  • T5Tokenizer — Hugging Face tokenizers 라이브러리 기반, Unigram 모델 사용
  • T5TokenizerFast — 빠른 버전

모델

  • T5Model — base T5 모델. PreTrainedModel 상속, PyTorch torch.nn.Module 서브클래스
  • T5ForConditionalGeneration — 조건부 생성. text-to-text 요약·번역·QA의 주력
  • T5EncoderModel — 인코더 전용
  • T5ForSequenceClassification — 시퀀스 분류
  • T5ForTokenClassification — 토큰 분류
  • T5ForQuestionAnswering — 질의응답

이 모델들은 트랜스포머 인코더-디코더 구조를 가지며, 일반 PyTorch 사용법(포워드, .generate() 등)을 그대로 따라요.

사전훈련 크기

T5는 Google이 t5-small, t5-base, t5-large, t5-3b, t5-11b 등 여러 크기로 공개했어요. 작은 순서부터 파라미터 규모가 커질수록 품질이 좋아지지만 계산 비용이 늘어나요. google/t5-* 계열로 Hugging Face 허브에서 받을 수 있어요.

더 알아보기