Trainer

내부적으로 [Trainer]는 데이터셋을 텐서로 배칭·셔플링·패딩하는 일을 처리해요. 훈련 루프는 forward pass를 실행하고, 손실을 계산하고, 그래디언트를 역전파하고, 가중치를 갱신해요. [TrainingArguments]로 훈련 실행을 설정하면 배치 크기·훈련 기간부터 분산 전략·컴파일 등 모든 것을 커스터마이즈할 수 있어요.

다음 단계

• [Trainer]로 대형 언어 모델을 훈련하는 방법을 소개하는 fine-tuning 튜토리얼부터 시작해요.
• [Trainer] 메서드를 서브클래스화하는 예시는 Subclassing Trainer methods 가이드를 확인해요.
• 커스텀 배치 조립을 위한 데이터 콜레이터를 만드는 법은 Data collators 가이드를 확인해요.
• 훈련 이벤트에 후킹하는 법은 Callbacks 가이드를 확인해요.

출처: Hugging Face Transformers — Trainer

더 알아보기 (Learn more)

• fine-tuning — [Trainer]로 모델 훈련하기
• Trainer features — 메모리 효율 평가·커스텀 손실 등 최소 동작 예시
• Data collators — 커스텀 배치 조립