Fine-tuning — PEFT/LoRA 기반 사전학습 모델 미세조정
Fine-tuning
파인튜닝은 사전학습된 대형 모델을 특정 과제·도메인에 맞게 재학습하는 과정이에요. 하지만 파라미터 수가 많은 거대 모델을 통째로 학습하는 건 비용이 커지기 마련이죠. 그래서 오늘날은 PEFT(Parameter-Efficient Fine-Tuning) 와 LoRA 같은 방법으로 일부 파라미터만 학습해서 효율적으로 적응시키는 흐름이 주류예요.
이 카테고리의 문서
- 개요: PEFT의 개념과 포착 원리
- 핵심 기능: Transformers Trainer 기반 학습
- 실전·API: PEFT Quicktour — LoraConfig·get_peft_model