Fine-tuning 개요 — PEFT의 개념
Fine-tuning 개요
PEFT는 사전학습된 큰 모델을 파라미터 효율적으로 미세조정하는 방법 집합이에요. 전통적인 파인튜닝은 모든 파라미터를 학습하지만, 거대 모델 시대에는 그 비용이 점점 감당하기 어려워졌어요.
왜 파라미터 효율인가
- 기존 방식: 과제마다 모델 전체를 학습 → 비용·저장 부담
- PEFT: 소수의 프롬프트 파라미터나 저랭크 적응(LoRA) 같은 방법으로 학습할 파라미터 수를 크게 줄여요
PEFT는 가중치 학습량을 줄이면서도 전체 파라미터 학습과 필적하는 파인튜닝 성능을 노려요.
지원하는 대표 방법
PEFT는 LoRA뿐 아니라 다양한 방법을 포함해요:
- LoRA 및 변형(DoRA, AdaLoRA 등)
- 프롬프트 튜닝(Prompt Tuning) 계열
- P-Tuning, Prefix tuning
- 프리픽스·레이어 튜닝 (OFT, BOFT 등)
- 그 외 다수 어댑터 방법
어디에 유용한가
소비자용 GPU로는 통째 학습이 어려운 1B·7B급 모델도 LoRA 같은 방법이면 몇 %의 파라미터만 학습해서 특정 스타일·과제에 적응시킬 수 있어요. 그래서 챗봇 규제·도메인 어휘·스타일 변경 같은 작업에서 주로 쓰여요.