Axolotl 개요 — 특징과 퀵스타트
Axolotl 개요 — 특징과 퀵스타트
Axolotl은 최신 대형 언어 모델(LLM)의 포스트트레이닝·파인튜닝을 간소화하는 무료·오픈소스 도구예요. 하나의 YAML 설정 파일로 데이터셋 전처리부터 훈련·평가·양자화·추론까지 전체 파이프라인을 재사용할 수 있죠.
주요 특징
- 다중 모델 지원: GPT-OSS, LLaMA, Mistral, Mixtral 등 허깅페이스 허브의 다양한 모델 훈련
- 멀티모달 훈련: LLaMA-Vision, Qwen2-VL, Pixtral, LLaVA 등 VLM 파인튜닝과 Voxtral 같은 오디오 모델 지원
- 훈련 방법: 전체 파인튜닝, LoRA, QLoRA, GPTQ, QAT, 선호 튜닝(DPO·IPO·KTO·ORPO), RL(GRPO·GDPO), 보상 모델링(RM/PRM)
- 쉬운 설정: 단일 YAML 설정 파일로 파이프라인 통합
- 성능 최적화: Multipacking, Flash Attention 2/3/4, Liger Kernel, Sequence Parallelism(SP) 등
- 유연한 데이터 처리: 로컬, HuggingFace, 클라우드(S3·Azure·GCP·OCI) 데이터셋 로드
설치
uv pip install --no-build-isolation axolotl[deepspeed]
# 예제 config 및 deepspeed config 다운로드
axolotl fetch examples
axolotl fetch deepspeed_configs # OPTIONAL
첫 파인튜닝
axolotl fetch examples
# LoRA로 모델 훈련
axolotl train examples/llama-3/lora-1b.yml