병합 메서드 — linear에서 DARE·TIES까지
병합 메서드 — linear에서 DARE·TIES까지
mergekit의 병합 메서드 가이드는 각 알고리즘의 개념·사용 사례·파라미터를 설명해요. 목적(가중평균, 구면 보간, 태스크 벡터, 특화)에 따라 메서드를 골라요.
기본 병합
- Linear: 입력 모델 파라미터의 가중 평균. 가장 기본적이고 널리 쓰여요.
구면 보간
- SLERP: 가중치 공간에서 구면 선형 보간. 두 모델 사이를 초구면 경로로 따라가 노름·크기를 유지해요.
- NuSLERP / Multi-SLERP / Karcher mean: 가중치 제어·여러 모델·프로이만 평균 등의 변형.
태스크 벡터 기반
- Task Arithmetic: 파인튜닝 모델과 베이스 모델의 차(태스크 벡터)를 합산해 다시 더하는 방식.
- TIES-Merging: 태스크 벡터를 희소화하고 부호 합의(sign consensus)로 간섭을 해소.
- DARE / DELLA: 크기 기반 샘플링으로 벡터를 희소화.
특화 메서드
Model Stock, Nearswap, Arcee Fusion, Passthrough 등이 있고, 진화적 병합은 docs/evolve.md 에 있어요. 목표에 맞는 메서드 선택이 병합 품질을 좌우해요.