Spectrum 가속화
Spectrum 가속화 (Spectrum Acceleration)
이 페이지는 요청 범위에서 디노이징 스텝을 근사적으로 가속화하는 Spectrum 기법을 설명해요. Spectrum은 DiT 피처를 예측(foresee)해서 선택된 디노이징 스텝을 건너뛰는 방식이에요. 다만 이는 근사(approximation) 방식이므로, 실제 배포할 모델·형태·하드웨어·샘플링 설정에서 시각/비디오 품질과 지연 시간을 검증해야 해요.
출처: 문서
본문
빠른 시작 (Quick start)
sglang generate \
--model-path Wan-AI/Wan2.1-T2V-1.3B-Diffusers \
--prompt "A paper boat floating through a misty mountain lake" \
--enable-spectrum \
--save-output
적용 범위와 제약 (Scope and constraints)
- 네이티브 FLUX.1, Wan, HunyuanVideo, SD3 구현 경로에서만 사용할 수 있어요.
--backend diffusers기능이 아니며 현재 FLUX.2는 다루지 않아요. - 요청 제어는
sglang generate와 Python 샘플링 파라미터를 통해 가능해요. 아직sglang serve나 OpenAI 서버의 요청 옵션은 아니에요. - Spectrum과
--enable-teacache는 상호 배타적(mutually exclusive)이에요. - 기본값으로 시작해요.
--debug는 shadow-prediction 검증 작업을 추가하므로, 그 지연 시간은 정상 Spectrum 실행을 대표하지 않아요.
고급 컨트롤 (Advanced controls)
--enable-spectrum을 명시적으로 사용해요. Spectrum 오버라이드를 제공하면 자동으로 활성화되지만, 그 암시적 동작은 새 명령이 아닌 스크립트를 위한 것이에요.
| Flag | Default | Purpose |
|---|---|---|
--spectrum-window-size |
2.0 |
Initial step-skipping window |
--spectrum-flex-window |
0.75 |
Window growth after a real forward |
--spectrum-warmup-steps |
5 |
Initial exact DiT forwards |
--spectrum-m |
4 |
Chebyshev basis count |
--spectrum-lam |
0.1 |
Ridge regularization |
--spectrum-tau-num-steps |
50 |
Chebyshev time horizon |
--history-size |
100 |
Recent feature-history capacity |
--taylor-order |
1 |
Local predictor order (1, 2, or 3) |
--w |
1.0 |
Chebyshev/Taylor blend weight |
Warning 이 컨트롤들은 속도와 출력 충실도(fidelity) 사이의 트레이드오프를 조절해요. 한 번에 하나의 컨트롤만 변경하고, 비교를 위해 무손실(lossless) 기준선을 유지하세요.