계층형 KV 캐싱

계층형 KV 캐싱 (HiCache)

HiCache는 SGLang의 계층형 KV 캐싱 기능을 뜻해요. 이 페이지는 HiCache 관련 문서들로 가는 인덱스입니다.

출처: 문서

본문

• Hicache Best Practices
• Hicache Design
• Hicache Storage Runtime Attach Detach

더 알아보기 (Learn more)

• HiCache Best Practices
• HiCache 설계(Design)
• HiCache 스토리지 런타임 attach/detach