Candle — 성능과 편의에 집중한 Rust 기반 미니멀 ML 프레임워크
Candle
Candle은 Hugging Face가 만든 Rust용 미니멀리스트 ML 프레임워크예요. 성능(GPU 포함)과 사용 편의성에 초점을 맞춰서, LLM·비전·음성 모델을 Rust에서 네이티브로 돌릴 수 있게 해줘요. 기존 PyTorch 모델을 Rust로 옮겨 쓰기 좋고, WASM을 통해 브라우저에서도 추론을 실행할 수 있는 게 큰 특징이에요. LLaMA·Gemma·Phi·Mistral 같은 최신 모델과 양자화(GGUF) 예제가 풍부해요.
이 카테고리의 문서
- 소개: Candle이 왜 만들어졌고 무엇을 제공하는지
- 주요 기능: 모델 지원·GPU·양자화·브라우저(WASM) 실행
- 시작하기: 설치와 첫 텐서 연산