Optimum
Optimum
Optimum은 Intel, Furiosa, ONNX Runtime, GPTQ, 그리고 더 낮은 수준의 PyTorch 양자화 기능을 지원하는 최적화 라이브러리입니다.
출처: 문서
본문
Optimum은 Intel, Furiosa, ONNX Runtime, GPTQ, 그리고 더 낮은 수준의 PyTorch 양자화 기능을 지원하는 최적화 라이브러리입니다. 특정 하드웨어(Intel CPU/HPU, AMD GPU, Furiosa NPU 등)와 ONNX Runtime 같은 모델 가속기의 성능을 향상시키도록 설계되었습니다.