ONNX Runtime 설치 — 언어별 가이드

ONNX Runtime 설치 — 언어별 가이드

ONNX Runtime은 파이썬, C#/C/C++, 자바, 웹/모바일 등 여러 환경에서 쓸 수 있어요. 어떤 OS·하드웨어·가속기·언어 조합이든 설치 매트릭스 페이지를 기준으로 고르면 됩니다.

출처: https://onnxruntime.ai/docs/install/

파이썬

# CPU
pip install onnxruntime

# GPU (CUDA 12.x, 기본값)
pip install onnxruntime-gpu

# GPU (DirectML) — 지속 유지보수 모드
pip install onnxruntime-directml

GPU 패키지를 쓸 때 CUDA와 cuDNN이 필요해요. Windows에서는 CUDA bin과 cuDNN bin을 PATH에 추가하고, Linux에서는 LD_LIBRARY_PATH에 추가해야 합니다. onnxruntime-gpu는 PyTorch와 함께 쓸 때 CUDA/cuDNN을 수동 설치 없이 동작하게 해주는 API도 제공해요.

C# (NuGet)

# CPU
dotnet add package Microsoft.ML.OnnxRuntime

# GPU (CUDA 12.x)
dotnet add package Microsoft.ML.OnnxRuntime.Gpu

Windows의 새 프로젝트에서는 DirectML 대신 WinML 패키지 Microsoft.AI.MachineLearning을 권장해요.

웹과 모바일

  • 웹: npm install onnxruntime-web
  • Node.js: npm install onnxruntime-node
  • Android: Maven com.microsoft.onnxruntime:onnxruntime-android
  • iOS(C/C++): CocoaPods onnxruntime-c

미리 빌드된 패키지가 모든 ONNX opset과 연산자(op)를 지원해요. 패키지가 너무 크면 커스텀 빌드로 모델에 필요한 opset·op만 포함해 크기를 줄일 수도 있습니다.

더 알아보기