TensorRT 설치하기

TensorRT를 설치하는 방법은 여러 가지예요. 개발 환경과 배포 용도에 맞는 방법을 고르는 게 중요해요. 이 페이지에서는 설치 방법 비교와 선택 기준, 그리고 설치 후 확인 방법을 다뤄요.

출처: Installing TensorRT (공식)

설치로 얻는 것

TensorRT를 설치하면 시스템에 이런 것들이 들어와요.

TensorRT 라이브러리 (libnvinfer, libnvonnxparser 등) — C++/Python 애플리케이션이 엔진을 로드·실행할 때 링크하는 라이브러리예요.
Python 바인딩 (tensorrt 패키지) — C++을 작성하지 않고 Python에서 엔진을 빌드·저장·실행할 수 있어요.
trtexec 명령줄 도구 — Debian/RPM, tar/zip, 컨테이너 설치에만 포함돼요. ONNX 파일에서 엔진을 빌드하고 벤치마킹하며, 새 non-pip 설치가 동작하는지 가장 빠르게 확인하는 방법이에요. pip wheel에는 포함되지 않아요.
C++ 헤더 (NvInfer.h 등) — pip을 제외한 모든 방법에 포함돼요.

방법	용도	루트 필요	C++ 헤더	멀티버전	설치 시간
pip (Python)	Python 개발	아니오	아니오	예 (venv)	가장 빠름 (~2분)
Debian/RPM	시스템 전체	예	예	아니오	빠름 (~5분)
Tar/Zip	여러 버전	아니오	예	예	중간 (~10분)
Container (NGC)	격리 환경	아니오 (Docker)	예	예	가장 빠름 (~5분)

Python 개발이 목적이라면 pip으로 가장 간단하게 설치해요. pip은 PyPI에서 자동으로 패키지를 받아요.

pip install tensorrt

pip으로 설치하면 Python 바인딩과 라이브러리만 얻을 수 있어요. trtexec는 없으니, CLI 첫 엔진 튜토리얼을 돌리려면 이 방식 대신 trtexec가 포함된 설치를 고르세요.

이 방식들은 패키지를 직접 다운로드해야 해요. 먼저 TensorRT 다운로드 페이지에서 라이선스에 동의하고, 플랫폼에 맞는 패키지를 받아요.

설치 방법별 확인 방법이 달라요. trtexec가 포함된 방법이라면 이렇게 확인해요.

trtexec --help

import tensorrt as trt
print(trt.__version__)

둘 다 성공하면 Build Your First Engine으로 진행해서 약 10분 만에 테스트 엔진을 빌드·실행해 볼 수 있어요.

pip 전용이라면 trtexec --help 대신 이렇게 확인해요.

import tensorrt as trt
print(trt.__version__)
assert trt.Builder(trt.Logger())