Model Compilation — torch.compile로 모델 가속

Model Compilation

파이썬은 표현력은 좋지만 실행이 느려요. 모델 컴파일은 파이토치 코드를 JIT 컴파일로 최적 커널로 바꿔, 코드 변경을 최소화하면서 추론·훈련 속도를 높이는 기법이에요. PyTorch 2.0의 torch.compile이 그 중심에 있고, TorchDynamo가 트레이싱을, TorchInductor가 Triton 커널 생성을 담당해요.

이 카테고리의 문서

• 개요: torch.compile 소개 — 파이썬 코드를 최적 커널로
• 실전·API: torch.compile 실전 — 훈련·추론 엔드투엔드
• 핵심 기능: torch.compiler 시작하기 — Dynamo·Inductor

출처: https://pytorch.org/tutorials/intermediate/torch_compile_tutorial.html