ONNX Runtime GenAI 튜토리얼 — 모델별 실행
ONNX Runtime GenAI 튜토리얼
튜토리얼은 특정 모델·실행 방식을 중심으로 한 실습 안내예요. 공식 목차를 보면 어떤 흐름을 커버하는지 한눈에 보여요.
다루는 주제
- Phi-3.5 vision 튜토리얼
- Phi-3 튜토리얼
- Phi-2 튜토리얼
- LoRA 어댑터로 실행하기
- DeepSeek-R1-Distill 튜토리얼
- Snapdragon 디바이스에서 실행하기
각 튜토리얼 페이지로 들어가면 모델별로 전처리·추론 설정을 실제로 따라 해 볼 수 있어요. 예를 들어 LoRA 어댑터 파트는 파인튜닝된 어댑터를 generate()로 불러 쓰는 방법을 보여주고, Snapdragon 파트는 온디바이스 실행을 다뤄요.
참고
문서 질문은 onnxruntime 저장소에 이슈로 남길 수 있어요. 각 페이지 하단에 'Edit this page on GitHub' 링크로 원문(마크다운)을 직접 볼 수도 있어요.