인퍼런스 API 기본
인퍼런스 API 기본
인퍼런스 API를 쓰는 방식은 언어마다 비슷한 굴레를 따라요. 모델을 불러오고, 입력을 준비하고, 세션에서 실행하고, 출력을 해석하는 흐름이죠. Python뿐 아니라 C#, C++, Java, JavaScript에서도 같은 패턴으로 쓸 수 있어요.
기본 패턴
import onnxruntime as ort
import numpy as np
sess = ort.InferenceSession("model.onnx")
input_name = sess.get_inputs()[0].name
result = sess.run(None, {input_name: np.random.rand(1, 3, 224, 224).astype("float32")})
확인 포인트
get_inputs()로 입력 이름과 형태를 확인하고, 그 이름에 맞춰 배열을 넣어요.- 데이터 타입(
dtype)이 모델 입력 타입과 일치해야 해요.
출처: https://onnxruntime.ai/docs/tutorials/inference/api-basics.html