TensorFlow Serving — 프로덕션 ML 모델 서빙 시스템
TensorFlow Serving — 프로덕션 ML 모델 서빙 시스템
TensorFlow Serving은 머신러닝 모델을 프로덕션 환경에서 서빙하기 위한 유연하고 고성능인 시스템이에요. 서버 아키텍처와 API는 그대로 두면서, 새 알고리즘·실험을 쉽게 배포할 수 있게 설계됐습니다.
TensorFlow 모델과의 통합이 기본으로 제공되고, 다른 종류의 모델·데이터로도 확장할 수 있어요. 아래 페이지에서 개요, 모델 서빙 튜토리얼, 아키텍처를 살펴볼게요.