Kaito Workspace — 모델 배포의 단위
Kaito Workspace
Kaito에서 모델을 배포하는 기본 단위는 Workspace예요. 쿠버네티스 커스텀 리소스인 Workspace를 만들면 Kaito가 GPU 노드 프로비저닝부터 vLLM 기반 서빙까지 알아서 처리해요. 덕분에 모델 1개를 띄우기 위해 인프라 세부를 일일이 만질 필요가 없죠.
제약 사항
공식 문서가 안내하는 제약을 먼저 확인해야 해요.
- Windows OS SKU는 아직 지원하지 않아요.
- AMD GPU VM 크기는
instanceType으로 지원하지 않아요. - az aks stop / az aks start는 활성 Workspace가 있는 클러스터에선 완전히 지원되지 않아요 — 스타트 과정에서 노드풀 조정 충돌이 날 수 있어요.
모델 프리셋
호스팅 모델 프리셋 이미지와 기본 리소스 구성은 KAITO GitHub 저장소에서 볼 수 있어요. 애드온은 현재 KAITO 0.6.0 버전을 지원하므로, KAITO의 모델 저장소에서 모델을 고를 때 이 버전을 감안해야 해요.