docker model install-runner
docker model install-runner
docker model install-runner 명령은 Docker Model Runner를 설치합니다 (Docker Engine 전용).
출처: 문서
본문
이 명령은 docker model 명령이 실행될 때 암시적으로 실행돼요. 새 설정을 추가하고 싶다면 이 명령을 명시적으로 실행할 수도 있어요.
옵션 (Options)
| 옵션 | 기본값 | 설명 |
|---|---|---|
--backend |
백엔드 지정 (llama.cpp|vllm|diffusers). 기본: llama.cpp | |
--debug |
디버그 로깅 활성화 | |
--do-not-track |
Docker Model Runner에서 모델 사용량 추적 안 함 | |
--gpu |
auto |
GPU 지원 지정 (none|auto|cuda|rocm|musa|cann) |
--host |
127.0.0.1 |
Docker Model Runner를 바인딩할 호스트 주소 |
--port |
Docker Model Runner용 도커 컨테이너 포트 (기본: Docker Engine 12434, Cloud 모드 12435) | |
--proxy-cert |
프록시 SSL 검사용 CA 인증서 파일 경로 | |
--tls |
Docker Model Runner API에 TLS/HTTPS 활성화 | |
--tls-cert |
TLS 인증서 파일 경로 (제공하지 않으면 자동 생성) | |
--tls-key |
TLS 개인키 파일 경로 (제공하지 않으면 자동 생성) | |
--tls-port |
Docker Model Runner용 TLS 포트 (기본: Docker Engine 12444, Cloud 모드 12445) |