Docker Compose 서비스를 GPU 접근으로 실행하기

Docker Compose 서비스를 GPU 접근으로 실행하기 (Run Docker Compose services with GPU access)

Compose 서비스는 Docker 호스트에 GPU 장치가 있고 Docker 데몬이 그에 맞게 설정되어 있으면 GPU 디바이스 예약을 정의할 수 있어요. 이를 위해 사전 요구사항을 아직 설치하지 않았다면 설치해야 해요.

출처: 문서

본문

다음 섹션의 예시들은 특히 Docker Compose로 서비스 컨테이너에 GPU 장치 접근을 제공하는 데 초점을 맞춰요.

서비스 컨테이너에 GPU 접근 활성화 (Enabling GPU access to service containers)

필요한 서비스 안에서 Compose Deploy 스펙의 device 속성을 사용해 GPU를 예약해요. 이렇게 하면 다음 디바이스 속성에 커스텀 값을 설정해 GPU 예약을 더 세밀하게 제어할 수 있어요:

(디바이스 횟수) — Compose 파일에서 이 필드를 반드시 설정해야 해요. 그렇지 않으면 서비스 배포 시 오류가 나요.
(지정하지 않으면) 호스트의 모든 GPU가 기본적으로 사용돼요.
(설정되면) 지정하지 않으면 호스트의 모든 GPU가 기본적으로 사용돼요.
(driver options) 드라이버 특화 옵션을 나타내는 키-값 쌍이에요. 이 필드가 없으면 (오류를 반환해요).

예시:

services:
  app:
    image: myapp
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: 1
              capabilities: [gpu]

이렇게 하면 컨테이너가 호스트의 NVIDIA GPU 하나를 사용할 수 있어요. 자세한 device 속성 설명과 예시는 원본 문서를 참고해요.