Amazon ECS에서 GPU 지정

Amazon ECS에서 GPU 지정

Amazon ECS 태스크에 GPU(Graphics Processing Unit)를 지정하면 GPU 가속 워크로드를 실행할 수 있어요. 태스크 정의에서 GPU 수를 지정하고 GPU 인스턴스에서 태스크를 실행해요.

출처: 문서

본문

Amazon ECS에서 GPU를 지정하려면 태스크 정의에 GPU 수를 지정해요. 태스크 정의의 컨테이너 정의에서 GPU 수를 지정하면 해당 컨테이너에 GPU가 할당돼요.

GPU가 있는 인스턴스 유형(예: P2, P3, G4dn)에서 실행되는 태스크에 GPU를 지정할 수 있어요. 태스크에 GPU를 지정하려면:

  1. 태스크 정의의 컨테이너 정의에서 사용할 GPU 수를 지정하세요.
  2. GPU가 있는 인스턴스 유형을 사용하는 클러스터에서 태스크를 실행하세요.
  3. NVIDIA GPU 드라이버와 컨테이너 런타임이 올바르게 구성되어 있는지 확인하세요.

태스크 정의에서 GPU를 지정하는 예시는 다음과 같아요:

{
  "containerDefinitions": [
    {
      "name": "gpu-container",
      "image": "nvidia/cuda:latest",
      "resourceRequirements": [
        {
          "type": "GPU",
          "value": "1"
        }
      ]
    }
  ]
}

GPU 사용량은 인스턴스 유형의 기능에 따라 달라지며, 태스크에 지정하는 GPU 수는 인스턴스가 지원하는 범위 내여야 해요.

더 알아보기 (Learn more)