Amazon ECS 태스크 정의에서 딥 러닝 지정

Amazon ECS에서 Habana Gaudi 가속 딥 러닝 컨테이너를 실행하려면 태스크 정의에 AWS Deep Learning Containers가 제공하는 Habana SynapseAI를 사용하는 TensorFlow 또는 PyTorch용 딥 러닝 모델을 서비스하는 사전 빌드 컨테이너의 컨테이너 정의가 포함되어야 합니다. 이 글에서는 DL1 인스턴스에서 딥 러닝을 실행하는 예시를 알아봅니다.

출처: 문서

본문

Amazon ECS에서 Habana Gaudi 가속 딥 러닝 컨테이너를 실행하려면, 태스크 정의에 TensorFlow 또는 PyTorch용 딥 러닝 모델을 Habana SynapseAI를 사용하여 서비스하는 사전 빌드 컨테이너의 컨테이너 정의가 포함되어야 합니다. 이 컨테이너는 AWS Deep Learning Containers가 제공합니다.

다음 컨테이너 이미지는 TensorFlow 2.7.0과 Ubuntu 20.04를 가지고 있습니다. Habana Gaudi 가속기에 최적화된 사전 빌드 Deep Learning Containers의 전체 목록은 GitHub에서 유지 관리됩니다. 자세한 내용은 Habana Training Containers 문서를 참고하세요.

763104351884.dkr.ecr.us-east-1.amazonaws.com/tensorflow-training-habana:2.7.0-hpu-py38-synapseai1.2.0-ubuntu20.04

다음은 Amazon EC2의 Linux 컨테이너용 태스크 정의 예시로, 사용할 구문을 보여줍니다. 이 예시는 여기서 찾을 수 있는 Habana Labs 시스템 관리 인터페이스 도구(HL-SMI)가 포함된 이미지를 사용합니다: vault.habana.ai/gaudi-docker/1.1.0/ubuntu20.04/habanalabs/tensorflow-installer-tf-cpu-2.6.0:1.1.0-614

{
    "family": "dl-test",
    "requiresCompatibilities": ["EC2"],
    "placementConstraints": [
        {
            "type": "memberOf",
            "expression": "attribute:ecs.os-type == linux"
        },
        {
            "type": "memberOf",
            "expression": "attribute:ecs.instance-type == dl1.24xlarge"
        }
    ],
    "networkMode": "host",
    "cpu": "10240",
    "memory": "1024",
    "containerDefinitions": [
        {
            "entryPoint": [
                "sh",
                "-c"
            ],
            "command": ["hl-smi"],
            "cpu": 8192,
            "environment": [
                {
                    "name": "HABANA_VISIBLE_DEVICES",
                    "value": "all"
                }
            ],
            "image": "vault.habana.ai/gaudi-docker/1.1.0/ubuntu20.04/habanalabs/tensorflow-installer-tf-cpu-2.6.0:1.1.0-614",
            "essential": true,
            "name": "tensorflow-installer-tf-hpu"
        }
    ]
}

더 알아보기 (Learn more)

Habana Gaudi 가속 컨테이너와 딥 러닝 컨테이너에 대한 자세한 내용은 AWS 개발자 가이드의 관련 문서를 참고하세요.