AWS 추가 기능

AWS 추가 기능

다음 Amazon EKS 추가 기능을 클러스터에 만들 수 있습니다. 사용 가능한 추가 기능의 가장 최신 목록은 eksctl, AWS Management Console 또는 AWS CLI로 볼 수 있습니다. 모든 사용 가능한 추가 기능을 보거나 추가 기능을 설치하려면 Amazon EKS 추가 기능 생성을 참조하세요. 추가 기능에 IAM 권한이 필요하다면 클러스터용 IAM OpenID Connect(OIDC) 공급자가 있어야 합니다. 있는지 확인하거나 만들려면 클러스터용 IAM OIDC 공급자 생성을 참조하세요. 설치한 뒤에도 추가 기능을 만들거나 삭제할 수 있습니다. 자세한 내용은 Amazon EKS 추가 기능 업데이트 또는 클러스터에서 Amazon EKS 추가 기능 제거를 참조하세요. Amazon EKS Hybrid Nodes에서 EKS 추가 기능을 실행할 때의 특정 고려 사항은 하이브리드 노드용 추가 기능 구성을 참조하세요.

다음 Amazon EKS 추가 기능 중 하나를 사용할 수 있습니다.

설명	자세히 알아보기	호환되는 컴퓨팅 유형
클러스터에 네이티브 VPC 네트워킹 제공	Amazon VPC CNI 플러그인 for Kubernetes	EC2
Kubernetes 클러스터 DNS 역할을 할 수 있는 유연하고 확장 가능한 DNS 서버	CoreDNS	EC2, Fargate, EKS Auto Mode, EKS Hybrid Nodes
각 Amazon EC2 노드에서 네트워크 규칙 유지	Kube-proxy	EC2, EKS Hybrid Nodes
클러스터에 Amazon EBS 스토리지 제공	Amazon EBS CSI driver	EC2
클러스터에 Amazon EC2 인스턴스 스토리지 제공	Amazon EC2 Instance Store CSI driver	EC2
클러스터에 Amazon EFS 스토리지 제공	Amazon EFS CSI driver	EC2, EKS Auto Mode
클러스터에 Amazon S3 Files 스토리지 제공	Amazon EFS CSI driver	EC2, EKS Auto Mode
클러스터에 Amazon FSx for Lustre 스토리지 제공	Amazon FSx CSI driver	EC2, EKS Auto Mode
클러스터에 Amazon S3 스토리지 제공	Mountpoint for Amazon S3 CSI Driver	EC2, EKS Auto Mode
추가 노드 상태 문제 감지	Node monitoring agent	EC2, EKS Hybrid Nodes
Amazon EBS CSI driver 같은 호환 CSI 드라이버에서 스냅샷 기능 사용 활성화	CSI snapshot controller	EC2, Fargate, EKS Auto Mode, EKS Hybrid Nodes
SageMaker HyperPod task governance는 Amazon EKS 클러스터에서 팀 간 컴퓨팅 리소스 할당과 사용을 최적화하여 작업 우선순위 지정과 리소스 공유의 비효율성을 해결합니다.	Amazon SageMaker HyperPod task governance	EC2, EKS Auto Mode
Amazon SageMaker HyperPod Observability AddOn은 HyperPod 클러스터에 대한 종합적인 모니터링 및 관측 가능성 기능을 제공합니다.	Amazon SageMaker HyperPod Observability Add-on	EC2, EKS Auto Mode
Amazon SageMaker HyperPod training operator는 고급 스케줄링 및 리소스 관리 기능으로 Amazon EKS 클러스터에서 효율적인 분산 학습을 가능하게 합니다.	Amazon SageMaker HyperPod training operator	EC2, EKS Auto Mode
Amazon SageMaker HyperPod inference operator는 최적화된 리소스 활용과 비용 효율로 고성능 AI 추론 워크로드의 배포와 관리를 가능하게 합니다.	Amazon SageMaker HyperPod inference operator	EC2, EKS Auto Mode
클러스터 노드 전체의 TCP 연결에 대한 종합적인 모니터링을 가능하게 하며 네트워크 흐름 데이터를 수집하고 Amazon CloudWatch에 보고하는 Kubernetes 에이전트	AWS Network Flow Monitor Agent	EC2, EKS Auto Mode
OpenTelemetry 프로젝트의 안전하고 프로덕션에 적합하며 AWS가 지원하는 배포판	AWS Distro for OpenTelemetry	EC2, Fargate, EKS Auto Mode, EKS Hybrid Nodes
AWS CloudTrail 관리 이벤트와 Amazon VPC 흐름 로그를 포함한 기본 데이터 소스를 분석하고 처리하는 보안 모니터링 서비스. Amazon GuardDuty는 Kubernetes 감사 로그와 런타임 모니터링 같은 기능도 처리합니다	Amazon GuardDuty agent	EC2, EKS Auto Mode
AWS가 제공하는 모니터링 및 관측 가능성 서비스. 이 추가 기능은 CloudWatch Agent를 설치하고 Amazon EKS에 대한 향상된 관측 가능성으로 CloudWatch Application Signals와 CloudWatch Container Insights를 모두 활성화합니다	Amazon CloudWatch Observability agent	EC2, EKS Auto Mode, EKS Hybrid Nodes
EC2 인스턴스 프로필이 EC2 인스턴스에 자격 증명을 제공하는 것과 유사하게 애플리케이션의 자격 증명을 관리하는 기능	EKS Pod Identity Agent	EC2, EKS Hybrid Nodes
cert-manager가 AWS Private CA에서 X.509 인증서를 발급하도록 활성화. cert-manager 필요	AWS Private CA Connector for Kubernetes	EC2, Fargate, EKS Auto Mode, EKS Hybrid Nodes
SR-IOV 네트워크 장치 성능에 대한 Prometheus 메트릭 생성	SR-IOV Network Metrics Exporter	EC2
AWS Secrets Manager에서 비밀을, AWS Systems Manager Parameter Store에서 파라미터를 검색해 Kubernetes Pod에 파일로 마운트	AWS Secrets Store CSI Driver provider	EC2, EKS Auto Mode, EKS Hybrid Nodes
Spaces를 사용하면 JupyterLab과 Code Editor 애플리케이션을 만들고 관리하여 대화형 ML 워크로드를 실행할 수 있습니다.	Amazon SageMaker Spaces	Hyperpod

출처: 문서

본문

Amazon VPC CNI 플러그인 for Kubernetes

Amazon VPC CNI 플러그인 for Kubernetes Amazon EKS 추가 기능은 클러스터에 네이티브 VPC 네트워킹을 제공하는 Kubernetes 컨테이너 네트워크 인터페이스(CNI) 플러그인입니다. 이 추가 기능의 self-managed 또는 managed 유형은 기본적으로 각 Amazon EC2 노드에 설치됩니다. 자세한 내용은 Kubernetes 컨테이너 네트워크 인터페이스(CNI) 플러그인을 참조하세요.

참고

Amazon EKS Auto Mode 클러스터에는 이 추가 기능을 설치할 필요가 없습니다. 자세한 내용은 Amazon EKS Auto Mode에 대한 고려 사항을 참조하세요.

Amazon EKS 추가 기능 이름은 vpc-cni입니다.

필요한 IAM 권한

이 추가 기능은 Amazon EKS의 서비스 계정용 IAM 역할(IAM roles for service accounts) 기능을 사용합니다. 자세한 내용은 서비스 계정용 IAM 역할을 참조하세요.

클러스터가 IPv4 패밀리를 사용한다면 AmazonEKS_CNI_Policy의 권한이 필요합니다. 클러스터가 IPv6 패밀리를 사용한다면 IPv6 모드의 권한으로 IAM 정책을 만들어야 합니다. IAM 역할을 만들고 그중 하나의 정책을 연결한 뒤 다음 명령으로 추가 기능이 사용하는 Kubernetes 서비스 계정에 주석을 달 수 있습니다.

my-cluster를 클러스터 이름으로, AmazonEKSVPCCNIRole을 역할 이름으로 바꿉니다. 클러스터가 IPv6 패밀리를 사용한다면 AmazonEKS_CNI_Policy를 만든 정책 이름으로 바꿉니다. 이 명령은 기기에 eksctl이 설치되어 있어야 합니다. 다른 도구로 역할을 만들고 정책을 연결하며 Kubernetes 서비스 계정에 주석을 달아야 한다면 Kubernetes 서비스 계정에 IAM 역할 할당을 참조하세요.

eksctl create iamserviceaccount --name aws-node --namespace kube-system --cluster my-cluster --role-name AmazonEKSVPCCNIRole \
    --role-only --attach-policy-arn arn:aws:iam::aws:policy/AmazonEKS_CNI_Policy --approve

업데이트 정보

한 번에 하나의 마이너 버전만 업데이트할 수 있습니다. 예를 들어 현재 버전이 1.28.x-eksbuild.y이고 1.30.x-eksbuild.y로 업데이트하려면 현재 버전을 먼저 1.29.x-eksbuild.y로 업데이트한 다음 1.30.x-eksbuild.y로 다시 업데이트해야 합니다. 추가 기능 업데이트에 대한 자세한 내용은 Amazon VPC CNI 업데이트(Amazon EKS 추가 기능)를 참조하세요.

CoreDNS

CoreDNS Amazon EKS 추가 기능은 Kubernetes 클러스터 DNS 역할을 할 수 있는 유연하고 확장 가능한 DNS 서버입니다. 이 추가 기능의 self-managed 또는 managed 유형은 클러스터를 만들 때 기본적으로 설치되었습니다. 노드를 하나 이상 포함해 Amazon EKS 클러스터를 시작하면 클러스터에 배포된 노드 수와 관계없이 CoreDNS 이미지 복제본 두 개가 기본적으로 배포됩니다. CoreDNS Pod는 클러스터의 모든 Pod에 이름 확인을 제공합니다. 클러스터에 CoreDNS 배포의 네임스페이스와 일치하는 네임스페이스가 있는 Fargate 프로필이 포함되어 있다면 CoreDNS Pod를 Fargate 노드에 배포할 수 있습니다. 자세한 내용은 시작 시 AWS Fargate를 사용할 Pod 정의를 참조하세요.

참고

Amazon EKS Auto Mode 클러스터에는 이 추가 기능을 설치할 필요가 없습니다. 자세한 내용은 Amazon EKS Auto Mode에 대한 고려 사항을 참조하세요.

Amazon EKS 추가 기능 이름은 coredns입니다.

필요한 IAM 권한

이 추가 기능은 어떤 권한도 필요하지 않습니다.

추가 정보

CoreDNS에 대해 더 알아보려면 Kubernetes 문서의 Using CoreDNS for Service Discovery와 Customizing DNS Service를 참조하세요.

Kube-proxy

Kube-proxy Amazon EKS 추가 기능은 각 Amazon EC2 노드에서 네트워크 규칙을 유지합니다. 이는 Pod에 대한 네트워크 통신을 가능하게 합니다. 이 추가 기능의 self-managed 또는 managed 유형은 기본적으로 클러스터의 각 Amazon EC2 노드에 설치됩니다.

참고

Amazon EKS Auto Mode 클러스터에는 이 추가 기능을 설치할 필요가 없습니다. 자세한 내용은 Amazon EKS Auto Mode에 대한 고려 사항을 참조하세요.

Amazon EKS 추가 기능 이름은 kube-proxy입니다.

필요한 IAM 권한

이 추가 기능은 어떤 권한도 필요하지 않습니다.

업데이트 정보

현재 버전을 업데이트하기 전에 다음 요구 사항을 고려하세요.

• Amazon EKS 클러스터의 Kube-proxy는 Kubernetes와 같은 호환성 및 스큐(skew) 정책을 가집니다.

추가 정보

kube-proxy에 대해 더 알아보려면 Kubernetes 문서의 kube-proxy를 참조하세요.

Amazon EBS CSI driver

Amazon EBS CSI driver Amazon EKS 추가 기능은 클러스터에 Amazon EBS 스토리지를 제공하는 Kubernetes Container Storage Interface(CSI) 플러그인입니다.

참고

Amazon EKS Auto Mode 클러스터에는 이 추가 기능을 설치할 필요가 없습니다. Auto Mode에는 블록 스토리지 기능이 포함됩니다. 자세한 내용은 EKS Auto Mode에 샘플 stateful 워크로드 배포를 참조하세요.

Amazon EKS 추가 기능 이름은 aws-ebs-csi-driver입니다.

필요한 IAM 권한

이 추가 기능은 Amazon EKS의 서비스 계정용 IAM 역할 기능을 사용합니다. 자세한 내용은 서비스 계정용 IAM 역할을 참조하세요. 이 추가 기능은 다음 AWS 관리형 정책 중 하나가 필요합니다: 태그 기반 범위 지정용 AmazonEBSCSIDriverPolicyV2, 클러스터 범위 격리용 AmazonEBSCSIDriverEKSClusterScopedPolicy, 또는 태그 기반 제한을 원하지 않는 경우 AmazonEBSCSIDriverPolicy. 다음 명령으로 IAM 역할을 만들고 관리형 정책을 연결할 수 있습니다. my-cluster를 클러스터 이름으로, AmazonEKS_EBS_CSI_DriverRole을 역할 이름으로 바꿉니다. 이 명령은 기기에 eksctl이 설치되어 있어야 합니다. 다른 도구를 사용해야 하거나 암호화에 사용자 지정 KMS 키를 사용해야 한다면 1단계: IAM 역할 생성을 참조하세요.

AmazonEBSCSIDriverPolicy에서 마이그레이션하는 경우 EBS CSI Driver policy migration을 참조하세요.

eksctl create iamserviceaccount \
    --name ebs-csi-controller-sa \
    --namespace kube-system \
    --cluster my-cluster \
    --role-name AmazonEKS_EBS_CSI_DriverRole \
    --role-only \
    --attach-policy-arn arn:aws:iam::aws:policy/service-role/AmazonEBSCSIDriverPolicyV2 \
    --approve

추가 정보

추가 기능에 대해 더 알아보려면 Amazon EBS로 Kubernetes 볼륨 스토리지 사용을 참조하세요.

Amazon EC2 Instance Store CSI driver

Amazon EC2 Instance Store CSI driver Amazon EKS 추가 기능은 클러스터에 Amazon EC2 인스턴스 스토어 NVMe 스토리지를 제공하는 Kubernetes Container Storage Interface(CSI) 플러그인입니다.

Amazon EKS 추가 기능 이름은 aws-ec2-local-instance-store-csi-driver입니다.

필요한 IAM 권한

이 추가 기능은 어떤 권한도 필요하지 않습니다. 드라이버는 로컬 Linux 작업을 통해 백엔드 NVMe 장치와 상호 작용하며 AWS API 호출을 하지 않습니다.

추가 정보

추가 기능에 대해 더 알아보려면 Kubernetes 볼륨 스토리지용 Amazon EC2 인스턴스 스토어를 참조하세요.

Amazon EFS CSI driver

Amazon EFS CSI driver Amazon EKS 추가 기능은 클러스터에 Amazon EFS 및 Amazon S3 Files 스토리지를 제공하는 Kubernetes Container Storage Interface(CSI) 플러그인입니다.

Amazon EKS 추가 기능 이름은 aws-efs-csi-driver입니다.

필요한 IAM 권한

이 추가 기능은 Amazon EKS의 서비스 계정용 IAM 역할 기능을 사용합니다. 자세한 내용은 서비스 계정용 IAM 역할을 참조하세요.

필요한 특정 AWS 관리형 정책은 사용하려는 파일 시스템 유형에 따라 다릅니다.

• Amazon EFS 파일 시스템만: AmazonEFSCSIDriverPolicy 관리형 정책을 연결합니다.
• Amazon S3 파일 시스템만: AmazonS3FilesCSIDriverPolicy 관리형 정책을 연결합니다.
• Amazon EFS와 Amazon S3 파일 시스템 모두: AmazonEFSCSIDriverPolicy와 AmazonS3FilesCSIDriverPolicy 관리형 정책을 모두 연결합니다.

다음 명령으로 IAM 역할을 만들고 관리형 정책을 연결할 수 있습니다. my-cluster를 클러스터 이름으로, AmazonEKS_EFS_CSI_DriverRole을 역할 이름으로 바꿉니다. 다음 예시는 Amazon EFS 파일 시스템용 AmazonEFSCSIDriverPolicy를 연결합니다. Amazon S3 파일 시스템을 사용한다면 정책 ARN을 arn:aws:iam::aws:policy/service-role/AmazonS3FilesCSIDriverPolicy로 바꿉니다. 두 파일 시스템 유형을 모두 사용한다면 두 번째 정책 ARN으로 추가 --attach-policy-arn 플래그를 추가합니다. 이 명령은 기기에 eksctl이 설치되어 있어야 합니다. 다른 도구를 사용해야 한다면 Amazon EFS용 1단계: IAM 역할 생성 또는 Amazon S3 Files용 1단계: IAM 역할 생성을 참조하세요.

export cluster_name=my-cluster
export role_name=AmazonEKS_EFS_CSI_DriverRole
eksctl create iamserviceaccount \
    --name efs-csi-controller-sa \
    --namespace kube-system \
    --cluster $cluster_name \
    --role-name $role_name \
    --role-only \
    --attach-policy-arn arn:aws:iam::aws:policy/service-role/AmazonEFSCSIDriverPolicy \
    --approve
TRUST_POLICY=$(aws iam get-role --output json --role-name $role_name --query 'Role.AssumeRolePolicyDocument' | \
    sed -e 's/efs-csi-controller-sa/efs-csi-*/' -e 's/StringEquals/StringLike/')
aws iam update-assume-role-policy --role-name $role_name --policy-document "$TRUST_POLICY"

참고

위 예시는 efs-csi-controller-sa만 구성합니다. Amazon S3 파일 시스템을 사용한다면 efs-csi-node-sa도 구성해야 합니다. 전체 S3 Files IAM 설정은 1단계: IAM 역할 생성을 참조하세요.

추가 정보

추가 기능에 대해 더 알아보려면 Amazon EFS로 탄력적 파일 시스템 스토리지 사용을 참조하세요.

Amazon FSx CSI driver

Amazon FSx CSI driver Amazon EKS 추가 기능은 클러스터에 Amazon FSx for Lustre 스토리지를 제공하는 Kubernetes Container Storage Interface(CSI) 플러그인입니다.

Amazon EKS 추가 기능 이름은 aws-fsx-csi-driver입니다.

참고

클러스터에 사전 설치된 Amazon FSx CSI driver가 있으면 추가 기능 설치가 실패할 수 있습니다. 비 EKS FSx CSI Driver가 있는 동안 Amazon EKS 추가 기능 버전을 설치하려 하면 리소스 충돌로 설치가 실패합니다. 이 문제를 해결하려면 설치 중 OVERWRITE 플래그를 사용하세요.

aws eks create-addon --addon-name aws-fsx-csi-driver --cluster-name my-cluster --resolve-conflicts OVERWRITE

Amazon FSx CSI Driver EKS 추가 기능은 EKS Pod Identity 또는 IAM Roles for Service Accounts(IRSA)를 통한 인증을 지원합니다. EKS Pod Identity를 사용하려면 FSx CSI Driver 추가 기능을 배포하기 전이나 후에 Pod Identity 에이전트를 설치하세요. 자세한 내용은 Amazon EKS Pod Identity Agent 설정을 참조하세요. 대신 IRSA를 사용하려면 클러스터용 IAM OIDC 공급자 생성을 참조하세요.

필요한 IAM 권한

이 추가 기능은 Amazon EKS의 서비스 계정용 IAM 역할 기능을 사용합니다. 자세한 내용은 서비스 계정용 IAM 역할을 참조하세요. AmazonFSxFullAccess AWS 관리형 정책의 권한이 필요합니다. 다음 명령으로 IAM 역할을 만들고 관리형 정책을 연결할 수 있습니다. my-cluster를 클러스터 이름으로, AmazonEKS_FSx_CSI_DriverRole을 역할 이름으로 바꿉니다. 이 명령은 기기에 eksctl이 설치되어 있어야 합니다.

eksctl create iamserviceaccount \
    --name fsx-csi-controller-sa \
    --namespace kube-system \
    --cluster my-cluster \
    --role-name AmazonEKS_FSx_CSI_DriverRole \
    --role-only \
    --attach-policy-arn arn:aws:iam::aws:policy/AmazonFSxFullAccess \
    --approve

추가 정보

추가 기능에 대해 더 알아보려면 Amazon FSx for Lustre로 고성능 앱 스토리지 사용을 참조하세요.

Mountpoint for Amazon S3 CSI Driver

Mountpoint for Amazon S3 CSI Driver Amazon EKS 추가 기능은 클러스터에 Amazon S3 스토리지를 제공하는 Kubernetes Container Storage Interface(CSI) 플러그인입니다.

Amazon EKS 추가 기능 이름은 aws-mountpoint-s3-csi-driver입니다.

필요한 IAM 권한

이 추가 기능은 Amazon EKS의 서비스 계정용 IAM 역할 기능을 사용합니다. 자세한 내용은 서비스 계정용 IAM 역할을 참조하세요.

만들어진 IAM 역할에는 S3에 대한 액세스를 부여하는 정책이 필요합니다. 정책을 만들 때 Mountpoint IAM 권한 권장 사항을 따르세요. 또는 AWS 관리형 정책 AmazonS3FullAccess를 사용할 수 있지만, 이 관리형 정책은 Mountpoint에 필요한 것보다 더 많은 권한을 부여합니다.

다음 명령으로 IAM 역할을 만들고 정책을 연결할 수 있습니다. my-cluster를 클러스터 이름으로, region-code를 올바른 AWS 리전 코드로, AmazonEKS_S3_CSI_DriverRole을 역할 이름으로, AmazonEKS_S3_CSI_DriverRole_ARN을 역할 ARN으로 바꿉니다. 이 명령은 기기에 eksctl이 설치되어 있어야 합니다. IAM 콘솔이나 AWS CLI 사용에 대한 지침은 2단계: IAM 역할 생성을 참조하세요.

CLUSTER_NAME=my-cluster
REGION=region-code
ROLE_NAME=AmazonEKS_S3_CSI_DriverRole
POLICY_ARN=AmazonEKS_S3_CSI_DriverRole_ARN
eksctl create iamserviceaccount \
    --name s3-csi-driver-sa \
    --namespace kube-system \
    --cluster $CLUSTER_NAME \
    --attach-policy-arn $POLICY_ARN \
    --approve \
    --role-name $ROLE_NAME \
    --region $REGION \
    --role-only

추가 정보

추가 기능에 대해 더 알아보려면 Mountpoint for Amazon S3 CSI driver로 Amazon S3 객체 액세스를 참조하세요.

CSI snapshot controller

Container Storage Interface(CSI) snapshot controller는 Amazon EBS CSI driver 같은 호환 CSI 드라이버에서 스냅샷 기능을 사용할 수 있게 합니다.

Amazon EKS 추가 기능 이름은 snapshot-controller입니다.

필요한 IAM 권한

이 추가 기능은 어떤 권한도 필요하지 않습니다.

추가 정보

추가 기능에 대해 더 알아보려면 CSI 볼륨에 대한 스냅샷 기능 활성화를 참조하세요.

Amazon SageMaker HyperPod task governance

SageMaker HyperPod task governance는 Amazon EKS 클러스터에서 팀과 프로젝트 전반의 컴퓨팅 리소스 할당을 간소화하고 효율적인 사용을 보장하도록 설계된 강력한 관리 시스템입니다. 관리자가 다음을 설정할 수 있습니다.

• 다양한 작업의 우선순위 수준
• 각 팀의 컴퓨팅 할당
• 각 팀이 유휴 컴퓨팅을 빌리고 빌려주는 방식
• 팀이 자체 작업을 선점(preempt)할지 여부

HyperPod task governance는 또한 Amazon EKS 클러스터 관측 가능성을 제공하여 클러스터 용량에 대한 실시간 가시성을 제공합니다. 여기에는 컴퓨팅 가용성과 사용량, 팀 할당 및 활용도, 작업 실행 및 대기 시간 정보가 포함되어 정보에 기반한 의사 결정과 사전 예방적 리소스 관리를 가능하게 합니다.

Amazon EKS 추가 기능 이름은 amazon-sagemaker-hyperpod-taskgovernance입니다.

필요한 IAM 권한

이 추가 기능은 어떤 권한도 필요하지 않습니다.

추가 정보

추가 기능에 대해 더 알아보려면 SageMaker HyperPod task governance를 참조하세요.

Amazon SageMaker HyperPod Observability Add-on

Amazon SageMaker HyperPod Observability Add-on은 HyperPod 클러스터에 대한 종합적인 모니터링 및 관측 가능성 기능을 제공합니다. 이 추가 기능은 node exporter, DCGM exporter, kube-state-metrics, EFA exporter를 포함한 필수 모니터링 구성 요소를 자동으로 배포하고 관리합니다. 고객이 지정한 Amazon Managed Prometheus(AMP) 인스턴스로 메트릭을 수집하고 전달하며, 고객 학습 작업에서 사용자 지정 메트릭과 이벤트 수집을 위한 OTLP 엔드포인트를 노출합니다.

추가 기능은 HyperPod Task Governance 추가 기능, HyperPod Training Operator, Kubeflow, KEDA를 포함한 다양한 구성 요소에서 메트릭을 스크랩하여 더 넓은 HyperPod 생태계와 통합됩니다. 수집된 모든 메트릭은 Amazon Managed Prometheus에 중앙 집중되어 고객이 Amazon Managed Grafana 대시보드를 통해 통합 관측 가능성 보기를 달성할 수 있습니다. 이는 전체 HyperPod 환경에 걸쳐 클러스터 상태, 리소스 활용도, 학습 작업 성능에 대한 종단 간 가시성을 제공합니다.

Amazon EKS 추가 기능 이름은 amazon-sagemaker-hyperpod-observability입니다.

필요한 IAM 권한

이 추가 기능은 Amazon EKS의 서비스 계정용 IAM 역할 기능을 사용합니다. 자세한 내용은 서비스 계정용 IAM 역할을 참조하세요. 다음 관리형 정책이 필요합니다.

• AmazonPrometheusRemoteWriteAccess - 클러스터에서 AMP로 메트릭을 원격 기록하기 위한 것.
• CloudWatchAgentServerPolicy - 클러스터에서 CloudWatch로 로그를 원격 기록하기 위한 것.

추가 정보

추가 기능과 그 기능에 대해 더 알아보려면 SageMaker HyperPod Observability를 참조하세요.

Amazon SageMaker HyperPod training operator

Amazon SageMaker HyperPod training operator는 대규모 GPU 클러스터에서 분산 학습을 효율적으로 관리하여 생성형 AI 모델 개발을 가속화하는 데 도움을 줍니다. 지능적인 장애 복구, 중단(hang) 작업 감지, 학습 중단을 최소화하고 비용을 줄이는 프로세스 수준 관리 기능을 도입합니다. 오류가 발생하면 전체 작업 재시작이 필요한 기존 학습 인프라와 달리 이 연산자는 외과적인 프로세스 복구(surgical process recovery)를 구현해 학습 작업이 원활하게 실행되도록 합니다.

연산자는 또한 HyperPod의 상태 모니터링 및 관측 가능성 기능과 함께 작동하여 학습 실행에 대한 실시간 가시성과 손실 급증(loss spikes)이나 처리량 저하 같은 중요한 메트릭의 자동 모니터링을 제공합니다. 코드 변경 없이 간단한 YAML 구성으로 복구 정책을 정의할 수 있어 복구할 수 없는 학습 상태에 신속하게 대응하고 복구할 수 있습니다. 이러한 모니터링 및 복구 기능은 함께 작동하여 운영 오버헤드를 최소화하면서 최적의 학습 성능을 유지합니다.

Amazon EKS 추가 기능 이름은 amazon-sagemaker-hyperpod-training-operator입니다.

자세한 내용은 Amazon SageMaker Developer Guide의 Using the HyperPod training operator를 참조하세요.

필요한 IAM 권한

이 추가 기능은 IAM 권한이 필요하며 EKS Pod Identity를 사용합니다.

• AWS는 AmazonSageMakerHyperPodTrainingOperatorAccess 관리형 정책을 제안합니다.

자세한 내용은 Amazon SageMaker Developer Guide의 Installing the training operator를 참조하세요.

추가 정보

추가 기능에 대해 더 알아보려면 SageMaker HyperPod training operator를 참조하세요.

Amazon SageMaker HyperPod inference operator

Amazon SageMaker HyperPod는 대화형 실험과 학습부터 추론 및 사후 학습 워크플로까지 AI 개발의 전체 수명 주기를 지원하는 종단 간 경험을 제공합니다. 이제 Kubernetes의 유연성과 관리형 경험의 운영 우수성을 결합한 종합적인 추론 플랫폼을 제공합니다. 전체 모델 수명 주기에 걸쳐 같은 HyperPod 컴퓨팅을 사용하여 엔터프라이즈급 안정성으로 GenAI 모델을 배포, 스케일링, 최적화하세요.

Amazon SageMaker HyperPod는 kubectl, Python SDK, Amazon SageMaker Studio UI 또는 HyperPod CLI를 포함한 여러 방법으로 모델을 배포할 수 있는 유연한 배포 인터페이스를 제공합니다. 이 기능은 수요에 따라 자동으로 조정되는 동적 리소스 할당으로 고급 자동 스케일링 기능을 제공합니다. 또한 성능 최적화에 도움이 되도록 time-to-first-token, 지연 시간, GPU 사용률 같은 중요한 메트릭을 추적하는 종합적인 관측 가능성 및 모니터링 기능을 포함합니다.

Amazon EKS 추가 기능 이름은 amazon-sagemaker-hyperpod-inference입니다.

설치 방법

다음 방법 중 하나로 이 추가 기능을 설치할 수 있습니다.

• SageMaker 콘솔(권장): 단계별 구성으로 간소화된 설치 경험을 제공합니다.
• EKS 추가 기능 콘솔 또는 CLI: inference operator를 설치하기 전에 의존성 추가 기능의 수동 설치가 필요합니다. 필요한 종속성은 아래 사전 요구 사항 섹션을 참조하세요.

사전 요구 사항

EKS 추가 기능 콘솔 또는 CLI로 inference operator 추가 기능을 설치하기 전에 다음 종속성이 설치되어 있는지 확인하세요.

필수 EKS 추가 기능:

• Amazon S3 Mountpoint CSI Driver (최소 버전: v1.14.1-eksbuild.1)
• Metrics Server (최소 버전: v0.7.2-eksbuild.4)
• Amazon FSx CSI Driver (최소 버전: v1.6.0-eksbuild.1)
• Cert Manager (최소 버전: v1.18.2-eksbuild.2)

각 종속성의 상세 설치 지침은 Installing the inference operator를 참조하세요.

필요한 IAM 권한

이 추가 기능은 IAM 권한이 필요하며 OIDC/IRSA를 사용합니다.

다음 관리형 정책은 최소한의 범위 지정 권한을 제공하므로 권장됩니다.

• AmazonSageMakerHyperPodInferenceAccess - inference operator 설정에 필요한 관리자 권한을 제공합니다.
• AmazonSageMakerHyperPodGatedModelAccess - SageMaker Jumpstart의 gated 모델(예: Meta Llama, GPT-Neo)에 대한 SageMaker HyperPod 액세스를 제공합니다.

자세한 내용은 Installing the inference operator를 참조하세요.

추가 정보

Amazon SageMaker HyperPod inference operator에 대해 더 알아보려면 SageMaker HyperPod inference operator를 참조하세요.

트러블슈팅 정보는 Troubleshooting SageMaker HyperPod model deployment를 참조하세요.

AWS Network Flow Monitor Agent

Amazon CloudWatch Network Flow Monitor Agent는 클러스터의 모든 노드에서 TCP 연결 통계를 수집하고 네트워크 흐름 보고서를 Amazon CloudWatch Network Flow Monitor Ingestion API에 게시하는 Kubernetes 애플리케이션입니다.

Amazon EKS 추가 기능 이름은 aws-network-flow-monitoring-agent입니다.

필요한 IAM 권한

이 추가 기능은 IAM 권한이 필요합니다.

추가 기능에 CloudWatchNetworkFlowMonitorAgentPublishPolicy 관리형 정책을 연결해야 합니다.

필요한 IAM 설정에 대한 자세한 내용은 Amazon CloudWatch Network Flow Monitor Agent GitHub 저장소의 IAM Policy를 참조하세요.

관리형 정책에 대한 자세한 내용은 Amazon CloudWatch User Guide의 CloudWatchNetworkFlowMonitorAgentPublishPolicy를 참조하세요.

추가 정보

추가 기능에 대해 더 알아보려면 Amazon CloudWatch Network Flow Monitor Agent GitHub 저장소를 참조하세요.

Node monitoring agent

node monitoring agent Amazon EKS 추가 기능은 추가 노드 상태 문제를 감지할 수 있습니다. 이러한 추가 상태 신호는 선택적 노드 자동 수리 기능에서도 활용되어 필요에 따라 노드를 자동으로 교체할 수 있습니다.

참고

Amazon EKS Auto Mode 클러스터에는 이 추가 기능을 설치할 필요가 없습니다. 자세한 내용은 Amazon EKS Auto Mode에 대한 고려 사항을 참조하세요.

Amazon EKS 추가 기능 이름은 eks-node-monitoring-agent입니다.

필요한 IAM 권한

이 추가 기능은 추가 권한이 필요하지 않습니다.

추가 정보

자세한 내용은 노드 상태 문제 감지 및 자동 노드 수리 활성화를 참조하세요.

AWS Distro for OpenTelemetry

AWS Distro for OpenTelemetry Amazon EKS 추가 기능은 OpenTelemetry 프로젝트의 안전하고 프로덕션에 적합하며 AWS가 지원하는 배포판입니다. 자세한 내용은 GitHub의 AWS Distro for OpenTelemetry를 참조하세요.

Amazon EKS 추가 기능 이름은 adot입니다.

필요한 IAM 권한

이 추가 기능은 고급 구성을 통해 옵트인할 수 있는 사전 구성된 사용자 지정 리소스 중 하나를 사용하는 경우에만 IAM 권한이 필요합니다.

추가 정보

자세한 내용은 AWS Distro for OpenTelemetry 문서의 EKS 추가 기능을 사용한 AWS Distro for OpenTelemetry 시작하기(Getting Started with AWS Distro for OpenTelemetry using EKS Add-Ons)를 참조하세요.

ADOT는 사전 요구 사항으로 cert-manager 추가 기능이 클러스터에 배포되어 있어야 하며, 그렇지 않으면 https://registry.terraform.io/modules/terraform-aws-modules/eks/aws/latest cluster_addons 속성을 사용해 직접 배포할 경우 이 추가 기능이 작동하지 않습니다. 추가 요구 사항은 AWS Distro for OpenTelemetry 문서의 EKS 추가 기능을 사용한 AWS Distro for OpenTelemetry 시작하기 요구 사항(Requirements for Getting Started with AWS Distro for OpenTelemetry using EKS Add-Ons)을 참조하세요.

Amazon GuardDuty agent

Amazon GuardDuty agent Amazon EKS 추가 기능은 EKS 클러스터 노드에서 런타임 이벤트(파일 액세스, 프로세스 실행, 네트워크 연결)를 수집하여 GuardDuty Runtime Monitoring이 분석하도록 합니다. GuardDuty 자체(에이전트가 아닌)는 AWS CloudTrail 관리 이벤트와 Amazon VPC 흐름 로그를 포함한 기본 데이터 소스와 Kubernetes 감사 로그 및 런타임 모니터링 같은 기능을 분석하고 처리하는 보안 모니터링 서비스입니다.

Amazon EKS 추가 기능 이름은 aws-guardduty-agent입니다.

필요한 IAM 권한

이 추가 기능은 어떤 권한도 필요하지 않습니다.

추가 정보

자세한 내용은 Amazon GuardDuty의 Amazon EKS 클러스터용 Runtime Monitoring을 참조하세요.

Amazon EKS 클러스터에서 잠재적 보안 위협을 감지하려면 Amazon GuardDuty 런타임 모니터링을 활성화하고 GuardDuty 보안 에이전트를 Amazon EKS 클러스터에 배포하세요.

Amazon CloudWatch Observability agent

Amazon CloudWatch Observability agent Amazon EKS 추가 기능은 AWS가 제공하는 모니터링 및 관측 가능성 서비스입니다. 이 추가 기능은 CloudWatch Agent를 설치하고 Amazon EKS에 대한 향상된 관측 가능성으로 CloudWatch Application Signals와 CloudWatch Container Insights를 모두 활성화합니다. 자세한 내용은 Amazon CloudWatch Agent를 참조하세요.

Amazon EKS 추가 기능 이름은 amazon-cloudwatch-observability입니다.

필요한 IAM 권한

이 추가 기능은 Amazon EKS의 서비스 계정용 IAM 역할 기능을 사용합니다. 자세한 내용은 서비스 계정용 IAM 역할을 참조하세요. AWSXrayWriteOnlyAccess 및 CloudWatchAgentServerPolicy AWS 관리형 정책의 권한이 필요합니다. 다음 명령으로 IAM 역할을 만들고 관리형 정책을 연결하며 추가 기능이 사용하는 Kubernetes 서비스 계정에 주석을 달 수 있습니다. my-cluster를 클러스터 이름으로, AmazonEKS_Observability_role을 역할 이름으로 바꿉니다. 이 명령은 기기에 eksctl이 설치되어 있어야 합니다. 다른 도구로 역할을 만들고 정책을 연결하며 Kubernetes 서비스 계정에 주석을 달아야 한다면 Kubernetes 서비스 계정에 IAM 역할 할당을 참조하세요.

eksctl create iamserviceaccount \
    --name cloudwatch-agent \
    --namespace amazon-cloudwatch \
    --cluster my-cluster \
    --role-name AmazonEKS_Observability_Role \
    --role-only \
    --attach-policy-arn arn:aws:iam::aws:policy/AWSXrayWriteOnlyAccess \
    --attach-policy-arn arn:aws:iam::aws:policy/CloudWatchAgentServerPolicy \
    --approve

추가 정보

자세한 내용은 CloudWatch agent 설치를 참조하세요.

AWS Private CA Connector for Kubernetes

AWS Private CA Connector for Kubernetes는 cert-manager용 추가 기능으로, 사용자가 AWS Private Certificate Authority(AWS Private CA)에서 인증서를 얻을 수 있게 합니다.

Amazon EKS 추가 기능 이름은 aws-privateca-connector-for-kubernetes입니다.

추가 기능 네임스페이스는 aws-privateca-issuer입니다.

이 추가 기능은 cert-manager가 필요합니다. cert-manager는 Amazon EKS에서 커뮤니티 추가 기능으로 사용할 수 있습니다. 이 추가 기능에 대한 자세한 내용은 Cert Manager를 참조하세요. 추가 기능 설치에 대한 자세한 내용은 Amazon EKS 추가 기능 생성을 참조하세요.

필요한 IAM 권한

이 추가 기능은 IAM 권한이 필요합니다.

EKS Pod Identities를 사용해 AWSPrivateCAConnectorForKubernetesPolicy IAM 정책을 aws-privateca-issuer Kubernetes Service Account에 연결합니다. 자세한 내용은 Pod Identities를 사용해 Amazon EKS 추가 기능에 IAM 역할 할당을 참조하세요.

필요한 권한에 대한 정보는 AWS Managed Policy Reference의 AWSPrivateCAConnectorForKubernetesPolicy를 참조하세요.

추가 정보

자세한 내용은 AWS Private CA Issuer for Kubernetes GitHub 저장소를 참조하세요.

추가 기능 구성에 대한 자세한 내용은 aws-privateca-issuer GitHub 저장소의 values.yaml을 참조하세요. values.yaml 버전이 클러스터에 설치된 추가 기능 버전과 일치하는지 확인하세요.

이 추가 기능은 EKS Auto Mode의 system NodePool이 사용하는 CriticalAddonsOnly 테인트를 허용합니다. 자세한 내용은 전용 인스턴스에서 중요 추가 기능 실행을 참조하세요.

EKS Pod Identity Agent

Amazon EKS Pod Identity Agent Amazon EKS 추가 기능은 EC2 인스턴스 프로필이 EC2 인스턴스에 자격 증명을 제공하는 것과 유사하게 애플리케이션의 자격 증명을 관리하는 기능을 제공합니다.

참고

Amazon EKS Auto Mode 클러스터에는 이 추가 기능을 설치할 필요가 없습니다. Amazon EKS Auto Mode는 EKS Pod Identity와 통합됩니다. 자세한 내용은 Amazon EKS Auto Mode에 대한 고려 사항을 참조하세요.

Amazon EKS 추가 기능 이름은 eks-pod-identity-agent입니다.

필요한 IAM 권한

Pod Identity Agent 추가 기능 자체는 IAM 역할이 필요하지 않습니다. 기능에 필요한 권한은 Amazon EKS 노드 IAM 역할에서 가져오지만 추가 기능용 전용 IAM 역할은 필요하지 않습니다.

업데이트 정보

한 번에 하나의 마이너 버전만 업데이트할 수 있습니다. 예를 들어 현재 버전이 1.28.x-eksbuild.y이고 1.30.x-eksbuild.y로 업데이트하려면 현재 버전을 먼저 1.29.x-eksbuild.y로 업데이트한 다음 1.30.x-eksbuild.y로 다시 업데이트해야 합니다. 추가 기능 업데이트에 대한 자세한 내용은 Amazon EKS 추가 기능 업데이트를 참조하세요.

SR-IOV Network Metrics Exporter

SR-IOV Network Metrics Exporter Amazon EKS 추가 기능은 SR-IOV 네트워크 장치에 대한 메트릭을 Prometheus 형식으로 수집하고 노출합니다. EKS 베어 메탈 노드에서 SR-IOV 네트워크 성능 모니터링을 활성화합니다. 이 익스포터는 SR-IOV 지원 네트워크 인터페이스가 있는 노드에서 DaemonSet으로 실행되며 Prometheus가 스크랩할 수 있는 메트릭을 노출합니다.

참고

이 추가 기능은 SR-IOV 지원 네트워크 인터페이스가 있는 노드가 필요합니다.

속성	값
추가 기능 이름	sriov-network-metrics-exporter
네임스페이스	monitoring
문서	SR-IOV Network Metrics Exporter GitHub 저장소
서비스 계정 이름	없음
관리형 IAM 정책	없음
사용자 지정 IAM 권한	없음

AWS Secrets Store CSI Driver provider

Secrets Store CSI Driver용 AWS 프로바이더는 AWS Secrets Manager에서 비밀을 검색하고 AWS Systems Manager Parameter Store에서 파라미터를 검색해 Kubernetes Pod에 파일로 마운트할 수 있게 하는 추가 기능입니다.

필요한 IAM 권한

추가 기능은 IAM 권한이 필요하지 않습니다. 그러나 애플리케이션 Pod는 AWS Secrets Manager에서 비밀을 가져오고 AWS Systems Manager Parameter Store에서 파라미터를 가져오려면 IAM 권한이 필요합니다. 추가 기능 설치 후 IAM Roles for Service Accounts(IRSA) 또는 EKS Pod Identity를 통해 액세스를 구성해야 합니다. IRSA를 사용하려면 Secrets Manager IRSA 설정 문서를 참조하세요. EKS Pod Identity를 사용하려면 Secrets Manager Pod Identity 설정 문서를 참조하세요.

• AWS는 AWSSecretsManagerClientReadOnlyAccess 관리형 정책을 제안합니다.

필요한 권한에 대한 자세한 내용은 AWS Managed Policy Reference의 AWSSecretsManagerClientReadOnlyAccess를 참조하세요.

추가 정보

자세한 내용은 secrets-store-csi-driver-provider-aws GitHub 저장소를 참조하세요.

추가 기능에 대해 더 알아보려면 해당 추가 기능용 AWS Secrets Manager 문서를 참조하세요.

Amazon SageMaker Spaces

Amazon SageMaker Spaces 추가 기능은 EKS 또는 HyperPod-EKS 클러스터에서 IDE와 Notebooks를 실행하는 기능을 제공합니다. 관리자는 EKS 콘솔을 사용해 클러스터에 추가 기능을 설치하고 이미지, 컴퓨팅 리소스, 노트북 설정용 로컬 스토리지(스페이스에 연결할 추가 스토리지), 파일 시스템, 초기화 스크립트 같은 기본 스페이스 구성을 정의할 수 있습니다.

AI 개발자는 kubectl을 사용해 스페이스를 생성, 업데이트, 삭제할 수 있습니다. 관리자가 제공한 기본 구성을 사용하거나 설정을 사용자 지정할 수 있는 유연성이 있습니다. AI 개발자는 로컬 VS Code IDE 및/또는 관리자가 구성한 사용자 지정 DNS 도메인에서 JupyterLab 또는 CodeEditor IDE를 호스팅하는 웹 브라우저를 사용해 EKS 또는 HyperPod-EKS의 스페이스에 액세스할 수 있습니다. 또한 Kubernetes의 포트 포워딩 기능을 사용해 웹 브라우저에서 스페이스에 액세스할 수도 있습니다.

Amazon EKS 추가 기능 이름은 amazon-sagemaker-spaces입니다.

필요한 IAM 권한

이 추가 기능은 IAM 권한이 필요합니다. 필요한 IAM 설정에 대한 자세한 내용은 Amazon SageMaker Developer Guide의 IAM Permissions Setup을 참조하세요.

추가 정보

추가 기능과 그 기능에 대해 더 알아보려면 Amazon SageMaker Developer Guide의 HyperPod의 SageMaker AI Notebooks를 참조하세요.

더 알아보기 (Learn more)

• Amazon EKS 추가 기능
• 커뮤니티 추가 기능
• 공식 문서