Deep Learning AMI GPU TensorFlow 2.17(Ubuntu 22.04)

시작하는 데 도움이 필요하면 섹션을 참조하세요DLAMI 시작하기.

AMI 이름 형식

• Deep Learning OSS Nvidia 드라이버 AMI GPU TensorFlow 2.17(Ubuntu 22.04) ${YYYY-MM-DD}

지원되는 EC2 인스턴스

• OSS Nvidia 드라이버를 사용한 딥 러닝은 G4dn, G5, G6, Gr6, G6e, P4d, P4de, P5, P5e를 지원합니다. P5en.

AMI에는 다음이 포함됩니다.

• 지원되는 AWS 서비스: Amazon EC2

• 운영 체제: Ubuntu 22.04

• 컴퓨팅 아키텍처: x86

• Python: /opt/tensorflow/bin/python3.12

• TensorFlow 버전:2.17

• NVIDIA 드라이버: 

  • OSS Nvidia 드라이버:570.172.08

• NVIDIA CUDA12 스택:

  • CUDA, NCCL 및 cuDDN 설치 경로: /usr/local/cuda-12.3/

• EFA 설치 관리자: 1.34.0

• AWS CLI v2as aws2 및AWS CLI v1as aws

• EBS 볼륨 유형: gp3

• SSM 파라미터를 사용하여 AMI-ID 쿼리(예: 리전은 us-east-1):

  • OSS Nvidia 드라이버:

    aws ssm get-parameter --region us-east-1 \
        --name /aws/service/deeplearning/ami/x86_64/oss-nvidia-driver-gpu-tensorflow-2.17-ubuntu-22.04/latest/ami-id  \
        --query "Parameter.Value" \
        --output text

• AWSCLI를 사용하여 AMI-ID 쿼리(예: 리전은 us-east-1):

  • OSS Nvidia 드라이버:

    aws ec2 describe-images --region us-east-1 \
        --owners amazon --filters 'Name=name,Values=Deep Learning OSS Nvidia Driver AMI GPU TensorFlow 2.17 (Ubuntu 22.04) ????????' 'Name=state,Values=available' \
        --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' \
        --output text

릴리스 날짜: 2025-02-17

AMI 이름: Deep Learning OSS Nvidia 드라이버 AMI GPU TensorFlow 2.17(Ubuntu 22.04) 20250215

Updated

• NVIDIA Container Toolkit을 버전 1.17.3에서 버전 1.17.4로 업데이트했습니다.

  • 자세한 내용은 여기에서 릴리스 정보 페이지를 참조하세요.https://github.com/NVIDIA/nvidia-container-toolkit/releases/tag/v1.17.4

  • Container Toolkit 버전 1.17.4에서는 이제 CUDA compat 라이브러리 탑재가 비활성화되었습니다. 컨테이너 워크플로에서 여러 CUDA 버전과의 호환성을 보장하려면 CUDA 호환성 계층을 사용하는 경우 자습서에 표시된 대로 CUDA 호환성 라이브러리를 포함하도록 LD_LIBRARY_PATH를 업데이트해야 합니다.

제거됨

• 2025년 2월 18일 NVIDIA CUDA 도구 키트 보안 공지에 있는 CVE를 해결하기 위해 NVIDIA CUDA 도구 키트에서 제공하는 사용자 공간 라이브러리 cuobj 및 nvdisasm 제거 CVEs

릴리스 날짜: 2025-01-20

AMI 이름: Deep Learning OSS Nvidia 드라이버 AMI GPU TensorFlow 2.17(Ubuntu 22.04) 20250118

Updated

• 2025년 550.127.05월 NVIDIA GPU 디스플레이 드라이버 보안 공지에 있는 CVEs를 해결하기 위해 Nvidia 드라이버를 버전에서 550.144.03로 업그레이드했습니다.https://nvidia.custhelp.com/app/answers/detail/a_id/5614

버전 2.17.1

릴리스 날짜: 2024-11-18

AMI 이름: Deep Learning OSS Nvidia 드라이버 AMI GPU TensorFlow 2.17(Ubuntu 22.04) 20241115

고정 

• 커널 주소 공간 레이아웃 무작위화(KASLR) 기능의 결함을 해결하기 위해 Ubuntu 커널이 변경되었으므로 G4Dn/G5 인스턴스는 OSS Nvidia 드라이버에서 CUDA를 올바르게 초기화할 수 없습니다. 이 문제를 완화하기 위해이 DLAMI에는 G4Dn 및 G5 인스턴스용 독점 드라이버를 동적으로 로드하는 기능이 포함되어 있습니다. 인스턴스가 제대로 작동할 수 있도록이 로드에 짧은 초기화 기간을 허용하십시오.

  • 이 서비스의 상태와 상태를 확인하려면 다음 명령을 사용할 수 있습니다.

sudo systemctl is-active dynamic_driver_load.service
active

버전 2.17.0

릴리스 날짜: 2024-09-25

AMI 이름: Deep Learning OSS Nvidia 드라이버 AMI GPU TensorFlow 2.17(Ubuntu 22.04) 20240924

추가됨

• Deep Learning OSS Nvidia 드라이버 AMI GPU TensorFlow 2.17(Ubuntu 22.04) 시리즈의 최초 릴리스입니다.

  • 소프트웨어에는 다음이 포함됩니다.

    • "nvidia-driver=550.90.07"

    • "fabric-manager=550.90.07"

    • "cuda=12.3"

    • "cudnn=8.9.7"

    • "efa=1.34.0"

    • "nccl=2.22.3"

    • “aws-nccl-ofi-plugin=v1.11.0-aws“

• Tensorflow 가상 환경(활성화 명령 소스 /opt/tensorflow/bin/activate)에는 다음이 포함됩니다.

  • “tensorflow=2.17.0”