Introducción a las instancias aceleradas por GPU

Los tipos de instancias aceleradas por GPU de quinta generación, como las que se muestran en la siguiente lista, ofrecen las capacidades de mayor rendimiento para aplicaciones de aprendizaje profundo y computación de alto rendimiento (HPC). Seleccione el enlace del tipo de instancia para obtener más información sobre las capacidades.

• P5 y P5e

Para obtener una lista completa de las especificaciones de los tipos de instancias aceleradas, consulte Computación acelerada en la referencia de tipos de instancias de Amazon EC2.

Configuración de software

La forma más sencilla de empezar con los tipos de instancias aceleradas por GPU de quinta generación es iniciar una instancia mediante una AWS Deep Learning AMI que está preconfigurada con todo el software necesario. Para conocer las últimas AWS Deep Learning AMIs para su uso con tipos de instancias aceleradas por GPU, consulte AMI de GPU de base de aprendizaje profundo de AWS (Ubuntu 20.04).

Si necesita crear una AMI personalizada para iniciar instancias que alojen aplicaciones de aprendizaje profundo o HPC, le recomendamos que instale las siguientes versiones mínimas de software sobre la imagen base:

Software	Tipo de instancia	Versión mínima
Controlador de NVIDIA	P5	530
	P5e	550
CUDA	P5, P5e	12.1
NVIDIA GDRCopy	P5, P5e	2.3
Instalador EFA	P5, P5e	1.24.1
NCCL	P5, P5e	2.18.3
complemento aws-ofi-nccl	P5, P5e	1.7.2-aws

También se recomienda configurar la instancia para que no utilice estados C más profundos. Para obtener más información, consulte High performance and low latency by limiting deeper C-states en la Guía del usuario de Amazon Linux 2. La última AMI de GPU de base de aprendizaje profundo de AWS está preconfigurada para no utilizar estados C más profundos.

Para obtener información sobre las redes y las configuraciones Elastic Fabric Adapter (EFA), consulte Maximización del ancho de banda de la red en instancias de computación acelerada con EFA.

Recomendaciones específicas para Ubuntu 20.04

Las siguientes recomendaciones para Ubuntu 20.04 ayudan a evitar que los nombres de las interfaces sean impredecibles durante el arranque:

• Asegúrese de que esté ejecutando systemd 245.4-4ubuntu3.19 o una versión posterior con el siguiente comando:

  systemd --version

• Asegúrese de haber configurado GRUB:

  • Abra el archivo de configuración /etc/default/grub en un editor de texto.

  • Edite la entrada GRUB_CMDLINE_LINUX_DEFAULT para incluir net.naming-scheme=v247.

  • Reinicie la instancia mediante la ejecución de sudo update-grub.