Introducción a las instancias aceleradas por GPU - Amazon Elastic Compute Cloud

Introducción a las instancias aceleradas por GPU

Los tipos de instancias aceleradas por GPU de última generación, como las que se muestran en la siguiente lista, ofrecen las capacidades de mayor rendimiento para aplicaciones de aprendizaje profundo y computación de alto rendimiento (HPC). Seleccione el enlace del tipo de instancia para obtener más información sobre las capacidades.

Para obtener una lista completa de las especificaciones de los tipos de instancias aceleradas, consulte Computación acelerada en la referencia de tipos de instancias de Amazon EC2.

Configuración de software

La forma más sencilla de empezar con los tipos de instancias aceleradas por GPU de última generación es iniciar una instancia mediante una AMI de aprendizaje profundo de AWSque está preconfigurada con todo el software necesario. Para ver las últimas AWS Deep Learning AMIs para usar con tipos de instancias aceleradas por GPU, consulte DLAMI compatible con P6 en la Guía para desarrolladores de AWS Deep Learning AMIs.

Si necesita crear una AMI personalizada para iniciar instancias que alojen aplicaciones de aprendizaje profundo o HPC, le recomendamos que instale las siguientes versiones mínimas de software sobre la imagen base.

Tipo de instancia Controlador de NVIDIA CUDA NVIDIA GDRCopy Instalador EFA NCCL EFA K8s*
P5 530 12.1 2.3 1.24.1 2.18.3 0.4.4
P5e 550 12.1 2.3 1.24.1 2.18.3 0.5.5
P5en 550 12.1 2.3 1.24.1 2.18.3 0.5.6
P6-B200 570 12.8 2,5 1.4.1 2.26.2-1 0.5.10

* La columna EFA K8s contiene la versión mínima recomendada para aws-efa-k8s-device-plugin.

nota

Si utiliza la versión 1.4.1 del instalador de EFA, el aws-ofi-nccl plugin viene con él. Para versiones anteriores del instalador de EFA, utilice la versión 1.7.2-aws o posterior de aws-ofi-nccl plugin.

También se recomienda configurar la instancia para que no utilice estados C más profundos. Para obtener más información, consulte High performance and low latency by limiting deeper C-states en la Guía del usuario de Amazon Linux 2. Las últimas AMI de GPU de base de aprendizaje profundo de AWS están preconfiguradas para no utilizar estados C más profundos.

Para obtener información sobre las redes y las configuraciones Elastic Fabric Adapter (EFA), consulte Maximizar el ancho de banda de la red en instancias de Amazon EC2 con varias tarjetas de red.