Introducción a las instancias aceleradas por GPU
Los tipos de instancias aceleradas por GPU de última generación, como las que se muestran en la siguiente lista, ofrecen las capacidades de mayor rendimiento para aplicaciones de aprendizaje profundo y computación de alto rendimiento (HPC). Seleccione el enlace del tipo de instancia para obtener más información sobre las capacidades.
Para obtener una lista completa de las especificaciones de los tipos de instancias aceleradas, consulte Computación acelerada en la referencia de tipos de instancias de Amazon EC2.
Configuración de software
La forma más sencilla de empezar con los tipos de instancias aceleradas por GPU de última generación es iniciar una instancia mediante una AMI de aprendizaje profundo de AWSque está preconfigurada con todo el software necesario. Para ver las últimas AWS Deep Learning AMIs para usar con tipos de instancias aceleradas por GPU, consulte DLAMI compatible con P6 en la Guía para desarrolladores de AWS Deep Learning AMIs.
Si necesita crear una AMI personalizada para iniciar instancias que alojen aplicaciones de aprendizaje profundo o HPC, le recomendamos que instale las siguientes versiones mínimas de software sobre la imagen base.
| Tipo de instancia | Controlador de NVIDIA | CUDA | NVIDIA GDRCopy | Instalador EFA | NCCL | EFA K8s ¹ |
|---|---|---|---|---|---|---|
| P5 | 530 | 12.1 | 2.3 | 1.24.1 | 2.18.3 | 0.4.4 |
| P5.4xlarge | 530 | 12.1 | 2.3 | 1.43.1 ² | 2.18.3 | 0.4.4 |
| P5e | 550 | 12.1 | 2.3 | 1.24.1 | 2.18.3 | 0.5.5 |
| P5en | 550 | 12.1 | 2.3 | 1.24.1 | 2.18.3 | 0.5.6 |
| P6-B200 | 570 | 12.8 | 2,5 | 1.4.1 | 2.26.2-1 | 0.5.10 |
¹ La columna EFA K8s contiene la versión mínima recomendada para aws-efa-k8s-device-plugin.
² Existe un problema de compatibilidad que afecta a las instancias de P5.4xlarge en las que la comunicación entre GPU y GPU utiliza el Elastic Fabric Adapter (EFA) y la biblioteca de comunicaciones colectivas de NVIDIA (NCCL). Para mitigar el problema, defina la variable FI_HMEM_DISABLE_P2P a 1 y asegúrese de instalar la versión 1.43.1 o posterior del EFA.
nota
Si utiliza la versión 1.4.1 del instalador de EFA, el aws-ofi-nccl plugin viene con él. Para versiones anteriores del instalador de EFA, utilice la versión 1.7.2-aws o posterior de aws-ofi-nccl plugin.
También se recomienda configurar la instancia para que no utilice estados C más profundos. Para obtener más información, consulte High performance and low latency by limiting deeper C-states en la Guía del usuario de Amazon Linux 2. Las últimas AMI de GPU de base de aprendizaje profundo de AWS están preconfiguradas para no utilizar estados C más profundos.
Para obtener información sobre las redes y las configuraciones Elastic Fabric Adapter (EFA), consulte Maximizar el ancho de banda de la red en instancias de Amazon EC2 con varias tarjetas de red.
