Ayude a mejorar esta página
Para contribuir a esta guía del usuario, elija el enlace Edit this page on GitHub que se encuentra en el panel derecho de cada página.
Administración de los dispositivos de hardware en Amazon EKS
Amazon EKS admite dos mecanismos de Kubernetes para administrar dispositivos de hardware especializados en clústeres de EKS: asignación dinámica de recursos (DRA) y complementos para dispositivos. Ambos mecanismos permiten que las cargas de trabajo accedan a aceleradores de hardware, como las GPU NVIDIA y los chips de AWS Trainium, y a dispositivos de red de alto rendimiento, como Elastic Fabric Adapter (EFA). Se recomienda utilizar los controladores de DRA para las nuevas implementaciones con las versiones 1.34 y posteriores de Kubernetes, ya que DRA ofrece una selección de dispositivos más completa, una programación con reconocimiento de topología y funciones de uso compartido de dispositivos que no son posibles con los complementos para dispositivos.
Consulte la documentación de Kubernetes sobre la asignación dinámica de recursos
La asignación dinámica de recursos frente a los complementos para dispositivos
Los complementos para dispositivos de Kubernetes han sido el principal mecanismo para exponer el hardware especializado a las cargas de trabajo de Kubernetes. Los complementos para dispositivos anuncian los dispositivos como recursos ampliados (por ejemplo, nvidia.com/gpu o aws.amazon.com/neuroncore) que se solicitan en límites y solicitudes de recursos de contenedores. Si bien los complementos para dispositivos son ampliamente compatibles y utilizados, tienen limitaciones:
-
Los dispositivos se solicitan mediante recuentos de enteros opacos sin filtrado basado en atributos.
-
No se admite el uso compartido de dispositivos entre contenedores o pods.
-
No hay una asignación con reconocimiento de topología expresiva entre los tipos de dispositivos.
-
A menudo, se requieren extensiones de programador personalizadas para una ubicación inteligente.
La asignación dinámica de recursos (DRA) es una característica de Kubernetes que está disponible de forma general en la versión 1.34 de Kubernetes y que aborda estas limitaciones. Con la DRA, los controladores de dispositivos publican una gran cantidad de atributos de los dispositivos en el programador de Kubernetes mediante objetos ResourceSlice. Solicita dispositivos mediante objetos ResourceClaim y ResourceClaimTemplate que hacen referencia a categorías DeviceClass.
DRA permite:
-
La selección de dispositivos basada en atributos mediante expresiones del lenguaje de expresión común (CEL)
. -
Asignación con reconocimiento de topología que garantiza que los dispositivos estén ubicados en el mismo conmutador PCIe o dominio NUMA.
-
Uso compartido de dispositivos entre varios contenedores o pods mediante referencias de
ResourceClaimcompartidas. -
Programación basada en restricciones que alinea diferentes tipos de dispositivos
Controladores DRA para Amazon EKS
Los siguientes controladores de DRA se utilizan habitualmente para administrar dispositivos de hardware especializados en los clústeres de Amazon EKS.
- Controlador de DRA de Neuron
-
El controlador de DRA de Neuron administra la asignación de dispositivos AWS Trainium y AWS Inferentia2 con programación con reconocimiento de topología, asignación de subconjuntos de dispositivos conectados y configuración lógica de NeuronCore (LNC) sin necesidad de extensiones de programador personalizadas.
- Controlador de DRA de NVIDIA
-
El controlador de DRA de NVIDIA para las GPU
permite una asignación flexible y una reconfiguración dinámica de las GPU de NVIDIA, además de admitir recursos ComputeDomainpara cargas de trabajo NVLink (MNNVL) de varios nodos en instancias Grace-Blackwell de EC2. Para obtener más información sobre el uso deComputeDomainscon instancias Grace-Blackwell de EC2, consulte Uso de UltraServers P6e-GB200 con Amazon EKS.
Complementos para dispositivos para Amazon EKS
Los siguientes complementos para dispositivos se utilizan habitualmente para administrar dispositivos de hardware especializados en los clústeres de Amazon EKS.
- Complemento para dispositivos de EFA
-
El complemento para dispositivos EFA detecta todos los dispositivos EFA disponibles en cada nodo y los anuncia como recursos ampliados de
vpc.amazonaws.com/efa. - Complemento para dispositivos Neuron
-
El complemento para dispositivos Neuron
expone el hardware de Neuron como recursos ampliados de aws.amazon.com/neuroncoreyaws.amazon.com/neuron. Detecta los dispositivos Neuron disponibles en cada nodo, los anuncia como recursos asignables y administra su ciclo de vida. - Complemento para dispositivos de NVIDIA
-
El complemento para dispositivos de NVIDIA
promociona las GPU NVIDIA como recursos ampliados de nvidia.com/gpuy hace un seguimiento del estado de las GPU.
Consideraciones
Antes de usar los controladores de DRA en Amazon EKS, tenga en cuenta lo siguiente:
-
DRA está disponible en Amazon EKS con la versión 1.33 y posteriores de Kubernetes, pero se recomienda para las versiones 1.34 y posteriores de Kubernetes debido a un problema de Kubernetes
ascendente. El plano de control del clúster y los nodos deben ejecutar una versión de Kubernetes que sea compatible con DRA. -
Actualmente, DRA no es compatible con la computación aprovisionada del modo automático de EKS o Karpenter. Debe utilizar grupos de nodos administrados por EKS o nodos autoadministrados con controladores de DRA.
-
Los controladores de DRA y los complementos para dispositivos para el mismo tipo de dispositivo no deben ejecutarse simultáneamente en el mismo nodo. Desinstale el complemento para dispositivos antes de instalar el controlador de DRA correspondiente o impleméntelo en nodos independientes. Consulte el KEP-5004
de Kubernetes para obtener actualizaciones sobre la compatibilidad del controlador de DRA y los complementos para dispositivos. -
DRA utiliza recursos de API de Kubernetes (
ResourceClaim,ResourceClaimTemplate,DeviceClass) distintos a los complementos para dispositivos (resource.limits,resource.requests). La migración de los complementos para dispositivos a DRA requiere actualizar las especificaciones de la carga de trabajo. -
Los complementos para dispositivos siguen siendo totalmente compatibles con todas las versiones de Kubernetes. Si su clúster ejecuta una versión de Kubernetes anterior a la 1.34, si utiliza Karpenter o el modo automático de EKS o si utiliza Bottlerocket, siga usando los complementos para dispositivos.
Temas
