Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Un Elastic Fabric Adapter (EFA) è un dispositivo di rete che puoi collegare alla tua EC2 istanza Amazon per accelerare le applicazioni di Intelligenza Artificiale (AI), Machine Learning (ML) e High Performance Computing (HPC). EFA consente di ottenere le prestazioni applicative di un cluster IA/ML o HPC on-premises con la scalabilità, la flessibilità e l'elasticità fornite dal cloud AWS .
EFA garantisce valori di latenza più bassi e coerenti e un throughput più elevato rispetto al trasporto TCP generalmente utilizzato nei sistemi HPC basati su cloud. Migliora inoltre le prestazioni delle comunicazioni tra istanze, essenziali per la scalabilità delle applicazioni IA/ML e HPC. È ottimizzato per funzionare sull'infrastruttura di AWS rete esistente e può essere scalato in base ai requisiti dell'applicazione.
EFA si integra con Libfabric versione 1.7.0 e successive e supporta Nvidia Collective Communications Library (NCCL) per le applicazioni IA e ML e Open MPI 4 e successivi e Intel MPI 2019 aggiornamento 5 e successivi per le applicazioni HPC.
EFA supporta la scrittura RDMA (Remote Direct Memory Access) sulla maggior parte dei tipi di istanze supportati con Nitro versione 4 e successive. La lettura RDMA è supportata su tutte le istanze con Nitro versione 4 e successive. Per ulteriori informazioni, consulta Tipi di istanze supportati.
Indice
Nozioni di base su EFA
Un dispositivo EFA può essere collegato a un' EC2 istanza in due modi:
-
Tramite un'interfaccia EFA tradizionale, chiamata anche EFA con ENA, che crea sia un dispositivo EFA che un dispositivo ENA.
-
Tramite un'interfaccia solo EFA, che crea solamente il dispositivo EFA.
Il dispositivo EFA offre funzionalità come il bypass del sistema operativo integrato e il controllo della congestione tramite il protocollo Scalable Reliable Datagram (SRD). Le caratteristiche del dispositivo EFA consentono una funzionalità di trasporto affidabile e a bassa latenza che consente all'interfaccia EFA di fornire migliori prestazioni applicative per le applicazioni HPC e ML su Amazon. EC2 Il dispositivo ENA, invece, offre una rete IP tradizionale.
Per interfacciarsi con il trasporto di rete del sistema, in genere le applicazioni IA/ML utilizzano NCCL, mentre quelle HPC utilizzano l'interfaccia MPI (Message Passing Interface). Nel AWS cloud, ciò significa che le applicazioni si interfacciano con NCCL o MPI, che quindi utilizza lo stack TCP/IP del sistema operativo e il driver del dispositivo ENA per abilitare la comunicazione di rete tra le istanze.
Con un'interfaccia EFA tradizionale (EFA con ENA) o solo EFA e applicazioni HPC per un'esecuzione più efficiente. AI/ML applications use NCCL and HPC applications use MPI, to interface directly with the Libfabric API. The Libfabric API bypasses the operating system kernel and communicates directly with the EFA device to put packets on the network. This reduces overhead and enables AI/ML
Nota
Libfabric è un componente fondamentale del framework OpenFabrics Interfaces (OFI), che definisce ed esporta l'API dello spazio utente di OFI. Per ulteriori informazioni, consulta il sito Web Libfabric. OpenFabrics
Differenze tra interfacce di rete ENA, EFA e solo EFA
Amazon EC2 offre due tipi di interfacce di rete:
-
Le interfacce ENA offrono tutte le tradizionali funzionalità di rete e routing IP necessarie per supportare la rete IP per un VPC. Per ulteriori informazioni, consulta Abilita una rete avanzata con ENA sulle tue EC2 istanze.
-
Le interfacce EFA (EFA con ENA) offrono sia il dispositivo ENA per le reti IP sia il dispositivo EFA per le comunicazioni a bassa latenza e a throughput elevato.
-
Le interfacce solo EFA supportano solamente le funzionalità dei dispositivi EFA, senza il dispositivo ENA per le reti IP tradizionali.
La seguente tabella illustra un confronto tra interfacce di rete ENA, EFA e solo EFA.
| ENA | EFA (EFA con ENA) | Solo EFA | |
|---|---|---|---|
| Supporto della funzionalità di rete IP | Sì | Sì | No |
| Possono essere assegnati IPv4 o indirizzi IPv6 | Sì | Sì | No |
| Possibilità di utilizzo come interfaccia di rete principale per un'istanza | Sì | Sì | No |
| Conta per il limite di collegamento ENI dell'istanza | Sì | Sì | Sì |
| Supporto dei tipi di istanze | Supportata su tutti i tipi di istanza basati su Nitro | Tipi di istanze supportati | Tipi di istanze supportati |
| Denominazione dei parametri in EC2 APIs | interface |
efa |
efa-only |
| Denominazione dei campi nella console EC2 | Nessuna selezione | EFA con ENA | Solo EFA |
Librerie e interfacce supportate
EFAs supporta le seguenti interfacce e librerie:
-
Open MPI versione 4 e successive
Nota
Per le istanze basate su Graviton, consigliamo di utilizzare Open MPI versione 4.0 o successive.
-
Intel MPI 2019 aggiornamento 5 e successivi
-
NVIDIA Collective Communications Library (NCCL) 2.4.2 e versioni successive
-
AWS Neuron SDK versione 2.3 e successive
Tipi di istanze supportati
Supportano i seguenti tipi di istanza: EFAs
| Tipo di istanza | Supporto per la lettura RDMA | Supporto per la scrittura RDMA |
|---|---|---|
| Uso generico | ||
| m8g.24xlarge | ||
| m 8 g. 48 x grande | ||
| m 8 g. Metallo - 24 XL | ||
| m8g.metallo-48xl | ||
| Ottimizzata per il calcolo | ||
| c7gn.16xlarge | ||
| c7gn., metallo | ||
| c8 g. 24 x grande | ||
| c 8 g. 48 x grande | ||
| c8 g. Metallo - 24 XL | ||
| c8g.metallo-48xl | ||
| Ottimizzata per la memoria | ||
| r 8 g. 24 x grande | ||
| r8 g. 48 x grande | ||
| r8 g. Metallo - 24 XL | ||
| r8g.metallo-48xl | ||
| x 8 g. 24 x grande | ||
| x 8 g. 48 x grande | ||
| x8 g. Metallo - 24 XL | ||
| x8g.metallo-48xl | ||
| Storage ottimizzato | ||
| i7ie. 48 x grande | ||
| Calcolo accelerato | ||
| p5en. 48 x grande | ||
| trn 2,48 x grande | ||
| TRN 2u.48 x grande | ||
| High Performance Computing | ||
| hpc7g.4xlarge | ||
| hpc7g.8xlarge | ||
| hpc7g.16xlarge | ||
Per visualizzare i tipi di istanza disponibili supportati EFAs in una regione specifica
I tipi di istanza disponibili variano in base alla regione. Per visualizzare i tipi di istanza disponibili supportati EFAs in una regione, utilizzate il describe-instance-types--region parametro. Includi il parametro --filters per assegnare i risultati ai tipi di istanza che supportano EFA e il parametro --query per assegnare l'output al valore di InstanceType.
aws ec2 describe-instance-types --regionus-east-1--filters Name=network-info.efa-supported,Values=true --query "InstanceTypes[*].[InstanceType]" --output text | sort
Sistemi operativi supportati
Il supporto per i sistemi operativi cambia a seconda del tipo di processore. Nella tabella seguente sono indicati i sistemi operativi supportati.
| Sistema operativo | Tipi di istanza Intel/AMD (x86_64) |
AWS Tipi di istanze Graviton (arm64) |
|---|---|---|
| Amazon Linux 2023 | ✓ | ✓ |
| Amazon Linux 2 | ✓ | ✓ |
| RHEL 8 e 9 | ✓ | ✓ |
| Debian 10, 11 e 12 | ✓ | ✓ |
| Rocky Linux 8 e 9 | ✓ | ✓ |
| Ubuntu 20.04, 22.04 e 24.04 | ✓ | ✓ |
| SUSE Linux Enterprise 15 SP2 e versioni successive | ✓ | ✓ |
| OpenSUSE Leap 15.5 e versioni successive | ✓ |
Nota
Ubuntu 20.04 consente il supporto diretto peer quando viene utilizzato con istanze dl1.24xlarge.
Limitazioni di EFA
EFAs hanno le seguenti limitazioni:
Nota
Il traffico EFA si riferisce al traffico trasmesso tramite il dispositivo EFA di un'interfaccia EFA (ovvero EFA con ENA) o solo EFA.
-
La scrittura RDMA non è supportata con tutti i tipi di istanze. Per ulteriori informazioni, consulta Tipi di istanze supportati.
-
Il traffico EFA tra istanze P4D/P4de/ e altri tipi di DL1 istanze non è attualmente supportato.
-
I tipi di istanza che supportano più schede di rete possono essere configurati con un EFA per scheda di rete. Tutti gli altri tipi di istanza supportati supportano solo un EFA per istanza.
-
Per
c7g.16xlarge,m7g.16xlargeer7g.16xlarge, le istanze dedicate e gli host dedicati non sono supportati quando è collegato un EFA. -
Il traffico EFA non può attraversare le zone di disponibilità o. VPCs Questo non si applica al normale traffico IP dal dispositivo ENA di un'interfaccia EFA.
-
Il traffico EFA non è instradabile. Al contrario, è possibile instradare il normale traffico IP dal dispositivo ENA di un'interfaccia EFA.
-
EFA non è supportato su AWS Outposts.
-
Il dispositivo EFA con interfaccia EFA (EFA con ENA) è supportato sulle istanze Windows solo per le applicazioni basate su AWS Cloud Digital Interface Software Development Kit (SDK).AWS CDI Se si collega un'interfaccia EFA (ovvero EFA con ENA) a un'istanza Windows per applicazioni non basate su CDI SDK, questa funziona come interfaccia ENA, senza le funzionalità aggiuntive del dispositivo EFA. L'interfaccia solo EFA non è supportata dalle AWS CDI applicazioni basate su Windows o Linux. Per ulteriori informazioni, consulta la Guida per l'utente del AWS Cloud Digital Interface Software Development Kit (AWS CDI SDK).
Prezzi EFA
EFA è disponibile come funzionalità EC2 di rete Amazon opzionale che puoi abilitare su qualsiasi istanza supportata senza costi aggiuntivi.
