AWS ParallelCluster processi

Questa sezione si applica ai cluster distribuiti con. Slurm Se utilizzato con questo scheduler, AWS ParallelCluster gestisce il provisioning e la rimozione dei nodi di calcolo interagendo con il job scheduler sottostante.

Per i cluster HPC basati su AWS Batch, si basa sulle funzionalità fornite AWS ParallelCluster dalla gestione dei nodi di calcolo. AWS Batch

clustermgtd

Le seguenti attività vengono eseguite dal daemon di gestione del cluster.

• Pulizia delle partizioni inattive

• Gestione delle Slurm prenotazioni e dei nodi associati ai Capacity Blocks (vedere la sezione seguente)

• Gestione statica della capacità: assicurati che la capacità statica sia sempre attiva e integra

• Sincronizza lo scheduler con Amazon EC2.

• Pulizia delle istanze orfane

• Ripristina lo stato del nodo di pianificazione su Amazon EC2, terminazione che avviene al di fuori del flusso di lavoro di sospensione

• Gestione non integra delle istanze Amazon EC2 (mancati controlli di integrità di Amazon EC2)

• Gestione degli eventi di manutenzione programmata

• Gestione non corretta dei nodi di Scheduler (controlli di integrità di Scheduler non riusciti)

Gestione delle Slurm prenotazioni e dei nodi associati ai Capacity Blocks

ParallelCluster supporta On-Demand Capacity Reservations (ODCR) e Capacity Blocks for Machine Learning (CB). A differenza dell'ODCR, CB può avere orari di inizio futuri ed è limitato nel tempo.

Clustermgtd cerca i nodi non integri in un ciclo e termina tutte le istanze Amazon EC2 inattive, sostituendole con nuove istanze se si tratta di nodi statici.

ParallelCluster gestisce i nodi statici associati a Capacity Blocks in modo diverso. AWS ParallelCluster crea un cluster anche se il CB non è ancora attivo e le istanze vengono avviate automaticamente una volta che il CB è attivo.

I Slurm nodi corrispondenti alle risorse di calcolo associate ai CB che non sono ancora attivi vengono mantenuti in manutenzione fino al raggiungimento dell'ora di avvio del CB. Slurmi nodi rimarranno in uno stato di prenotazione/manutenzione associato all'utente Slurm amministratore, il che significa che possono accettare lavori, ma i lavori rimarranno in sospeso fino alla rimozione della prenotazione. Slurm

Clustermgtd creerà/eliminerà automaticamente le Slurm prenotazioni, mettendo in manutenzione i relativi nodi CB in base allo stato CB. Quando CB sarà attivo, la Slurm prenotazione verrà rimossa, i nodi verranno avviati e saranno disponibili per i lavori in sospeso o per l'invio di nuovi lavori.

Quando viene raggiunta l'ora di fine del CB, i nodi verranno riportati allo stato di prenotazione/manutenzione. Spetta agli utenti reinviare/mettere in coda i lavori su una nuova coda/risorsa di calcolo quando CB non è più attivo e le istanze vengono terminate.

clusterstatusmgtd

Il daemon di gestione dello stato del cluster gestisce l'aggiornamento dello stato della flotta di calcolo. Ogni minuto recupera lo stato della flotta memorizzato in una tabella DynamoDB e gestisce qualsiasi richiesta STOP/START.

computemgtd

I processi Compute Management Daemon (computemgtd) vengono eseguiti su ciascuno dei nodi di calcolo del cluster. Ogni cinque (5) minuti, il demone di gestione del calcolo conferma che il nodo principale è raggiungibile ed è integro. Se trascorrono cinque (5) minuti durante i quali il nodo principale non può essere raggiunto o non è integro, il nodo di elaborazione viene spento.