Ribilanciamento della capacità in Auto Scaling per sostituire le istanze Spot a rischio

Modalità Focus

Ribilanciamento della capacità in Auto Scaling per sostituire le istanze Spot a rischio - Amazon EC2 Auto Scaling

Panoramica Comportamento di ribilanciamento della capacità Considerazioni

Il ribilanciamento della capacità in Auto Scaling aiuta a mantenere la disponibilità del carico di lavoro sostituendo in modo proattivo le istanze Spot a rischio di interruzione.

Quando le istanze Spot sono a rischio elevato di interruzione, il servizio Amazon EC2 Spot invia una raccomandazione di ribilanciamento dell' EC2 istanza ad Amazon Auto Scaling. EC2 Se abiliti il ribilanciamento della capacità, Auto Scaling tenta di sostituire in modo proattivo le istanze Spot del tuo gruppo che hanno ricevuto una raccomandazione di ribilanciamento delle istanze. EC2 È possibile decidere di ribilanciare il carico di lavoro su Istanze Spot nuove o esistenti che non presentano un rischio elevato di interruzione.

Quando non si utilizza il ribilanciamento della capacità, Auto Scaling sostituisce le istanze Spot solo dopo che il servizio EC2 Amazon Spot interrompe le istanze e il relativo controllo di integrità fallisce. Prima di interrompere un'istanza, Amazon fornisce EC2 sempre sia una raccomandazione di ribilanciamento dell' EC2 istanza sia un avviso Spot di interruzione dell'istanza di due minuti.

Indice

Panoramica

Per utilizzare il ribilanciamento della capacità con il gruppo con dimensionamento automatico, i passaggi di base sono:

Configurare l'utilizzo di più tipi di istanze e zone di disponibilità da parte del tuo gruppo con dimensionamento automatico. In questo modo, Amazon EC2 Auto Scaling può esaminare la capacità disponibile per le istanze Spot in ciascuna zona di disponibilità. Per ulteriori informazioni, consulta Gruppi Auto Scaling con più tipi di istanze e opzioni di acquisto.
Se necessario, aggiungi gli hook del ciclo di vita per eseguire un arresto graduale dell'applicazione all'interno delle istanze che ricevono la notifica di ribilanciamento. Per ulteriori informazioni, consulta Ganci per il ciclo di vita di Amazon EC2 Auto Scaling.

Di seguito sono riportati alcuni motivi per cui è possibile utilizzare un hook del ciclo di vita:
- Permettere l'arresto regolare dei dipendenti Amazon SQS
- Completare la deregistrazione dal Domain Name System (DNS)
- Eseguire il pull o i log dell’applicazione e caricarli su Amazon Simple Storage Service (Amazon S3)
Sviluppa un'azione personalizzata per l'hook del ciclo di vita. Per richiamare l'azione personalizzata il prima possibile, devi sapere quando un'istanza è pronta per essere terminata. Scoprilo rilevando lo stato del ciclo di vita dell'istanza.
- Per richiamare un'azione all'esterno dell'istanza, scrivi una EventBridge regola e automatizza l'azione da intraprendere quando un modello di evento corrisponde alla regola.
- Per richiamare un'azione all'interno dell'istanza, configura l'istanza per eseguire uno script di spegnimento e recuperare lo stato del ciclo di vita tramite i metadati dell'istanza.
È fondamentale progettare l'azione personalizzata in modo che venga completata in meno di due minuti. In questo modo si garantisce che ci sia abbastanza tempo per completare le attività prima della chiusura dell'istanza.

Dopo aver completato questi passaggi, puoi iniziare a utilizzare il ribilanciamento della capacità.

Comportamento di ribilanciamento della capacità

Con Capacity Rebalancing, Amazon Auto EC2 Scaling si comporta nel modo seguente quando un'istanza riceve una raccomandazione di ribilanciamento:

Quando viene lanciata la nuova istanza Spot, Amazon EC2 Auto Scaling attende che la nuova istanza superi il controllo di integrità prima di terminare l'istanza precedente. Quando sostituisci più istanze, la terminazione di ogni istanza precedente inizia dopo l'avvio della nuova istanza e il controllo dell'integrità.
Poiché Amazon EC2 Auto Scaling tenta di avviare nuove istanze prima di terminare quelle precedenti, raggiungere o avvicinarsi alla capacità massima specificata potrebbe impedire o interrompere completamente le attività di ribilanciamento. Per evitare questo problema, Amazon EC2 Auto Scaling può superare temporaneamente la dimensione massima del gruppo fino al 10% della capacità desiderata.
Se non hai aggiunto un lifecycle hook al tuo gruppo Auto Scaling, Amazon Auto EC2 Scaling inizia a terminare le istanze precedenti non appena le nuove istanze superano il controllo di integrità.
Aggiungendo un hook del ciclo di vita aumenti il tempo necessario prima di iniziare a terminare le istanze precedenti in base al valore di timeout specificato per l'hook del ciclo di vita.
Se si utilizzano policy di dimensionamento o di dimensionamento pianificato, le attività di dimensionamento vengono eseguite in parallelo. Se è in corso un'attività di scalabilità e il gruppo Auto Scaling è al di sotto della nuova capacità desiderata, Amazon Auto EC2 Scaling esegue la scalabilità orizzontale prima di terminare le istanze precedenti.

Se non c'è capacità per i tipi di istanze in una zona di disponibilità, Amazon EC2 Auto Scaling continua a provare ad avviare istanze Spot in altre zone di disponibilità abilitate finché non riesce.

Nel peggiore dei casi, se le nuove istanze non vengono avviate o i relativi controlli di integrità falliscono, Amazon EC2 Auto Scaling continua a provare a riavviarle. Mentre cerca di avviare nuove istanze, quelle vecchie vengono infine interrotte e terminate forzatamente con un avviso di interruzione di due minuti.

Considerazioni

Quando utilizzi il ribilanciamento della capacità, considera quanto segue:

Progetta la tua applicazione in modo che sia tollerante alle interruzioni Spot

L'applicazione dovrebbe essere in grado di gestire modifiche dinamiche nel numero delle istanze e la possibilità che un'istanza spot venga interrotta in anticipo. Ad esempio, se il tuo gruppo Auto Scaling è responsabile di un sistema di bilanciamento del carico Elastic Load Balancing, Amazon Auto EC2 Scaling attende che l'istanza annulli la registrazione dal load balancer prima di richiamare il tuo lifecycle hook. Se il tempo necessario per annullare la registrazione dell'istanza e completare l'azione del ciclo di vita richiede troppo tempo, l'istanza potrebbe essere interrotta mentre Amazon Auto Scaling EC2 attende il completamento dell'azione del ciclo di vita prima di terminare l'istanza.

Non è sempre possibile per Amazon inviare il segnale di raccomandazione EC2 di ribilanciamento prima dell'avviso di interruzione dell'istanza Spot di due minuti. Talvolta, il segnale di raccomandazione di ribilanciamento arriva insieme all'avviso di interruzione di due minuti. Quando ciò accade, Amazon EC2 Auto Scaling richiama il lifecycle hook e tenta di avviare immediatamente una nuova istanza Spot.

Evitare un rischio elevato di interruzione delle istanze spot sostitutive

Le Istanze spot sostitutive possono comportare un elevato rischio di interruzione se si utilizza la strategia di allocazione lowest-price. Questo perché avviamo le istanze nel pool con capacità disponibile al prezzo più basso in quel momento, anche se è probabile che le istanze Spot sostitutive vengano interrotte subito dopo l'avvio. Per evitare un rischio elevato di interruzioni, è vivamente consigliato di non utilizzare la strategia di allocazione lowest-price. Consigliamo invece la strategia di allocazione price-capacity-optimized. Questa strategia avvia istanze Spot sostitutive nei pool Spot che hanno il prezzo più basso possibile e meno probabilità di interruzioni. Pertanto, è meno probabile che vengano interrotti nelle prossime future.

Amazon EC2 Auto Scaling lancerà una nuova istanza solo se la disponibilità è uguale o superiore

Uno degli obiettivi del ribilanciamento della capacità è migliorare la disponibilità di un'istanza spot. Se un'istanza Spot esistente riceve una raccomandazione di EC2 ribilanciamento, Amazon Auto Scaling lancerà una nuova istanza solo se la nuova istanza fornisce la stessa o migliore disponibilità dell'istanza esistente. Se il rischio di interruzione di una nuova istanza è peggiore rispetto a quello dell'istanza esistente, Amazon EC2 Auto Scaling non lancerà una nuova istanza. Amazon EC2 Auto Scaling continuerà tuttavia a valutare i pool di capacità Spot sulla base delle informazioni fornite dal servizio Amazon EC2 Spot e lancerà una nuova istanza se la disponibilità migliorerà.

È possibile che l'istanza esistente venga interrotta senza che Amazon EC2 Auto Scaling avvii proattivamente una nuova istanza. Quando ciò accade, Amazon EC2 Auto Scaling tenta di avviare una nuova istanza non appena riceve l'avviso di interruzione dell'istanza Spot. Ciò accade indipendentemente dal fatto che la nuova istanza presenta un rischio elevato di interruzione.

Il ribilanciamento della capacità non aumenta il tasso di interruzione dell'istanza Spot

Quando abiliti il ribilanciamento della capacità, non aumenta il tasso di interruzione delle istanze Spot (il numero di istanze Spot che vengono recuperate quando Amazon ha EC2 bisogno di recuperare la capacità). Tuttavia, se Capacity Rebalancing rileva che un'istanza è a rischio di interruzione, Amazon Auto EC2 Scaling tenterà immediatamente di avviare una nuova istanza. Pertanto, è possibile sostituire più istanze rispetto a quando si aspettava che Amazon Auto EC2 Scaling lanciasse una nuova istanza dopo l'interruzione dell'istanza a rischio.

Sebbene sia possibile sostituire più istanze mediante l'abilitazione del ribilanciamento della capacità, è meglio prendersi più tempo. In questo modo avrai più tempo per agire prima che le istanze vengano interrotte. Con un Avviso di interruzione dell'istanza Spot, in genere hai solo fino a due minuti per interrompere l'istanza. Con il ribilanciamento della capacità che avvia una nuova istanza in anticipo, offri ai processi esistenti maggiori possibilità di completamento sull'istanza a rischio. È inoltre possibile avviare le procedure di chiusura dell'istanza, impedire la pianificazione di nuovi lavori sull'istanza a rischio e preparare l'istanza appena avviata per il controllo dell'applicazione. Con la sostituzione proattiva offerta dal ribilanciamento della capacità, puoi beneficiare di una continuità regolare.

Il seguente esempio dimostra i rischi e i benefici dell'utilizzo del ribilanciamento della capacità:

14:00: viene ricevuta una raccomandazione di ribilanciamento, ad esempio A. Amazon EC2 Auto Scaling tenta immediatamente di avviare l'istanza B sostitutiva, dandoti il tempo di avviare le procedure di spegnimento.
14:30: viene ricevuto un suggerimento di ribilanciamento per l'istanza B, sostituita con l'istanza C, dandoti il tempo di iniziare le procedure di arresto.
14:32: se il ribilanciamento della capacità non fosse abilitato e se un avviso di interruzione dell'istanza Spot fosse stato ricevuto alle 14:32 per l'istanza A, avresti avuto solo fino a due minuti per agire. Tuttavia, l'istanza A avrebbe continuato a funzionare fino a quel momento.