Déploiements bleu/vert - Amazon SageMaker

Déploiements bleu/vert

Lorsque vous mettez à jour votre point de terminaison, Amazon SageMaker utilise automatiquement un déploiement bleu/vert pour maximiser la disponibilité de vos points de terminaison. Dans un déploiement bleu/vert, SageMaker alloue une nouvelle flotte avec les mises à jour (la flotte verte). Ensuite, SageMaker déplace le trafic de l'ancienne flotte (la flotte bleue) vers la flotte verte. Une fois que la flotte verte fonctionne correctement pendant une période d'évaluation définie (appelée période de préparation), SageMaker résilie la flotte bleue. Avec les capacités supplémentaires des déploiements bleu/vert, vous pouvez utiliser les modes de transfert de trafic et la surveillance de la restauration automatique pour protéger votre point de terminaison d'un impact significatif sur la production.

La liste suivante décrit les principales fonctions des déploiements bleu/vert dans SageMaker :

  • Modes de déplacement de trafic. Les modes de déplacement de trafic pour les barrières de protection de déploiement vous permettent de contrôler le volume de trafic et le nombre d'étapes de déplacement de trafic entre la flotte bleue et la flotte verte. Cette capacité vous donne la possibilité d'évaluer progressivement les performances de la flotte verte sans vous engager pleinement dans un déplacement de l'intégralité du trafic.

  • Période de préparation. La période de préparation est une durée définie pour contrôler la flotte verte avant de passer à l'étape de déploiement suivante. Si l'une des alarmes prédéfinies se déclenche au cours d'une période de préparation, tout le trafic des points de terminaison est restauré sur la flotte bleue. La période de préparation vous aide à renforcer la confiance dans votre mise à jour avant de rendre le déplacement de trafic permanent.

  • Restaurations automatiques. Vous pouvez spécifier des alarmes Amazon CloudWatch que SageMaker utilise pour surveiller la flotte verte. Si un problème lié au code mis à jour déclenche l'une des alarmes, SageMaker lance une restauration automatique vers la flotte bleue afin de maintenir la disponibilité, minimisant ainsi les risques.

Modes de déplacement de trafic

Les différents modes de déplacement de trafic dans les déploiements bleu/vert vous offrent un contrôle plus précis du déplacement de trafic entre la flotte bleue et la flotte verte. Les modes de déplacement de trafic disponibles pour les déploiements bleu/vert sont tout à la fois, Canary et linéaire. Le tableau suivant compare les différentes options.

Important

Pour les déploiements bleu/vert qui impliquent des périodes de déplacement de trafic ou de préparation en plusieurs étapes, vous êtes facturé pour les deux flottes pour la durée de la mise à jour, quel que soit le trafic envoyé vers la flotte. Cela contraste avec les déploiements bleu/vert avec un déplacement de trafic tout à la fois et aucune période de préparation, pour lesquels vous n'êtes facturé que pour une flotte au cours de la mise à jour.

Nom Définition Avantages Inconvénients Recommandation

Tout à la fois

Déplace tout le trafic vers la nouvelle flotte en une seule étape.

Minimise la durée globale de la mise à jour.

Les mises à jour régressives affectent l'intégralité du trafic.

Utilisez cette option pour réduire le temps et le coût de la mise à jour.

Canary

Les déplacements de trafic se déroulent en deux étapes. La première étape (Canary) déplace une petite partie du trafic, suivie de la deuxième étape, qui déplace le reste du trafic.

Limite le rayon d'explosion des mises à jour régressives uniquement à la flotte Canary.

Les deux flottes sont opérationnelles en parallèle pour l'ensemble du déploiement.

Utilisez cette option pour trouver un équilibre entre la minimisation du rayon d'explosion des mises à jour régressives et la minimisation du temps pendant lequel deux flottes sont opérationnelles.

Linéaire

Une partie fixe du trafic se déplace selon un nombre prédéfini d'étapes équidistantes.

Minimise le risque de mises à jour régressives en déplaçant le trafic sur plusieurs étapes.

La durée et le coût de la mise à jour sont proportionnels au nombre d'étapes.

Utilisez cette option pour minimiser les risques en répartissant le déploiement sur plusieurs étapes.

Mise en route

Une fois que vous avez spécifié la configuration de déploiement souhaitée, SageMaker gère l'approvisionnement des nouvelles instances, la fermeture des anciennes instances et le transfert du trafic pour vous. Vous pouvez créer et gérer votre déploiement via les commandes AWS Command Line Interface et d'API UpdateEndpoint et CreateEndpoint SageMaker existantes. Notez que si votre point de terminaison utilise l'une des fonctions répertoriées sur la page Exclusions, vous ne pouvez pas utiliser de barrière de protection de déploiement. Consultez chacune des pages de déploiement pour plus de détails sur la façon de configurer votre déploiement :

Pour suivre des exemples guidés qui montrent comment utiliser les garde-corps de déploiement, veuillez consulter nos exemples de blocs-notes Jupyter pour les modes de changement de trafic Canary et linéaire.