Bonnes pratiques de déploiement - Amazon SageMaker

Bonnes pratiques de déploiement

Cette rubrique fournit des conseils sur les bonnes pratiques de déploiement de modèles de machine learning dans Amazon SageMaker.

Déploiement de plusieurs instances entre les zones de disponibilité

Créez des points de terminaison robustes lorsque vous hébergez votre modèle. Les points de terminaison SageMaker peuvent vous aider à protéger votre application contre les pannes de zone de disponibilité et les défaillances d'instances. En cas de panne ou de défaillance d'une instance, SageMaker tente automatiquement de répartir vos instances entre les zones de disponibilité. Pour cette raison, il est vivement recommandé de déployer plusieurs instances pour chaque point de terminaison de production.

Si vous utilisez un Amazon Virtual Private Cloud (VPC), configurez ce VPC avec au moins deux Subnets, chacun dans une zone de disponibilité différente. En cas de panne ou de défaillance d'une instance, Amazon SageMaker tente automatiquement de répartir vos instances entre les zones de disponibilité.

En général, pour obtenir des performances plus fiables, utilisez plus de petits types d'instances dans des zones de disponibilité différentes pour héberger vos points de terminaison.