Débogage et profilage des tâches d'entraînement avec Amazon SageMaker Debugger

Déboguez, profilez et surveillez les tâches d'entraînement en temps réel pour détecter des conditions non convergentes, optimiser l'utilisation des ressources en éliminant les goulets d'étranglement, réduire la durée d'entraînement et diminuer les coûts de vos modèles de machine learning à l'aide d'Amazon SageMaker Debugger.

Fonctions d'Amazon SageMaker Debugger

Une tâche d'entraînement de machine learning (ML) peut présenter des problèmes tels que des goulets d'étranglement, des surajustements, la saturation des fonctions d'activation et la disparition des gradients, qui peuvent compromettre les performances du modèle.

SageMaker Debugger profile et débogue les tâches d'entraînement pour aider à résoudre ces problèmes et à améliorer l'utilisation et les performances des ressources de calcul de votre modèle de ML. Debugger propose des outils permettant d'envoyer des alertes lorsque des anomalies d'entraînement sont détectées, de prendre des mesures contre les problèmes et d'en identifier la cause racine en visualisant les métriques et les tenseurs collectés.

SageMaker Debugger prend en charge les frameworks Apache MXNet, PyTorch, TensorFlow et XGBoost. Pour plus d'informations sur les frameworks et les versions disponibles prises en charge par SageMaker Debugger, consultez Cadres et algorithmes pris en charge.

Voici le flux de travail à haut niveau de Debugger :

1. Modifiez votre script d'entraînement à l'aide du kit SDK Python pour sagemaker-debugger, si nécessaire.

2. Configurez une tâche d'entraînement SageMaker avec SageMaker Debugger.

   • Configurez à l'aide de l'API SageMaker Estimator (pour le kit SDK Python).

   • Configuration à l'aide de la requête CreateTrainingJob SageMaker (pour Boto3 ou la CLI).

   • Configurez des conteneurs d'entraînement personnalisés avec SageMaker Debugger.

3. Démarrez une tâche d'entraînement et contrôlez les problèmes d'entraînement en temps réel.

   • Tableaux de bord SageMaker Studio Debugger dans l'onglet Experiments and trials de Studio.

   • Liste des règles intégrées du Debugger.

4. Recevez des alertes et prenez des mesures rapides contre les problèmes d'entraînement.

   • Recevez des textes et des e-mails et arrêtez les tâches d'entraînement lorsque des problèmes d'entraînement sont détectés à l'aide des Actions intégrées Debugger pour les règles.

   • Configurez vos propres actions à l'aide d'Amazon CloudWatch Events et d'AWS Lambda.

5. Recevez des rapports d'entraînement, des suggestions pour résoudre les problèmes et des informations sur vos tâches d'entraînement.

   • Tableau de bord Studio Debugger Insights pour les cadres de deep learning

   • Rapport de profilage de cadre de deep learning

   • Rapport d'entraînement SageMaker XGBoost

6. Examinez l'analyse approfondie des problèmes d'entraînement et des goulets d'étranglement.

   • Pour en savoir plus sur le profilage des tâches d'entraînement, consultez Analyser les données à l'aide de la bibliothèque client SMDebug.

   • Pour le débogage des tenseurs de sortie de modèle, consultez Visualiser les tenseurs de sortie Debugger dans TensorBoard.

7. Corrigez les problèmes en tenant compte des suggestions fournies par Debugger, et répétez les étapes 1 à 5 pour optimiser votre modèle jusqu'à atteindre la précision souhaitée.

Le Guide du développeur SageMaker Debugger vous guide à travers les rubriques suivantes.

Rubriques

• Cadres et algorithmes pris en charge
• Architecture Amazon SageMaker Debugger
• Démarrer avec les didacticiels Debugger
• Débogage des tâches d'entraînement avec Amazon SageMaker Debugger
• Profilage des tâches d'entraînement à l'aide d'Amazon SageMaker Debugger
• Liste des règles intégrées du Debugger
• Créer des règles personnalisées Debugger pour l'analyse des tâches d'entraînement
• Utiliser Debugger avec des conteneurs d'entraînement personnalisés
• Configurer Debugger à l'aide de l'API Amazon SageMaker
• Bonnes pratiques relatives à Amazon SageMaker Debugger
• Rubriques avancées et documentation de référence d'Amazon SageMaker Debugger