Utiliser SageMaker Clarify explicabilité avec Autopilot SageMaker

Le pilote automatique utilise des outils fournis par Amazon SageMaker Clarify pour fournir des informations sur la manière dont les modèles d'apprentissage automatique (ML) établissent des prédictions. Ces outils peuvent aider les ingénieurs ML, les chefs de produit et d'autres intervenants internes à comprendre les caractéristiques d'un modèle. Pour faire confiance et interpréter les décisions prises sur la base des prédictions des modèles, les consommateurs et les régulateurs s'appuient sur la transparence de l'apprentissage automatique.

La fonctionnalité explicative d'Autopilot utilise une approche d'attribution de fonctions indépendante du modèle. Cette approche détermine la contribution des différentes fonctionnalités ou entrées à la sortie du modèle, fournissant ainsi des insights sur la pertinence des différentes fonctionnalités. Vous pouvez l'utiliser pour comprendre pourquoi un modèle a réalisé une prédiction après l'entraînement, ou l'utiliser pour fournir une explication par instance pendant l'inférence. L'implémentation inclut une implémentation évolutive de SHAP (Shapley Additive Explanations). Cette implémentation est basée sur le concept d'une valeur de Shapley issu de la théorie des jeux coopératifs, qui attribue à chaque caractéristique une valeur d'importance pour une prédiction particulière.

Vous pouvez utiliser les explications SHAP pour : auditer et respecter les exigences réglementaires, renforcer la confiance dans le modèle, soutenir la prise de décision humaine ou déboguer et améliorer les performances du modèle.

Pour plus d'informations sur les valeurs et les bases de référence de Shapley, consultez Bases de référence SHAP pour l'explicabilité.

Pour un guide de la documentation Amazon SageMaker Clarify, consultez le Guide de la documentation SageMaker Clarify.