Interprétabilité du modèle d'apprentissage automatique avecAWS

Adewale Akinfaderin, Matthew Chasse, Michèle Donini et Benjamin Fenker, Amazon Web Services (AWS)

Février 2022 (historique du document)

Il est plus facile pour les utilisateurs finaux d'utiliser les algorithmes d'apprentissage automatique de manière responsable lorsqu'ils peuvent comprendre pourquoi un modèle fait une prédiction spécifique. Pour les développeurs de modèles, une meilleure connaissance de la façon dont un modèle fait des prédictions peut faciliter l'ingénierie et la sélection des fonctionnalités. Il n'existe pas de définition standard de ce que signifie expliquer un modèle, sauf qu'une explication devrait être une condition préalable à l'établissement de normes telles que la confiance, la robustesse, la causalité, le caractère informatif, la transférabilité du modèle et la prise de décisions équitables et éthiques. Il existe des méthodes courantes pour générer des interprétations, mais elles présentent des faiblesses et des points forts différents. Cela n'est pas surprenant : en général, l'heuristique ou l'ensemble d'hypothèses simplificatrices que vous utilisez pour interpréter un modèle complexe peut simultanément être source d'inexactitude pour l'interprétation.

Ce guide fournit des conseils généraux sur les méthodes d'interprétabilité des modèles pour les praticiens de l'apprentissage automatique. Par souci de concision, le guide omet de nombreux détails et spécificités de mise en œuvre, et fournit des références pour vous aider à étudier des cas d'utilisation spécifiques de manière plus approfondie.

Des résultats commerciaux ciblés

Dans certains cas, les réglementations telles que celles qui concernent les secteurs de la santé et de la finance exigent l'interprétabilité du modèle en tant que résultat commercial souhaité. Les interprétations des modèles fournissent également des informations supplémentaires que les développeurs de modèles et les utilisateurs peuvent utiliser. Les autres résultats commerciaux ciblés liés à l'utilisation de l'interprétabilité des modèles sont les suivants :

• Justifiez les décisions importantes (par exemple, dans les domaines de la santé et de la finance) qui ont une incidence sur le bien-être des clients lorsque l'équité est essentielle.

• Contrôlez les inexactitudes et les distorsions des modèles lors de la prise de décisions commerciales.

• Améliorez et accélérez le développement de modèles et l'ingénierie des fonctionnalités lorsque des interprétations de modèles sont utilisées par des data scientists.

• Découvrez les raisons des comportements généraux du modèle et fournissez de nouvelles informations sur les données et le modèle.

Ces résultats commerciaux correspondent directement aux quatre raisons d'explicabilité identifiées dans [1].