Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Détection des biais de post-entraînement dans les données et les modèles
L'analyse des biais de post-entraînement peut aider à détecter les biais provenant des données ou introduits par les algorithmes de classification et de prédiction. Ces analyses prennent en compte les données, y compris les étiquettes, et les prédictions d'un modèle. Vous évaluez la performance en analysant les étiquettes prédites ou en comparant les prédictions aux valeurs cibles observées dans les données par rapport à des groupes ayant des attributs différents. Entre les différentes notions d'équité existantes, chacune exige des métriques de biais différentes pour la mesure.
La difficulté à détecter les concepts juridiques d'équité peut les rendre difficiles à appréhender. Citons, par exemple, le concept américain d'impact disparate selon lequel un groupe, pourtant désigné comme étant une facette moins favorisée d, subit un effet négatif même lorsque l'approche adoptée semble être équitable. Bien que ce type de biais puisse ne pas provenir d'un modèle de machine learning, il peut quand même être détecté par une analyse des biais de post-entraînement.
Amazon SageMaker Clarify essaie de garantir une utilisation cohérente de la terminologie. Pour obtenir la liste des termes et leurs définitions, veuillez consulter Amazon SageMaker précise les termes relatifs à la partialité et à l'équité.
Pour plus d'informations sur les mesures de biais post-formation, consultez Découvrez comment Amazon SageMaker Clarify aide à détecter les biais
