Erkennen Sie Posttraining-Daten und Model Bias mit AmazonSageMakerKlären - Amazon SageMaker

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Erkennen Sie Posttraining-Daten und Model Bias mit AmazonSageMakerKlären

Die Bias-Analyse nach dem Training kann dazu beitragen, Vorurteile aufzudecken, die möglicherweise von Vorurteilen in den Daten oder von Vorurteilen hervorgegangen sind, die durch die Klassifizierungs- und Prognosealgorithmen eingeführt wurden. Diese Analysen berücksichtigen die Daten, einschließlich der Labels, und die Vorhersagen eines Modells. Sie bewerten die Leistung, indem Sie prognostizierte Labels analysieren oder die Prognosen mit den beobachteten Zielwerten in den Daten in Bezug auf Gruppen mit unterschiedlichen Attributen vergleichen. Es gibt verschiedene Vorstellungen von Fairness, die jeweils unterschiedliche Bias-Metriken erfordern, um zu messen.

Es gibt rechtliche Konzepte von Fairness, die möglicherweise nicht einfach zu erfassen sind, da sie schwer zu erkennen sind. Zum Beispiel das US-Konzept der unterschiedlichen Auswirkungen, das auftritt, wenn eine Gruppe, die als weniger bevorzugte Facette bezeichnet wirdD, hat auch dann nachteilige Auswirkungen, wenn der verfolgte Ansatz fair erscheint. Diese Art von Voreingenommenheit ist möglicherweise nicht auf ein Modell des maschinellen Lernens zurückzuführen, kann aber dennoch durch eine Bias-Analyse nach dem Training nachweisbar sein.

AmazonSageMakerClarify versucht, eine konsequente Verwendung der Terminologie sicherzustellen. Eine Liste der Begriffe und ihrer Definitionen finden Sie unterAmazonSageMakerVerdeutlichen Sie die Begriffe für Bias und Fairnessaus.

Weitere Informationen zu Bias-Metriken nach dem Training finden Sie unterFairnessmaßnahmen für Machine Learning im Finanzwesenaus.

Beispiel-Notebooks

AmazonSageMakerClarify stellt das folgende Beispiel-Notizbuch für die Nachtrainings-Bias-Erkennung bereit:

  • AmazonSageMakerVerarbeitung klären— Verwendung vonSageMakerKlären Sie, um einen Verarbeitungsauftrag für die Erkennung von Bias zu erstellen und Modellvorhersagen mit Feature-Attributionen zu erklären. Beispiele sind die Verwendung von Datenformaten von CSV und JSON Lines, das Mitbringen eines eigenen Containers und das Ausführen von Verarbeitungsaufträgen mit Spark.

Dieses Notizbuch wurde für die Ausführung in Amazon überprüftSageMakerNur Studio. Wenn Sie Anleitungen zum Öffnen eines Notebooks in Amazon benötigenSageMakerStudio, sieheErstellen oder öffnen Sie ein Amazon SageMaker Studio-Notebookaus. Wenn Sie aufgefordert werden, einen Kernel auszuwählen, wählen SiePython 3 (Data Science)aus.