説明可能性のレポート

Amazon SageMaker Autopilot では、最適なモデル候補が画像分類の問題をどのように予測するのかを説明するのに役立つ説明可能性レポートを提供します このレポートは、ML エンジニア、プロダクトマネージャー、その他の内部ステークホルダーがモデルの特性を理解するのに役立ちます。モデル予測に基づく決定を信頼して解釈するために、消費者も規制当局も機械学習の透明性を必要としています。これらの説明は、監査や規制要件への適合、モデルへの信頼の構築、人間の意思決定のサポート、モデルのパフォーマンスのデバッグと改善に使用できます。

画像分類用の AAutopilot の説明機能は、視覚的なクラスアクティベーションマップ (CAM) アプローチを使用しています。このアプローチでは、各色の分布と強度によって、特定の予測に最も寄与する画像の領域が強調表示されます。このアプローチは、Eigen-CAM の実装から導き出された主要コンポーネントに依存しています。

Autopilot は説明可能性レポートを JSON ファイルとして生成します。レポートには、検証データセットに基づく分析の詳細が含まれます。レポートを生成するために使用されるそれぞれの画像には、次の情報が含まれます。

• input_image_uri: ヒートマップの入力として取得した入力画像の Amazon S3 URI。

• heatmap_image_uri: Amazon S3 URI は Autopilot によって生成されたヒートマップ画像。

• predicted_label: Autopilot によってトレーニングされた最適なモデルによって予測されたラベルクラス。

• probability: predicted_label が予測される信頼度。

DescribeAutoMLJobV2 へのレスポンスにある BestCandidate.CandidateProperties.CandidateArtifactLocations.Explainability で、最適な候補に対して生成された説明可能性アーティファクトへの Amazon S3 プレフィックスを確認できます。

以下の例は、Oxford-IIIT Pet Dataset のいくつかのサンプルでヒートマップがどのように見えるかを示しています。ヒートマップ画像には、画像内のさまざまな特徴の相対的な重要度を示す色のグラデーションが表示されます。赤色は、青色で表される特徴と比較して、入力画像の「predicted_label」を予測する上で重要度の高い領域を表しています。

入力イメージ	ヒートマップ画像