SageMaker Autopilot で SageMaker説明可能性を明確にする

Autopilot は、Amazon SageMaker Clarify が提供するツールを使用して、機械学習 (ML) モデルがどのように予測を行うかに関するインサイトを提供します。これらのツールは、ML エンジニア、プロダクトマネージャーなどの社内利害関係者がモデルの特性を理解するのに役立ちます。モデル予測に関する決定を信頼して解釈するために、コンシューマーと規制当局の両方が機械学習の透明性を順番に信頼しています。

Autopilot の説明機能は、モデルに依存しない特徴量帰属アプローチを使用します。このアプローチは、モデルの出力に対する個々の特徴量や入力の寄与度を判断し、さまざまな特徴量の関連性についてのインサイトを提供します。これを使用して、モデルがトレーニング後に予測を行った理由を理解したり、推論中にインスタンスごとの説明を提供したりできます。実装には、 SHAP (Shapley Additive Explanations) のスケーラブルな実装が含まれています。この実装は、協調ゲーム理論からの Shapley 値の概念に基づいており、各特徴量に特定の予測の重要度値を割り当てます。

規制要件の監査と適合、モデルへの信頼の構築、人間による意思決定のサポート、モデルのパフォーマンスのデバッグと改善など、SHAP説明を使用できます。

Shapley の値とベースラインの詳細については、SHAP「説明可能性のベースライン」を参照してください。

Amazon SageMaker Clarify ドキュメントのガイドについては、 SageMaker 「 Clarify ドキュメントのガイド」を参照してください。