オートパイロットでは Clarify の説明機能を使用してください。 SageMaker SageMaker

オートパイロットは、Amazon SageMaker Clarify が提供するツールを使用して、機械学習 (ML) モデルがどのように予測を行うかについての洞察を提供します。これらのツールは、ML エンジニア、プロダクトマネージャーなどの社内利害関係者がモデルの特性を理解するのに役立ちます。消費者も規制当局も、モデル予測に基づいて下された決定を信頼して解釈するために、機械学習の透明性を重視しています。

Autopilot の説明機能は、モデルに依存しない特徴量帰属アプローチを使用します。このアプローチは、モデルの出力に対する個々の特徴量や入力の寄与度を判断し、さまざまな特徴量の関連性についてのインサイトを提供します。これを使用して、モデルがトレーニング後に予測を行った理由を理解したり、推論中にインスタンスごとの説明を提供したりできます。この実装には、SHAP (シャープリー・アディティブ・エクスプラメンテーション) のスケーラブルな実装も含まれています。この実装は、各特徴に特定の予測の重要度値を割り当てる協調ゲーム理論のシャプレイ値の概念に基づいています。

SHAP の説明は、監査と規制要件への適合、モデルへの信頼の構築、人間の意思決定のサポート、モデルのデバッグとパフォーマンスの向上などに使用できます。

シャープレイ値とベースラインの詳細については、「SHAP Baselines for Explainability」を参照してください。

Amazon SageMaker Clarify ドキュメントのガイドについては、「Clarify ドキュメントのガイド」を参照してください。 SageMaker