9. ガバナンス

ML ガバナンスには、ML モデルのデプロイに役立つ一連のプロセスとフレームワークが含まれます。これには、モデルの説明可能性、監査可能性、追跡可能性、およびエンドツーエンドの ML end-to-end ライフサイクルを成功させるための、より抽象的で不可欠な要件が含まれます。

9.1 データ品質とコンプライアンス	ML システムは、匿名化を含む個人識別情報 (PII) に関する考慮事項を考慮します。データのソース、品質、適切性を理解するための列レベルのリネージュを文書化し、レビューしました。また、異常に関するデータ品質チェックも自動化されています。
9.2 監査とドキュメント	ML システムには、実験の実行や規制コンプライアンスのために選択された理由など、開発中のすべての変更の完全なログがあります。
9.3 再現性とトレーサビリティ	ML システムには、正確で迅速なモデル再インスタンス化のためのフルデータスナップショットが含まれています。または、環境を再作成し、データサンプルを使用して再トレーニングする機能があります。
9.4 Human-in-the-loopサインオフ	ML システムには、規制コンプライアンスの手動検証と認可があります。システムには、すべての環境移動 (開発、QA、Prod 前、Prod など) にサインオフが必要です。
9.5 バイアス攻撃と敵対攻撃のテスト	ML システムには、複数のツールと攻撃ベクトルを使用した Red Team の敵対的テスト、および特定の部分母集団に対する自動バイアスチェックがあります。このコンポーネントは、オブザーバビリティとモデル管理セクションに結び付けられます。