9. 管治 - AWS 規定指引

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

9. 管治

ML 治理包含一組有助於部署 ML 模型的程序和架構。它包括模型解釋性、可稽核性、可追溯性,以及其他更抽象但更重要的要求,對於成功的端對端機器學習生命週期。

9.1 數據質量和合規性

ML 系統說明個人識別資訊 (PII) 考量事項,包括匿名化。它記錄並審查了列級歷程,以了解數據的來源,質量和適當性。它還具有異常情況的自動化數據質量檢查。

9.2 審計和文檔

ML 系統擁有開發期間所有變更的完整記錄,包括執行實驗,以及針對法規遵循所做選擇的理由。

9.3 再現性和可追溯性

ML 系統包含完整的資料快照,可精確快速地重新建立模型,或具備重新建立環境並使用資料樣本重新訓練的能力。

9.4 小時uman-in-the-loop簽署

ML 系統具有手動驗證和授權,以符合法規要求。系統需要簽署每個環境移動 (例如,開發、QA、預產品和 Prod)。

9.5 偏見和對抗攻擊測試

ML 系統具有紅隊使用多種工具和攻擊媒介進行對抗測試,並對特定亞群進行自動偏差檢查。此元件會關聯回「可觀測性」和「模型管理」區段。