9. Gouvernance

La gouvernance du ML englobe un ensemble de processus et de cadres qui facilitent le déploiement des modèles de ML. Il inclut l'explicabilité du modèle, l'auditabilité, la traçabilité et d'autres exigences plus abstraites mais essentielles pour un cycle de vie de machine learning réussi end-to-end.

9.1 Qualité et conformité des données	Le système ML prend en compte les considérations relatives aux informations d'identification personnelles (PII), y compris l'anonymisation. Il a documenté et revu le lignage au niveau des colonnes afin de comprendre la source, la qualité et la pertinence des données. Il dispose également de contrôles automatisés de la qualité des données pour détecter les anomalies.
9.2 Audit et documentation	Le système ML dispose d'un journal complet de toutes les modifications apportées au cours du développement, y compris les expériences effectuées et les raisons des choix effectués en matière de conformité réglementaire.
9.3 Reproductibilité et traçabilité	Le système ML inclut un instantané complet des données pour une réinstanciation précise et rapide du modèle, ou il a la capacité de recréer l'environnement et de se recycler à l'aide d'un échantillon de données.
9.4 Human-in-the-loop approbation	Le système ML dispose d'une vérification manuelle et d'une autorisation pour la conformité réglementaire. Le système nécessite des approbations pour chaque changement d'environnement (par exemple, Dev, QA, Pre-Prod et Prod).
9.5 Tests de biais et d'attaques antagonistes	Le système ML utilise des tests contradictoires de la Red Team à l'aide de multiples outils et vecteurs d'attaque, ainsi qu'un contrôle automatique des biais sur des sous-populations spécifiques. Ce composant est lié à la section Observabilité et gestion des modèles.