9. Governance

La governance del machine learning comprende una serie di processi e framework che aiutano nella distribuzione di modelli ML. Include la spiegabilità dei modelli, la verificabilità, la tracciabilità e altri requisiti più astratti ma essenziali per un ciclo di vita ML di successo. end-to-end

9.1 Qualità e conformità dei dati	Il sistema ML tiene conto delle considerazioni relative alle informazioni di identificazione personale (PII), inclusa l'anonimizzazione. Ha documentato e analizzato la discendenza a livello di colonna per comprendere la fonte, la qualità e l'adeguatezza dei dati. Dispone inoltre di controlli automatici della qualità dei dati per individuare eventuali anomalie.
9.2 Audit e documentazione	Il sistema ML dispone di un registro completo di tutte le modifiche apportate durante lo sviluppo, compresi gli esperimenti eseguiti e i motivi delle scelte effettuate per la conformità normativa.
9.3 Riproducibilità e tracciabilità	Il sistema ML include un'istantanea completa dei dati per una reistanziazione precisa e rapida del modello, oppure ha la capacità di ricreare l'ambiente e riaddestrarlo con un campione di dati.
9.4 Autorizzazione Human-in-the-loop	Il sistema ML prevede la verifica e l'autorizzazione manuali per la conformità normativa. Il sistema richiede l'approvazione per ogni spostamento dell'ambiente (ad esempio, Dev, QA, Pre-Prod e Prod).
9.5 Test di pregiudizi e attacchi avversi	Il sistema ML prevede test antagonistici del Red Team che utilizzano più strumenti e vettori di attacco e un controllo automatico dei pregiudizi su sottopopolazioni specifiche. Questo componente si ricollega alla sezione Osservabilità e gestione dei modelli.