9. Governança

A governança de ML engloba um conjunto de processos e estruturas que ajudam na implantação de modelos de ML. Ele inclui explicabilidade do modelo, auditabilidade, rastreabilidade e outros requisitos mais abstratos, mas essenciais, de um ciclo de vida de ML bem-sucedido. end-to-end

9.1 Qualidade e conformidade dos dados	O sistema ML leva em conta as considerações de informações de identificação pessoal (PII), incluindo a anonimização. Ele documentou e revisou a linhagem em nível de coluna para entender a fonte, a qualidade e a adequação dos dados. Ele também tem verificações automatizadas de qualidade de dados para detectar anomalias.
9.2 Auditoria e documentação	O sistema ML tem um registro completo de todas as mudanças durante o desenvolvimento, incluindo experimentos realizados e motivos para escolhas feitas para conformidade regulatória.
9.3 Reprodutibilidade e rastreabilidade	O sistema ML inclui um instantâneo completo dos dados para uma reinstanciação precisa e rápida do modelo, ou tem a capacidade de recriar o ambiente e treinar novamente com uma amostra de dados.
9.4 aprovação Human-in-the-loop	O sistema ML tem verificação e autorização manuais para conformidade regulatória. O sistema exige aprovações para cada mudança de ambiente (por exemplo, Dev, QA, Pre-Prod e Prod).
9.5 Teste de preconceitos e ataques adversários	O sistema ML tem testes adversariais do Red Team usando várias ferramentas e vetores de ataque e verificação automatizada de viés em subpopulações específicas. Esse componente está relacionado à seção Observabilidade e gerenciamento de modelos.