9. Gobernanza

La gobernanza del aprendizaje automático abarca un conjunto de procesos y marcos que ayudan a implementar los modelos de aprendizaje automático. Incluye la explicabilidad del modelo, la auditabilidad, la trazabilidad y otros requisitos más abstractos pero esenciales para un ciclo de vida exitoso del aprendizaje automático. end-to-end

9.1 Calidad y conformidad de los datos	El sistema ML tiene en cuenta los aspectos de la información de identificación personal (PII), incluida la anonimización. Ha documentado y revisado el linaje a nivel de columna para comprender el origen, la calidad y la idoneidad de los datos. También cuenta con controles automatizados de calidad de los datos para detectar anomalías.
9.2 Auditoría y documentación	El sistema ML tiene un registro completo de todos los cambios durante el desarrollo, incluidos los experimentos realizados y los motivos por los que se han tomado decisiones para cumplir con la normativa.
9.3 Reproducibilidad y trazabilidad	El sistema ML incluye una instantánea completa de los datos para una reinstanciación precisa y rápida del modelo, o tiene la capacidad de recrear el entorno y volver a entrenarlo con una muestra de datos.
9.4 de aprobación Human-in-the-loop	El sistema ML cuenta con verificación y autorización manuales para garantizar el cumplimiento de las normas. El sistema requiere la aprobación de cada cambio de entorno (por ejemplo, desarrollo, control de calidad, preproducción y producción).
9.5 Pruebas de sesgo y ataques adversarios	El sistema de aprendizaje automático cuenta con pruebas contradictorias de Red Team que utilizan múltiples herramientas y vectores de ataque, y una verificación automática del sesgo en subpoblaciones específicas. Este componente está relacionado con la sección de observabilidad y gestión de modelos.