Interpretabilidad del modelo de machine learning con AWS

Adewale Akinfaderin, Matthew Chasse, Michele Donini y Benjamin Fenker, Amazon Web Services () AWS

Febrero de 2022 (historial de documentos)

A los usuarios finales les resulta más fácil emplear los algoritmos de machine learning de manera responsable cuando pueden entender por qué un modelo hace una predicción específica. Para los desarrolladores de modelos, tener más información sobre cómo un modelo hace predicciones puede ayudar en la selección e ingeniería de características. No existe una definición estándar de lo que significa explicar un modelo, excepto que una explicación debería ser un requisito previo para establecer normas como la confianza, la solidez, la causalidad, la informatividad, la transferibilidad del modelo y la toma de decisiones justa y ética. Existen algunos métodos comunes para generar interpretaciones, pero tienen puntos débiles y puntos fuertes diferentes. Esto no es inesperado: por lo general, la heurística o el conjunto de supuestos simplificadores que se utilizan para interpretar un modelo complejo pueden ser simultáneamente una fuente de imprecisión en la interpretación.

Esta guía ofrece una información general sobre los métodos de interpretabilidad de los modelos para los profesionales del machine learning. Por motivos de brevedad, la guía omite muchos detalles y especificaciones de implementación, y proporciona referencias que le ayudarán a investigar casos de uso específicos con mayor profundidad.

Resultados empresariales específicos

En algunos casos, las normativas, como las de los sectores sanitario y financiero, exigen la interpretabilidad del modelo como un resultado empresarial deseado. Las interpretaciones de los modelos también proporcionan información adicional que tanto los desarrolladores como los usuarios pueden utilizar. Entre los resultados empresariales adicionales que se persiguen al utilizar la interpretabilidad del modelo se incluyen los siguientes:

• Justifique las decisiones importantes (por ejemplo, en el ámbito de la sanidad y las finanzas) que afectan al bienestar de los clientes cuando la imparcialidad es fundamental.

• Controle las imprecisiones y distorsiones de los modelos al tomar decisiones empresariales.

• Mejore y acelere el desarrollo de modelos y la ingeniería de características cuando los científicos de datos utilicen las interpretaciones de los modelos.

• Descubra las razones del comportamiento general de los modelos y proporcione nuevos conocimientos sobre los datos y el modelo.

Estos resultados empresariales se relacionan directamente con los cuatro motivos de explicabilidad que se identifican en [1].