La elección de las herramientas de interpretación depende del modelo de aprendizaje automático específico y de los objetivos del análisis. Hay enfoques específicos del modelo y agnósticos del modelo. Aprendizaje automático interpretable: una guía para hacer modelos de caja negra explicables por Christoph Molnar ha explicado la diferencia.

Las herramientas de interpretación específicas del modelo están diseñadas para explicar el comportamiento de un modelo particular de aprendizaje automático. Estas herramientas se adaptan a la estructura y los parámetros específicos del modelo y se basan en el conocimiento del funcionamiento interno del modelo. Por ejemplo, si usa un modelo de árbol de decisión, puede usar una herramienta de interpretación que muestre la estructura del árbol y cómo el modelo toma decisiones en función de las características de entrada.

Por otro lado, las herramientas de interpretación independientes del modelo están diseñadas para funcionar con cualquier modelo de aprendizaje automático. Estas herramientas se centran en las relaciones entre las características de entrada y las predicciones del modelo en lugar del funcionamiento interno del modelo. Las herramientas independientes del modelo a menudo se usan cuando el modelo es demasiado complejo para interpretarlo con herramientas específicas del modelo o cuando el modelo no se comprende por completo.

En resumen, las herramientas de interpretación específicas del modelo están diseñadas para un tipo específico de modelo y se centran en el funcionamiento interno del modelo. Por el contrario, las herramientas de interpretación independientes del modelo se pueden utilizar con cualquier modelo y se centran en la relación entre las características de entrada y las predicciones del modelo.

Estos son algunos ejemplos de herramientas de interpretación populares para enfoques específicos del modelo y agnósticos del modelo:

Herramientas de interpretación específicas del modelo:

1. Árboles de decisión: las visualizaciones de los árboles de decisión pueden proporcionar información sobre cómo el modelo toma decisiones en función de las características de entrada.
2. Regresión lineal: los valores de coeficiente se pueden usar para determinar la importancia relativa de cada característica de entrada en la predicción de la variable de salida.
3. Redes neuronales convolucionales: los mapas de activación pueden visualizar qué partes de una imagen son más importantes para una predicción determinada.

1. Importancia de la característica: al clasificar las características de entrada por su importancia en la predicción de la variable de salida, es posible identificar las características más relevantes.
2. Gráficas de dependencia parcial: estas gráficas muestran cómo cambia la salida pronosticada en función de una característica de entrada única mientras se mantienen constantes todas las demás características.
3. Valores SHAP: estos valores proporcionan una interpretación local de cómo cada característica de entrada contribuye a la salida prevista para una observación determinada.

Puede encontrar algunos de los métodos aplicados a mi proyecto reciente en el repositorio de GitHub :https://github.com/Sahel-Eskandar/RecommenderSystems.git

Referencias:

1. Aprendizaje automático interpretable: una guía para hacer modelos de caja negra explicables por Christoph Molnar