Relevance Metric for Counterfactuals Selection in Decision Trees

Abstract

El Aprendizaje Automático Explicable es un campo emergente en el dominio del Aprendizaje Automático. Aborda la explicabilidad de los modelos de Aprendizaje Automático y la lógica inherente detrás de las predicciones del modelo. En el caso particular de los métodos de explicación basados en ejemplos, se centran en utilizar instancias particulares, previamente definidas o creadas, para explicar el comportamiento de los modelos o predicciones. La explicación basada en contrafactuales es uno de estos métodos. Un contrafactual es una instancia hipotética similar a un ejemplo cuya explicación es de interés, pero con una clase predicha diferente. Este artículo presenta una métrica de relevancia para la selección de contrafactuales llamada sGower, diseñada para inducir esparsidad en los modelos de Árboles de Decisión. Funciona con características categóricas y continuas, considerando el número de cambios en las características y la distancia entre el contrafactual y el ejemplo. La métrica propuesta se evalúa en comparación con métricas de relevancia anteriores en varios conjuntos de datos categóricos y continuos, obteniendo en promedio mejores resultados que los enfoques anteriores.