Random forest explainability using counterfactual sets

Abstract

Hoy en día, los modelos de Machine Learning (ML) se están volviendo omnipresentes en la sociedad actual, apoyando a las personas en sus decisiones diarias. En este contexto, el Machine Learning explicable es un campo de la Inteligencia Artificial (AI) que se centra en hacer que los modelos predictivos y sus decisiones sean interpretables por los humanos, permitiendo a las personas confiar en los modelos predictivos y entender los procesos subyacentes. Un contrafáctico es un tipo efectivo de técnica explicable de Machine Learning que explica las predicciones describiendo los cambios necesarios en una muestra para cambiar el resultado de la predicción. En este artículo, presentamos conjuntos contrafácticos, un enfoque explicativo que utiliza un conjunto de contrafácticos para explicar una predicción en lugar de un solo contrafáctico, definiendo una sub-región del espacio de características donde el contrafáctico se mantiene. Se presenta un método para extraer conjuntos contrafácticos de un Random Forest (RF), el RF-OCSE (Random Forest Optimal Counterfactual Set Extractor). El método se basa en una fusión parcial de predictores de árboles de un Random Forest en un solo árbol de decisión (DT) utilizando una modificación del algoritmo CART, y obtiene un conjunto contrafáctico que contiene el contrafáctico óptimo. La propuesta se valida a través de varios experimentos comparados con alternativas existentes en diez conjuntos de datos bien conocidos, comparando el porcentaje de contrafácticos válidos, la distancia a la muestra factual y la calidad de los conjuntos contrafácticos.