Explainable Machine Learning: Mathematical Optimization in Counterfactual Analysis

Abstract

Counterfactual Analysis is a recent field of Explainable Machine Learning focused on the development of methods to provide human-understandable explanations for the results of predictive models. Further research and advancement in the area is deemed fundamental on account of the rapidly spreading usage of Machine Learning algorithms in human-impacting automated decision-making processes. In this work we present an approach to Counterfactual Analysis through the formulation of optimization programs, posing single-objective and multi-objective problems that lead to counterfactual generation. We then particularize them for specific choices of classifier model and parameters, though further options are outlined. Computational experiments are conducted and reported for the multiobjective approach.

El An´alisis Contraf´actico es un ´area de creaci´on reciente dentro del Aprendizaje Autom´atico Explicable, que se centra en el desarrollo de t´ecnicas que permitan obtener explicaciones aptas para interpretaci´on humana para los resultados de modelos predictivos. Dada la r´apida expansi´on de los algoritmos de Aprendizaje Autom´atico en sistemas de decisi´on autom´atica que tienen consecuencias directas sobre vidas humanas, la investigaci´on en este campo se vuelve fundamental. En este trabajo tratamos el An´alisis Contraf´actico desde la formulaci´on de programas de optimizaci´on matem´atica, proponiendo problemas de un solo objetivo y multiobjetivo. Posteriormente los particularizamos para elecciones espec´ıficas de modelo de clasificaci´on y par´ametros; aunque dejamos indicadas otras opciones. Por ´ultimo, presentamos resultados num´ericos de la aplicaci´on a un caso pr´actico de problemas de la variedad multiobjetivo.