Una aproximación matemática a la Inteligencia Artificial Explicable

Abstract

Local InterpretableModel-Agnostic Explanations (LIME) is awell-known approach to provide local interpretability to Machine Learning models. One of the key points of these local explanations is the meaning of locality. LIME uses an exponential smoothing kernel based on the kernel width value, which defines the width of the local neighborhood. In this work, we introduce the key aspects of explainable AI (XAI) and we study how distance choice influences these local explanations and how they perform when the dimension of the dataset grows. We explore the choice of kernel width to guarantee a fair performance comparison between Euclidean distance and the Manhattan distance, concluding that when defining a fair kernel width, depending on the distance of choice, they are close in performance.

Local Interpretable Model-Agnostic Explanations (LIME) es un extendido método para conseguir cierta interpretabilidad en modelos de aprendizaje automático. Uno de los puntos clave de estas explicaciones locales es el significado de local. LIME usa un kernel exponencial que se basa en la elección del valor del kernel width, un argumento que define el tamaño del entorno alrededor de la instancia a explicar. En este trabajo, introducimos los aspectos clave de la inteligencia artificial explicable (XAI) y estudiamos como la elección de la distancia influye en las explicaciones locales dadas por LIME y como es su rendimiento cuando la dimensionalidad del conjunto de datos crece. Exploramos como debe ser la elección del kernel width para garantizar una comparación justa en términos de rendimiento entre las distancias euclídea y Manhattan, concluyendo que cuando se elige el kernel width adecuado, el desempeño de ambas es parecido.