Big data e inteligencia artificial: una aproximación a los desafíos éticos y jurídicos de su implementación en las administraciones tributarias

Abstract

La generalización del uso de tecnologías basadas en sistemas de inteligencia artificial en manos de la administración pública –un destinatario más de las potencialidades que ofrece y los desafíos que deparan estas tecnologías aplicadas al servicio público– plantea la necesidad de reflexionar sobre los riesgos que supone la interacción entre la inteligencia artificial y los derechos de los ciudadanos. Principalmente en lo que respecta a la automatización de la administración, el tratamiento de datos personales y el perfilamiento de ciudadanos en sectores sensibles de la administración como es la hacienda pública. El presente estudio tiene como finalidad, identificar y analizar los desafíos éticos y jurídicos que se derivan de la utilización de las tecnologías disruptivas asociadas a la inteligencia artificial en manos de la administración pública en general y la tributaria en particular, sobre todo cuando se destina a la persecución del fraude fiscal; los daños “accidentales” que se pueden causar a los derechos y garantías del contribuyente, principalmente aquellos relacionados con el tratamiento de datos personales, y los sesgos y discriminaciones que puede ocasionar el uso de algoritmos entrenados en sistemas de big data; y la necesaria transparencia y rendición de cuentas asociada a la toma de decisiones automatizada por parte de la administración tributaria.

The generalization of the use of technologies based on artificial intelligence systems by the public administration, another recipient of the potentialities offered and the challenges arising by these technologies when applied to the public service, raises the need to reflect on the risks involved in the interaction between artificial intelligence and citizens’ rights. Mainly, as regard to the automation of the administration, the processing of personal data, and the profiling of citizens in sensitive sectors of the public administration such as public finances. The purpose of this study is to identify and analyze the ethical and legal challenges arising from the use of disruptive technologies associated with artificial intelligence by public administration in general, and tax administration in particular, especially where it is intended for the prosecution of tax fraud; “accidental” damages which may be caused to the rights and guarantees of the taxpayer, in particular those relating to the processing of personal data, and the biases and discriminations that can be caused by the use of algorithms trained in big data systems; and the necessary transparency and accountability associated with automated decision-making by the tax administration.