Decisiones automatizadas y transparencia administrativa: nuevos retos para los derechos fundamentales

Abstract

En la sociedad tecnológica actual, las Administraciones Públicas, al igual que el sector privado, han generalizado el uso de la inteligencia artificial para la toma de decisiones. Los algoritmos, que pueden procesar cantidades ingentes de datos y ayudar por la precisión de sus resultados, no obstante, plantean nuevos retos para los derechos fundamentales. En primer lugar, por la escasa información que se tiene sobre su funcionamiento, lo que supone una quiebra del principio de transparencia. En segundo lugar, por su complejidad, lo que dificulta su sujeción a medidas de control y complica la motivación de los actos administrativos automatizados, limitando la capacidad de los ciudadanos para recurrir las decisiones de la Administración. Y, por último, por lo influyentes que son: su empleo inadecuado puede desembocar en situaciones discriminatorias, así como lesionar otros derechos fundamentales de los ciudadanos.

In today's technological society, the use of artificial intelligence for decision making, both in public and private sectors, has become widespread. Algorithms can help process large amounts of information, but they also pose new challenges to fundamental rights. Firstly, because of the limited information available on how they work, which undermines the principle of transparency. Secondly, because of their complexity, which makes it difficult to subject them to control measures, as well as complicating the motivation of automated administrative acts, limiting the ability of citizens to appeal against the administration's decisions. And finally, because of their influence: their inappropriate use can lead to discriminatory situations, as well as infringe other fundamental rights of citizens.