La aplicación de la inteligencia artificial en el proceso: ¿un nuevo reto para las garantías procesales?

Abstract

La aplicación de la Inteligencia Artificial en el ámbito jurídico no está exenta de controversia debido a la multitud de vicisitudes que se generan como consecuencia de los riesgos implícitos que conlleva el uso de estos nuevos sistemas. Partiendo de un análisis exhaustivo en torno al concepto de Inteligencia Artificial se analizarán, desde la perspectiva procesal, tanto las ventajas como los problemas que genera la implantación de los sistemas inteligentes dentro de un proceso penal. Posteriormente, dichos inconvenientes se pondrán en relación con las garantías procesales configurándose, estas últimas, como un límite ético y jurídico en el desarrollo y utilización de la Inteligencia Artificial. Finalmente, y tomando como referencia la novedosa propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen las normas armonizadas sobre Inteligencia Artificial se llevará a cabo una reflexión sobre la concurrencia necesaria de una serie de principios que, con carácter general y transversal, deben ser tenidos en cuenta en las futuras y eventuales regulaciones sobre la materia objeto de estudio.

The application of Artificial Intelligence in the legal field is not exempt of controversy due to the multitude of vicissitudes that are generated as a result of the implicit risks that the use of these new systems entails. Starting from an exhaustive analysis around the concept of Artificial Intelligence, both the advantages and the problems generated by the implementation of intelligent systems within a criminal process will be analyzed from a procedural perspective. Subsequently, these inconveniences will be related to the procedural guarantees, the latter being established as an ethical and legal limit in the configuration, development and use of Artificial Intelligence. Finally, and taking as a reference the novel proposal for a regulation of the European Parliament and of the Council by which the harmonized rules on Artificial Intelligence are established, a consideration will be carried out on the necessary concurrence of a series of principles that, with a general and transversal nature, should be taken into account in future and eventual regulations on the subject matter of study.