Artículo
El sesgo de la máquina en la toma de decisiones en el proceso penal
Título alternativo | Machine Bias in Criminal Procedure |
Autor/es | Borges Blázquez, Raquel |
Fecha de publicación | 2020 |
Fecha de depósito | 2021-06-08 |
Resumen | La inteligencia artificial tiene innumerables ventajas en nuestras vidas. La capacidad de almacenar y conectar datos que tiene un ordenador es muy superior a la capacidad humana. Pero esta “inteligencia” comporta también ... La inteligencia artificial tiene innumerables ventajas en nuestras vidas. La capacidad de almacenar y conectar datos que tiene un ordenador es muy superior a la capacidad humana. Pero esta “inteligencia” comporta también problemas de hondo calado ético que el derecho deberá responder. Digo “inteligencia” porque a día de hoy las máquinas no son inteligentes. Las máquinas solo utilizan aquellos datos que, previamente, un humano le ha ofrecido como ciertos. La verdad es relativa y los datos van a tener los mismos sesgos y prejuicios que tiene el humano que programa la máquina. En otras palabras, las máquinas van a ser racistas, sexistas y clasistas si lo son sus programadores. A todo esto se le suma un nuevo problema, la dificultad de comprender el algoritmo por parte de los aplicadores del derecho. Esto puede atacar derechos fundamentales básicos en el sistema de justicia penal como son el derecho a la publicidad de las actuaciones y el derecho a la motivación de las decisiones judiciales. Esta situación obliga a repensar el proceso penal tan y como hoy lo conocemos, incluyendo la inteligencia artificial e hilando muy fino indicando cómo, cuándo, por qué y en qué supuestos podemos hacer uso de la inteligencia artificial y, sobretodo, quién va a programarla. Porque, tal y como indica Silvia Barona, tal vez la pregunta debería ser: ¿quién va a controlar el pensamiento jurídico global? Artificial intelligence has countless advantages in our lives. On the one hand, computer’s capacity to store and connect data is far superior to human capacity. On the other hand, its “intelligence” also involves deep ... Artificial intelligence has countless advantages in our lives. On the one hand, computer’s capacity to store and connect data is far superior to human capacity. On the other hand, its “intelligence” also involves deep ethical problems that the law must respond to. I say “intelligence” because nowadays machines are not intelligent. Machines only use the data that a human being has previously offered as true. The truth is relative and the data will have the same biases and prejudices as the human who programs the machine. In other words, machines will be racist, sexist and classist if their programmers are. Furthermore, we are facing a new problem: the difficulty to understand the algorithm of those who apply the law.This situation forces us to rethink the criminal process, including artificial intelligence and spinning very thinly indicating how, when, why and under what assumptions we can make use of artificial intelligence and, above all, who is going to program it. At the end of the day, as Silvia Barona indicates, perhaps the question should be: who is going to control global legal thinking? |
Ficheros | Tamaño | Formato | Ver | Descripción |
---|---|---|---|---|
Ius_et_Scientia_vol_6_n2_05_bo ... | 289.7Kb | ![]() | Ver/ | |