Dilemas éticos de los vehículos autónomos: Responsabilidad ética, análisis de riesgo y toma de decisiones

Abstract

Este artículo plantea un análisis de los dilemas éticos creados en torno a los sistemas autónomos inteligentes, y más particularmente en torno a los vehículos autónomos. Se estudia el estado de la cuestión desde un punto de vista interdisciplinar. Se señalan los desafíos para la seguridad de los sistemas autónomos, así como las vulnerabilidades que afectan a la resistencia de los sistemas autónomos con respecto a ataques externos. Para tal fin se compara la habilitación para el manejo de vehículos con la certificación de sistemas autónomos. Se aplican dichos conceptos al estudio del caso del primer accidente mortal causado por un vehículo autónomo en relación con la asignación de responsabilidad ética y legal. Por último, se apunta a la tarea pendiente del análisis de la relación entre la ética de los vehículos autónomos y la teoría de juegos.

This article presents an analysis of the ethical dilemmas created around intelligent autonomous systems, and more particularly around autonomous vehicles. The state of the art is studied from an interdisciplinary point of view. The challenges for the security of autonomous systems are pointed out, as well as the vulnerabilities affecting the resilience of autonomous systems with respect to external attacks. For this purpose, vehicle operation licensing is compared to the certification of autonomous systems. These concepts are applied to the case study of the first fatal accident caused by an autonomous vehicle in relation to the assignment of ethical and legal responsibility. Finally, the pending task of analyzing the relationship between the ethics of autonomous vehicles and game theory is addressed.