Hacia una propuesta de metodología para el desarrollo de proyectos de IA confiables

Abstract

En los últimos meses hemos vivido la irrupción y rápida adopción de la Inteligencia Artificial Generativa (IAG), lo que ha provocado un claro aumento de riesgos en el uso de este tipo de sistemas. En paralelo, han aparecido los primeros acuerdos de organismos legisladores para regular el uso de la Inteligencia Artificial (IA). Estos hechos han evidenciado la necesidad de un refuerzo en la búsqueda de soluciones que ayuden a implementar esta familia de sistemas garantizando que sean confiables. Pero la confiabilidad implica conceptos variados que van desde la ciberseguridad hasta la ética. Por ello, en este artículo, comenzamos un camino hacia la construcción de una propuesta metodológica para el desarrollo de sistemas de IA confiables, arrancando con el análisis del propio concepto de confiabilidad (trustworthy en inglés) en este contexto, y construyendo una taxonomía de atributos que conforman este concepto, cuya definición sería clave para el trabajo posterior.