Metodologías y técnicas para el análisis de datos y el diseño y desarrollo de soluciones de inteligencia artificial confiable basadas en modelos predictivos en el ámbito de la salud

Abstract

En este trabajo se presenta una contribución en el diseño y desarrollo de soluciones de Inteligencia Artificial Confiables basadas en modelos predictivos en el ámbito de la salud. En el año 2019, la Unión Europea comenzó a marcar, a través de sus directrices, el camino que el diseño y desarrollo de soluciones basadas en IA deben seguir con el objetivo de promover la adopción de esta tecnología a una mayor escala y con las suficientes garantías de respeto de los derechos humanos, la ética y la seguridad en su aplicación. Estas directrices buscan impulsar un uso responsable y confiable de la IA en diversos ámbitos, entre los cuales se destaca el ámbito de la salud. En este contexto, en esta tesis se han explorado metodologías, técnicas y estrategias que promuevan el diseño y desarrollo de sistemas de IA confiables. Uno de los pilares fundamentales de esta tesis ha sido el uso de la metodología de diseño centrado en la persona con el propósito de que las soluciones de IA propuestas estén alineadas con las necesidades y expectativas y contextos de los usuarios finales. Por otro lado, el uso de modelos altamente interpretables y la propuesta de una innovadora estrategia de validación demuestra el compromiso con la investigación en el diseño y desarrollo sistemas de IA confiables en el ámbito de la salud. La tesis se ha desarrollado en el marco de casos de uso reales, en los que se han contado con el conocimiento experto de un equipo de profesionales clínicos, cuya participación ha permitido proponer soluciones que puedan contribuir positivamente al campo de la salud y la asistencia clínica.

This work presents a contribution to the design and development of Trustworthy Artificial Intelligence solutions based on predictive models in the healthcare domain. In 2019, the European Union started to establish a path for the design and development of AI-based solutions through its guidelines. The aim is to promote a more widespread adoption of this technology, ensuring it adheres to human rights, ethics and security in its application. These guidelines seek to drive a responsible and trustworthy use of AI in healthcare, among other domains. In this context, different methodologies, techniques and strategies that promote the design and development of trustworthy AI have been explored in this work. On one hand, one of the main foundations of this thesis has been the use of a usercentered design methodology with the objective to ensure that the proposed AI solutions are aligned with the needs, expectations, and contexts of the end users. On the other hand, the use of highly interpretable models and the innovative validation strategy proposed demonstrate the commitment in designing and developing trustworthy AI systems in healthcare. This thesis has been conducted within the context of real-world use cases with the input of a group of clinical experts. Their participations has enabled the proposal of solutions that could make a positive impact in the healthcare domain and clinical support.