Presentation
Mitigación de ataques bizantinos usando modelos históricos en aprendizaje federado descentralizado
Author/s | Martínez Beltrán, Enrique Tomás
Sánchez Sánchez, Pedro Miguel Bovet, Gérôme Martínez Pérez, Gregorio Huertas Celdrán, Alberto |
Editor | Varela Vaca, Ángel Jesús
Ceballos Guerrero, Rafael Reina Quintero, Antonia María |
Publication Date | 2024 |
Deposit Date | 2024-05-29 |
Published in |
|
ISBN/ISSN | 978-84-09-62140-8 |
Abstract | El Aprendizaje Federado Descentralizado emerge como una solución prometedora para entrenar modelos de inteligencia artificial de manera colaborativa, sin compartir directamente los datos y sin la necesidad de un servidor ... El Aprendizaje Federado Descentralizado emerge como una solución prometedora para entrenar modelos de inteligencia artificial de manera colaborativa, sin compartir directamente los datos y sin la necesidad de un servidor central. Sin embargo, esta arquitectura enfrenta desafíos significativos en términos de seguridad donde nodos maliciosos podrían comprometer la integridad y eficacia de los modelos. Ante este escenario, se propone DFLShield, un mecanismo de mitigación que se apoya en el análisis de modelos históricos para la actualización segura. Esta solución contempla la recolección y evaluación crítica de modelos de nodos adyacentes, junto con el uso de un modelo promedio enriquecido con datos históricos del nodo local. Mediante la aplicación de técnicas de análisis de similitud coseno y métodos de clustering, se facilita la identificación precisa y la eliminación de modelos potencialmente perjudiciales, integrando en la agregación aquellos evaluados como fiables. Este mecanismo se valida en un caso de uso con diez nodos en una topología totalmente conectada y utilizando el conjunto de datos CIFAR10 junto con una CNN personalizada. Los resultados preliminares demuestran que no solo atenúa eficazmente los impactos de los ataques bizantinos, sino que también promueve una mejora sustancial en la robustez y la fiabilidad de los modelos. |
Citation | Martínez Beltrán, E.T., Sánchez Sánchez, P.M., Bovet, G., Martínez Pérez, G. y Huertas Celdrán, A. (2024). Mitigación de ataques bizantinos usando modelos históricos en aprendizaje federado descentralizado. En Jornadas Nacionales de Investigación en Ciberseguridad (JNIC) (9ª.2024. Sevilla) (22-29), Sevilla: Universidad de Sevilla. Escuela Técnica Superior de Ingeniería Informática. |
Files | Size | Format | View | Description |
---|---|---|---|---|
JNIC24_40.pdf | 889.5Kb | [PDF] | View/ | |