Mitigación de ataques bizantinos usando modelos históricos en aprendizaje federado descentralizado

Abstract

El Aprendizaje Federado Descentralizado emerge como una solución prometedora para entrenar modelos de inteligencia artificial de manera colaborativa, sin compartir directamente los datos y sin la necesidad de un servidor central. Sin embargo, esta arquitectura enfrenta desafíos significativos en términos de seguridad donde nodos maliciosos podrían comprometer la integridad y eficacia de los modelos. Ante este escenario, se propone DFLShield, un mecanismo de mitigación que se apoya en el análisis de modelos históricos para la actualización segura. Esta solución contempla la recolección y evaluación crítica de modelos de nodos adyacentes, junto con el uso de un modelo promedio enriquecido con datos históricos del nodo local. Mediante la aplicación de técnicas de análisis de similitud coseno y métodos de clustering, se facilita la identificación precisa y la eliminación de modelos potencialmente perjudiciales, integrando en la agregación aquellos evaluados como fiables. Este mecanismo se valida en un caso de uso con diez nodos en una topología totalmente conectada y utilizando el conjunto de datos CIFAR10 junto con una CNN personalizada. Los resultados preliminares demuestran que no solo atenúa eficazmente los impactos de los ataques bizantinos, sino que también promueve una mejora sustancial en la robustez y la fiabilidad de los modelos.