Sécurité et confidentialité dans l’apprentissage fédéré

Sécurité et confidentialité dans l’apprentissage fédéré

Auteur(s) : Dr. Rachid Fall — Date : 2021-12-02 — Source : arXiv

Résumé (Abstract)

L’apprentissage fédéré (Federated Learning, FL) est un paradigme de machine learning distribué qui permet à plusieurs clients de collaborer à l’entraînement d’un modèle global sans partager leurs données locales sensibles, répondant ainsi à des enjeux de confidentialité et de réglementation des données. Malgré ces avantages, le cadre décentralisé introduit de nouvelles vulnérabilités en matière de sécurité et de confidentialité. Cet article examine l’état de l’art des menaces, attaques et mécanismes de défense dans FL, en mettant l’accent sur les interactions entre la robustesse du modèle, les attaques adversariales et la protection de la vie privée. Une revue comparative des techniques de défense existantes est présentée, ainsi que des perspectives de recherche futures pour renforcer la sécurité et la confidentialité tout en préservant les performances des modèles. SpringerLink+2MDPI+2

Introduction

L’évolution rapide des technologies d’intelligence artificielle a nécessité des approches innovantes pour entraîner des modèles puissants tout en respectant les contraintes de confidentialité des données. L’apprentissage fédéré a émergé comme solution à ce problème, permettant à plusieurs participants — tels que des appareils mobiles ou des organisations — de collaborer à l’entraînement d’un modèle sans centraliser les données sensibles. SpringerLink

Dans un système FL, chaque client entraine localement une version du modèle, puis transmet uniquement les mises à jour du modèle (par exemple, gradients ou poids) à un serveur central ou à un agrégateur décentralisé. Le serveur agrège ces mises à jour pour générer un modèle global. Cependant, cette approche n’est pas intrinsèquement sûre : les informations échangées peuvent être exploitées pour des attaques visant à compromettre la sécurité ou extraire des données privées. emergentmind.com

L’objectif de cet article est de fournir une analyse systématique des vulnérabilités, des attaques connues, ainsi que des contre-mesures de défense utilisées pour renforcer la sécurité et la confidentialité dans l’apprentissage fédéré.

1. Fondements de l’apprentissage fédéré

1.1 Définition et architecture

L’apprentissage fédéré est un cadre de machine learning distribué dans lequel les données locales restent sur les périphériques des utilisateurs, et seules des informations agrégées ou des mises à jour de modèle sont partagées avec un serveur central ou un réseau de pairs pour constituer le modèle global. SpringerLink

1.2 Avantages

• Respect de la vie privée : les données sensibles ne quittent jamais le client.

• Réduction des risques liés à la centralisation des données.

• Adaptabilité à des environnements hétérogènes (appareils mobiles, institutions médicales, etc.). MDPI

1.3 Limitations et défis

Malgré ses atouts, FL introduit des vecteurs d’attaque uniques :

• Attaques sur les mises à jour du modèle.

• Fuites d’information via gradients ou poids.

• Comportement malveillant de clients ou d’agrégateurs. SpringerLink

2. Menaces de sécurité dans l’apprentissage fédéré

2.1 Classification des attaques

Les attaques dans FL peuvent être regroupées en deux grandes catégories :

🔹 Attaques sur la sécurité

Visent à altérer l’intégrité ou la disponibilité du modèle global. Cela inclut :

• Attaques byzantines : clients malveillants envoient des mises à jour erronées pour perturber la convergence du modèle.

• Empoisonnement de modèle : insertion de données toxiques pour biaiser les prédictions. SpringerLink

🔹 Attaques sur la confidentialité

Visent à extraire des informations sensibles ou à inférer des données privées à partir des mises à jour du modèle :

• Attaques d’inférence de membres : déterminer si un échantillon particulier faisait partie du jeu d’entraînement.

• Attaques de reconstruction : reconstruire des données originales à partir de gradients. NIST

3. Attaques spécifiques et mécanismes d’exploitation

3.1 Attaques adversariales et empoisonnement

Les attaques adversariales modifient les mises à jour du modèle pour manipuler la sortie globale, soit en perturbant la convergence, soit en insérant des backdoors (portes dérobées) dans le modèle. SpringerLink

3.2 Fuites de confidentialité via gradients

Même si les données locales ne sont pas partagées, les gradients transmis peuvent contenir suffisamment d’informations pour permettre à un attaquant de reconstituer des exemples sensibles du jeu de données. NIST

4. Défenses pour renforcer sécurité et confidentialité

4.1 Cryptographie et agrégation sécurisée

Les techniques cryptographiques, comme le chiffrement homomorphe ou la multi-party computation sécurisée (SMPC), permettent de garantir que les mises à jour des clients restent inaccessibles à un observateur tiers pendant l’agrégation. SciTePress

4.2 Confidentialité différentielle

La confidentialité différentielle ajoute du bruit statistique aux gradients ou aux poids partagés, réduisant la capacité d’un attaquant à inférer des informations spécifiques sur les données locales, au prix d’une diminution potentielle de la précision du modèle. MDPI

4.3 Défenses basées sur la robustesse du modèle

Des stratégies comme le contrôle de performance des mises à jour, l’évaluation croisée des clients et des agrégateurs robustes (par exemple Krum, FedAvg modifié) peuvent réduire l’impact des clients malveillants. SpringerLink

4.4 Approches combinées

De nombreuses approches récentes combinent plusieurs techniques (cryptographie + confidentialité différentielle + agrégation robuste) pour améliorer simultanément la sécurité et la confidentialité tout en minimisant la dégradation des performances. Enlighten Publications

5. Analyse comparative des approches de défense

Interprétation : Les techniques cryptographiques offrent un très bon degré de confidentialité, mais souvent au coût d’une complexité computationnelle élevée. Les méthodes robustes d’agrégation sont efficaces contre certaines attaques, mais ne suffisent pas à elles seules à protéger contre les attaques de confidentialité. MDPI

6. Perspectives et défis futurs

Plusieurs axes de recherche restent ouverts :

• Équilibrer confidentialité, sécurité et performance sans sacrifier l’efficacité du modèle.

• Développer des solutions scalables pour environnements avec un très grand nombre de participants.

• Renforcer la défense contre attaques combinées et adaptatives. arXiv

Références sélectionnées

Voici quelques références scientifiques pertinentes que vous pouvez consulter pour approfondir le sujet :

1. An overview of implementing security and privacy in federated learning (2024), Artificial Intelligence Review. SpringerLink

2. A survey of security strategies in federated learning: defending models, data, and privacy (2024), Future Internet. MDPI

3. On the Security and Privacy of Federated Learning: A Survey with Attacks, Defenses, Frameworks, Applications, and Future Directions (2025), arXiv. arXiv

4. Privacy attacks in federated learning and countermeasures (NIST blog insights). NIST

5. Research on Privacy and Security Issues in Federated Learning (2025), Scitepress Proceedings. SciTePress