Auteur(s) :<\/strong> Dr. Rachid Fall \u2014 Date :<\/strong> 2021-12-02 \u2014 Source :<\/strong> arXiv<\/p>\n L\u2019apprentissage f\u00e9d\u00e9r\u00e9 (Federated Learning, FL) est un paradigme de machine learning distribu\u00e9<\/strong> qui permet \u00e0 plusieurs clients de collaborer \u00e0 l\u2019entra\u00eenement d\u2019un mod\u00e8le global sans partager leurs donn\u00e9es locales sensibles, r\u00e9pondant ainsi \u00e0 des enjeux de confidentialit\u00e9 et de r\u00e9glementation des donn\u00e9es. Malgr\u00e9 ces avantages, le cadre d\u00e9centralis\u00e9 introduit de nouvelles vuln\u00e9rabilit\u00e9s en mati\u00e8re de s\u00e9curit\u00e9 et de confidentialit\u00e9<\/strong>. Cet article examine l\u2019\u00e9tat de l\u2019art des menaces, attaques et m\u00e9canismes de d\u00e9fense dans FL<\/strong>, en mettant l\u2019accent sur les interactions entre la robustesse du mod\u00e8le, les attaques adversariales et la protection de la vie priv\u00e9e. Une revue comparative des techniques de d\u00e9fense existantes est pr\u00e9sent\u00e9e, ainsi que des perspectives de recherche futures pour renforcer la s\u00e9curit\u00e9 et la confidentialit\u00e9 tout en pr\u00e9servant les performances des mod\u00e8les. SpringerLink<\/span>+2<\/span><\/span>MDPI<\/span>+2<\/span><\/span><\/span><\/a><\/span><\/span><\/p>\n L\u2019\u00e9volution rapide des technologies d\u2019intelligence artificielle a n\u00e9cessit\u00e9 des approches innovantes pour entra\u00eener des mod\u00e8les puissants tout en respectant les contraintes de confidentialit\u00e9 des donn\u00e9es<\/strong>. L\u2019apprentissage f\u00e9d\u00e9r\u00e9 a \u00e9merg\u00e9 comme solution \u00e0 ce probl\u00e8me, permettant \u00e0 plusieurs participants \u2014 tels que des appareils mobiles ou des organisations \u2014 de collaborer \u00e0 l\u2019entra\u00eenement d\u2019un mod\u00e8le sans centraliser les donn\u00e9es sensibles<\/strong>. SpringerLink<\/span><\/span><\/span><\/a><\/span><\/span><\/p>\n Dans un syst\u00e8me FL, chaque client entraine localement<\/strong> une version du mod\u00e8le, puis transmet uniquement les mises \u00e0 jour du mod\u00e8le (par exemple, gradients ou poids)<\/strong> \u00e0 un serveur central ou \u00e0 un agr\u00e9gateur d\u00e9centralis\u00e9. Le serveur agr\u00e8ge ces mises \u00e0 jour pour g\u00e9n\u00e9rer un mod\u00e8le global. Cependant, cette approche n\u2019est pas intrins\u00e8quement s\u00fbre\u202f: les informations \u00e9chang\u00e9es peuvent \u00eatre exploit\u00e9es pour des attaques visant \u00e0 compromettre la s\u00e9curit\u00e9 ou extraire des donn\u00e9es priv\u00e9es. emergentmind.com<\/span><\/span><\/span><\/a><\/span><\/span><\/p>\n L\u2019objectif de cet article est de fournir une analyse syst\u00e9matique des vuln\u00e9rabilit\u00e9s<\/strong>, des attaques connues<\/strong>, ainsi que des contre-mesures de d\u00e9fense<\/strong> utilis\u00e9es pour renforcer la s\u00e9curit\u00e9 et la confidentialit\u00e9 dans l\u2019apprentissage f\u00e9d\u00e9r\u00e9.<\/p>\n L\u2019apprentissage f\u00e9d\u00e9r\u00e9 est un cadre de machine learning distribu\u00e9 dans lequel les donn\u00e9es locales restent sur les p\u00e9riph\u00e9riques des utilisateurs<\/strong>, et seules des informations agr\u00e9g\u00e9es ou des mises \u00e0 jour de mod\u00e8le sont partag\u00e9es avec un serveur central ou un r\u00e9seau de pairs pour constituer le mod\u00e8le global. SpringerLink<\/span><\/span><\/span><\/a><\/span><\/span><\/p>\n Respect de la vie priv\u00e9e<\/strong> : les donn\u00e9es sensibles ne quittent jamais le client.<\/p>\n<\/li>\n R\u00e9duction des risques li\u00e9s \u00e0 la centralisation des donn\u00e9es<\/strong>.<\/p>\n<\/li>\n Adaptabilit\u00e9 \u00e0 des environnements h\u00e9t\u00e9rog\u00e8nes<\/strong> (appareils mobiles, institutions m\u00e9dicales, etc.). MDPI<\/span><\/span><\/span><\/a><\/span><\/span><\/p>\n<\/li>\n<\/ul>\n Malgr\u00e9 ses atouts, FL introduit des vecteurs d\u2019attaque uniques :<\/p>\n Attaques sur les mises \u00e0 jour du mod\u00e8le.<\/p>\n<\/li>\n Fuites d\u2019information via gradients ou poids.<\/p>\n<\/li>\n Comportement malveillant de clients ou d\u2019agr\u00e9gateurs. SpringerLink<\/span><\/span><\/span><\/a><\/span><\/span><\/p>\n<\/li>\n<\/ul>\n Les attaques dans FL peuvent \u00eatre regroup\u00e9es en deux grandes cat\u00e9gories\u202f:<\/p>\n Visent \u00e0 alt\u00e9rer l\u2019int\u00e9grit\u00e9 ou la disponibilit\u00e9<\/strong> du mod\u00e8le global. Cela inclut :<\/p>\n Attaques byzantines<\/strong>\u202f: clients malveillants envoient des mises \u00e0 jour erron\u00e9es pour perturber la convergence du mod\u00e8le.<\/p>\n<\/li>\n Empoisonnement de mod\u00e8le<\/strong>\u202f: insertion de donn\u00e9es toxiques pour biaiser les pr\u00e9dictions. SpringerLink<\/span><\/span><\/span><\/a><\/span><\/span><\/p>\n<\/li>\n<\/ul>\n Visent \u00e0 extraire des informations sensibles<\/strong> ou \u00e0 inf\u00e9rer des donn\u00e9es priv\u00e9es \u00e0 partir des mises \u00e0 jour du mod\u00e8le :<\/p>\n Attaques d\u2019inf\u00e9rence de membres<\/strong>\u202f: d\u00e9terminer si un \u00e9chantillon particulier faisait partie du jeu d\u2019entra\u00eenement.<\/p>\n<\/li>\n Attaques de reconstruction<\/strong>\u202f: reconstruire des donn\u00e9es originales \u00e0 partir de gradients. NIST<\/span><\/span><\/span><\/a><\/span><\/span><\/p>\n<\/li>\n<\/ul>\n Les attaques adversariales modifient les mises \u00e0 jour du mod\u00e8le pour manipuler la sortie globale, soit en perturbant la convergence, soit en ins\u00e9rant des backdoors<\/strong> (portes d\u00e9rob\u00e9es) dans le mod\u00e8le. SpringerLink<\/span><\/span><\/span><\/a><\/span><\/span><\/p>\n M\u00eame si les donn\u00e9es locales ne sont pas partag\u00e9es, les gradients transmis peuvent contenir suffisamment d\u2019informations pour permettre \u00e0 un attaquant de reconstituer des exemples sensibles du jeu de donn\u00e9es<\/strong>. NIST<\/span><\/span><\/span><\/a><\/span><\/span><\/p>\n Les techniques cryptographiques, comme le chiffrement homomorphe<\/strong> ou la multi-party computation s\u00e9curis\u00e9e (SMPC)<\/strong>, permettent de garantir que les mises \u00e0 jour des clients restent inaccessibles \u00e0 un observateur tiers<\/strong> pendant l\u2019agr\u00e9gation. SciTePress<\/span><\/span><\/span><\/a><\/span><\/span><\/p>\n La confidentialit\u00e9 diff\u00e9rentielle<\/strong> ajoute du bruit statistique aux gradients ou aux poids partag\u00e9s, r\u00e9duisant la capacit\u00e9 d\u2019un attaquant \u00e0 inf\u00e9rer des informations sp\u00e9cifiques sur les donn\u00e9es locales, au prix d\u2019une diminution potentielle de la pr\u00e9cision du mod\u00e8le<\/strong>. MDPI<\/span><\/span><\/span><\/a><\/span><\/span><\/p>\n Des strat\u00e9gies comme le contr\u00f4le de performance des mises \u00e0 jour<\/strong>, l\u2019\u00e9valuation crois\u00e9e des clients<\/strong> et des agr\u00e9gateurs robustes (par exemple Krum, FedAvg modifi\u00e9) peuvent r\u00e9duire l\u2019impact des clients malveillants. SpringerLink<\/span><\/span><\/span><\/a><\/span><\/span><\/p>\n De nombreuses approches r\u00e9centes combinent plusieurs techniques (cryptographie + confidentialit\u00e9 diff\u00e9rentielle + agr\u00e9gation robuste) pour am\u00e9liorer simultan\u00e9ment la s\u00e9curit\u00e9 et la confidentialit\u00e9<\/strong> tout en minimisant la d\u00e9gradation des performances. Enlighten Publications<\/span><\/span><\/span><\/a><\/span><\/span><\/p>\nR\u00e9sum\u00e9 (Abstract)<\/strong><\/h2>\n
\nIntroduction<\/strong><\/h2>\n
\n1. Fondements de l\u2019apprentissage f\u00e9d\u00e9r\u00e9<\/strong><\/h2>\n
1.1 D\u00e9finition et architecture<\/h3>\n
1.2 Avantages<\/h3>\n
\n
1.3 Limitations et d\u00e9fis<\/h3>\n
\n
\n2. Menaces de s\u00e9curit\u00e9 dans l\u2019apprentissage f\u00e9d\u00e9r\u00e9<\/strong><\/h2>\n
2.1 Classification des attaques<\/h3>\n
\ud83d\udd39 Attaques sur la s\u00e9curit\u00e9<\/em><\/h4>\n
\n
\ud83d\udd39 Attaques sur la confidentialit\u00e9<\/em><\/h4>\n
\n
\n3. Attaques sp\u00e9cifiques et m\u00e9canismes d\u2019exploitation<\/strong><\/h2>\n
3.1 Attaques adversariales et empoisonnement<\/h3>\n
3.2 Fuites de confidentialit\u00e9 via gradients<\/h3>\n
\n4. D\u00e9fenses pour renforcer s\u00e9curit\u00e9 et confidentialit\u00e9<\/strong><\/h2>\n
4.1 Cryptographie et agr\u00e9gation s\u00e9curis\u00e9e<\/h3>\n
4.2 Confidentialit\u00e9 diff\u00e9rentielle<\/h3>\n
4.3 D\u00e9fenses bas\u00e9es sur la robustesse du mod\u00e8le<\/h3>\n
4.4 Approches combin\u00e9es<\/h3>\n
\n5. Analyse comparative des approches de d\u00e9fense<\/strong><\/h2>\n