Apprentissage Fédéré
- Introduite par
- McMahan et al.
- Année
- 2017
- Type
- Distributed privacy-preserving machine learning
- Famille
- Privacy-preserving analysis
Ce texte est une traduction automatique et n’a pas encore été relu. Lire l’original en anglais
À quoi sert-elle ?
L'apprentissage fédéré est un paradigme d'apprentissage automatique distribué introduit par McMahan et al. en 2017, dans lequel un modèle global est entraîné collaborativement sur plusieurs clients décentralisés — tels que des appareils mobiles ou des systèmes hospitaliers — sans jamais transférer de données brutes vers un serveur central. Chaque participant calcule les mises à jour du modèle localement en utilisant ses données privées ; seules ces mises à jour, et non les données sous-jacentes, sont communiquées et agrégées par le serveur pour améliorer le modèle partagé.
L’intuition derrière la méthode
Imaginez un groupe de chercheurs dans différents hôpitaux, chacun étudiant des dossiers de patients qu'ils ne peuvent pas partager en raison des lois sur la confidentialité. Au lieu de regrouper les dossiers dans une seule base de données, chaque hôpital entraîne une version locale du modèle sur ses propres patients, puis envoie uniquement un résumé de ce qu'il a appris — et non les dossiers eux-mêmes — à un coordinateur qui fusionne tous les résumés en un modèle amélioré. Aucune donnée patient ne quitte jamais son institution d'origine, mais l'intelligence collective de chaque hôpital est capturée.
Histoire
Le terme et le cadre ont été introduits par McMahan et al. chez Google en 2017, motivés par la nécessité d'entraîner des modèles linguistiques sur des appareils mobiles sans télécharger de texte sensible. L'algorithme fondamental FedAvg a démontré que la moyenne des poids entraînés localement est à la fois efficace en termes de communication et compétitive par rapport à l'entraînement centralisé. Des recherches ultérieures ont étendu l'apprentissage fédéré pour gérer les données non-IID, ajouter des garanties formelles de confidentialité différentielle, incorporer le calcul multipartite sécurisé pour l'agrégation et appliquer le paradigme à des contextes inter-silos tels que les réseaux hospitaliers.
Quand l’utiliser
Utilisez l'apprentissage fédéré lorsque les données d'entraînement sont distribuées sur de nombreux clients et ne peuvent pas être centralisées en raison de réglementations de confidentialité, de contraintes de propriété des données ou de coûts de communication — par exemple, les claviers mobiles, l'imagerie médicale entre hôpitaux ou les réseaux de capteurs IoT. Les hypothèses clés incluent des données locales suffisantes par client et une tâche partagée entre tous les participants. Il est moins adapté lorsque les distributions de données des clients sont très hétérogènes (non-IID), que la bande passante de communication est sévèrement limitée, ou lorsque des garanties de confidentialité formelles fortes au-delà de la localité des données sont requises (envisagez de le combiner avec la confidentialité différentielle dans ce cas).
Limites et points d’attention
- La convergence peut être lente et instable lorsque les distributions de données des clients sont très non-IID.
- Les frais de communication sur de nombreux cycles peuvent être importants sur les réseaux à faible bande passante.
- Les mises à jour du modèle peuvent toujours divulguer des informations sur les données locales par inversion de gradient ou attaques d'inférence d'appartenance.
- Les traînards et les clients déconnectés compliquent l'agrégation synchrone et peuvent biaiser le modèle global.
Les conditions de la source ne remplacent ni une revue scientifique indépendante ni la validation par un moteur d’analyse.
Points forts
- Préserve la confidentialité des données par conception : les données brutes ne quittent jamais l'appareil ou l'institution cliente.
- S'adapte à des millions d'appareils périphériques hétérogènes sans centraliser le stockage.
- Réduit les coûts de transfert de données car seules les mises à jour du modèle, et non les ensembles de données, sont communiquées.
- Permet l'apprentissage dans des domaines sensibles (santé, finance) où le partage de données est légalement restreint.
Applications
- Prédiction du mot suivant et personnalisation du clavier sur les appareils mobiles sans télécharger le texte de l'utilisateur.
- Entraînement de modèles d'imagerie médicale entre hôpitaux qui ne peuvent pas partager les dossiers des patients.
- Détection de fraude entre banques partageant des schémas comportementaux mais pas les historiques de transactions.
- Modèles de perception de véhicules autonomes entraînés sur une flotte sans centraliser les journaux de capteurs.
- Surveillance de la santé portable qui apprend les lignes de base personnelles tout en conservant les données biométriques sur l'appareil.
Comment ça marche
Comment ça marche
Au début de chaque cycle de communication, le serveur sélectionne un sous-ensemble aléatoire de clients disponibles et leur transmet les poids actuels du modèle global. Cette diffusion garantit que tous les clients participants commencent le calcul local à partir d'un point de départ commun, permettant une agrégation cohérente ultérieurement. La sélection d'un sous-ensemble plutôt que de tous les clients rend chaque cycle gérable même lorsque des milliers d'appareils sont enregistrés.
Formule
w_t \rightarrow \text{subset } S_t \subset \{1,\ldots,N\}Chaque client sélectionné exécute une ou plusieurs étapes de descente de gradient stochastique sur son ensemble de données local privé en utilisant les poids globaux reçus comme point de départ. Le client calcule le gradient de sa fonction de perte locale et met à jour les poids en conséquence. Seuls ces poids mis à jour — et non les gradients bruts ou les données d'entraînement — sont préparés pour être transmis au serveur.
Formule
w_{t+1}^k = w_t - \eta \nabla \mathcal{L}_k(w_t)Le serveur collecte les poids mis à jour de tous les clients participants et calcule une moyenne pondérée, où la contribution de chaque client est proportionnelle à la taille de son ensemble de données local par rapport au total des données de tous les participants. Cette étape de moyenne fédérée (Federated Averaging, FedAvg) produit un nouveau modèle global qui intègre des informations provenant des données privées de chaque client sans qu'aucune donnée brute ne quitte les appareils.
Formule
w_{t+1} = \sum_{k \in S_t} \frac{n_k}{n} w_{t+1}^kLe modèle global agrégé est évalué par rapport à un critère de convergence, généralement une borne sur la perte attendue par rapport à la perte optimale. Si le critère n'est pas encore satisfait, le serveur incrémente le compteur de cycles et diffuse le modèle global mis à jour à un nouveau sous-ensemble de clients, répétant le cycle jusqu'à ce que le modèle converge ou qu'un nombre maximal de cycles soit atteint.
Formule
\mathbb{E}[\mathcal{L}(w_T)] \leq \mathcal{L}^* + \epsilonPièges courants
- Supposer que l'entraînement fédéré seul est suffisant pour la confidentialité : sans mécanismes supplémentaires tels que la confidentialité différentielle ou l'agrégation sécurisée, les mises à jour du modèle restent vulnérables.
- Ignorer l'hétérogénéité des données : l'application du FedAvg "vanilla" à des données fortement non-IID conduit souvent à une dérive du client et à de mauvaises performances du modèle global.
- Négliger les clients byzantins ou malveillants : une petite fraction de participants adversaires peut corrompre le modèle agrégé si une agrégation robuste n'est pas appliquée.
- Traiter les cycles de communication comme gratuits : le coût cumulé de nombreux cycles sur des liaisons lentes peut l'emporter sur le bénéfice de la décentralisation.
Questions fréquentes
L'apprentissage fédéré garantit-il une confidentialité totale ?
Pas en soi. Bien que les données brutes ne quittent jamais les appareils clients, les mises à jour du modèle (gradients) peuvent toujours divulguer des informations par inversion de gradient ou attaques d'inférence d'appartenance. La combinaison de l'apprentissage fédéré avec l'ajout de bruit de confidentialité différentielle et des protocoles d'agrégation sécurisée renforce considérablement les garanties de confidentialité, mais chaque couche ajoute ses propres compromis en termes de précision ou de communication.
Comment l'apprentissage fédéré gère-t-il les données non-IID entre les clients ?
Le FedAvg standard peut diverger lorsque les distributions de données des clients diffèrent fortement les unes des autres — un phénomène appelé dérive du client. Les remèdes incluent l'augmentation de la taille des lots locaux, la réduction des époques locales, l'application de variantes d'apprentissage fédéré personnalisées (telles que FedProx ou SCAFFOLD), ou l'utilisation d'un "momentum" côté serveur. La gravité dépend du degré d'hétérogénéité statistique entre les clients.
Combien de clients et de cycles sont généralement nécessaires pour la convergence ?
McMahan et al. ont montré que même avec une petite fraction de clients échantillonnés par cycle (par exemple, 10 sur 100), FedAvg converge en quelques dizaines à quelques centaines de cycles pour les tâches standard. En pratique, le nombre dépend de la taille de l'ensemble de données par client, du degré de non-IID-ness, du taux d'apprentissage et du nombre d'étapes de gradient locales effectuées avant chaque agrégation.
Méthodes associées
Sources
McMahan, B., Moore, E., Ramage, D., Hampson, S., & Arcas, B. A. (2017). Communication-efficient learning of deep networks from decentralized data. Artificial Intelligence and Statistics, 1273–1282.
Ouvrir la référence de la publicationCopié.