Uczenie federacyjne
- Autor metody
- McMahan et al.
- Rok
- 2017
- Typ
- Distributed privacy-preserving machine learning
- Rodzina
- Privacy-preserving analysis
Ten tekst jest tłumaczeniem maszynowym i nie został jeszcze sprawdzony. Przeczytaj oryginał po angielsku
Do czego służy?
Uczenie federacyjne (ang.
Federated Learning) to rozproszony paradygmat uczenia maszynowego wprowadzony przez McMahan et al. w 2017 r., w którym globalny model jest trenowany wspólnie na wielu zdecentralizowanych klientach – takich jak urządzenia mobilne czy systemy szpitalne – bez przesyłania surowych danych do centralnego serwera. Każdy uczestnik lokalnie oblicza aktualizacje modelu przy użyciu swoich prywatnych danych; tylko te aktualizacje, a nie leżące u ich podstaw dane, są komunikowane i agregowane przez serwer w celu ulepszenia współdzielonego modelu.
Intuicja stojąca za metodą
Wyobraźmy sobie grupę badaczy z różnych szpitali, z których każdy analizuje dane pacjentów, których nie może udostępniać ze względu na przepisy o ochronie prywatności. Zamiast gromadzić dane w jednej bazie, każdy szpital trenuje lokalną wersję modelu na własnych pacjentach, a następnie przesyła tylko podsumowanie tego, czego się nauczył – nie same dane – do koordynatora, który łączy wszystkie podsumowania w jeden ulepszony model. Żadne dane pacjentów nigdy nie opuszczają instytucji źródłowej, a jednocześnie uchwycono zbiorową inteligencję każdego szpitala.
Historia
Termin i ramy zostały wprowadzone przez McMahan et al. w Google w 2017 r., motywowane potrzebą trenowania modeli językowych na urządzeniach mobilnych bez przesyłania wrażliwego tekstu. Podstawowy algorytm FedAvg wykazał, że uśrednianie lokalnie trenowanych wag jest zarówno wydajne komunikacyjnie, jak i konkurencyjne w stosunku do szkolenia scentralizowanego. Dalsze badania rozszerzyły uczenie federacyjne na obsługę danych nie-IID, dodanie formalnych gwarancji prywatności różnicowej, włączenie bezpiecznych obliczeń wielostronnych do agregacji oraz zastosowanie paradygmatu do ustawień między silosami, takich jak sieci szpitalne.
Kiedy stosować
Używaj uczenia federacyjnego, gdy dane treningowe są rozproszone na wielu klientach i nie mogą być scentralizowane ze względu na przepisy o ochronie prywatności, ograniczenia dotyczące własności danych lub koszty komunikacji – na przykład w przypadku klawiatur mobilnych, obrazowania medycznego w szpitalach lub sieci czujników IoT. Kluczowe założenia obejmują wystarczającą ilość danych lokalnych na klienta i wspólne zadanie dla wszystkich uczestników. Jest ono mniej odpowiednie, gdy rozkłady danych klientów są silnie heterogeniczne (nie-IID), przepustowość komunikacyjna jest mocno ograniczona lub gdy wymagane są silne formalne gwarancje prywatności wykraczające poza lokalność danych (w takim przypadku rozważ połączenie z prywatnością różnicową).
Ograniczenia i uwagi
- Zbieżność może być powolna i niestabilna, gdy rozkłady danych klientów są silnie nie-IID.
- Narzut komunikacyjny w wielu rundach może być znaczący w sieciach o niskiej przepustowości.
- Aktualizacje modelu nadal mogą ujawniać informacje o lokalnych danych poprzez ataki inwersji gradientu lub wnioskowania o przynależności.
- Opóźnienia i odrzuceni klienci komplikują synchronizację agregacji i mogą zniekształcać model globalny.
Warunki podane w źródle nie zastępują niezależnego przeglądu naukowego ani walidacji przez silnik analityczny.
Mocne strony
- Zachowuje prywatność danych dzięki konstrukcji: surowe dane nigdy nie opuszczają urządzenia klienta ani instytucji.
- Skaluje się do milionów heterogenicznych urządzeń brzegowych bez centralizacji przechowywania danych.
- Redukuje koszty transferu danych, ponieważ komunikowane są tylko aktualizacje modelu, a nie zbiory danych.
- Umożliwia uczenie się w domenach wrażliwych (opieka zdrowotna, finanse), gdzie udostępnianie danych jest prawnie ograniczone.
Zastosowania
- Predykcja następnego słowa i personalizacja klawiatury na urządzeniach mobilnych bez przesyłania tekstu użytkownika.
- Trenowanie modeli obrazowania medycznego w szpitalach, które nie mogą udostępniać danych pacjentów.
- Wykrywanie oszustw w bankach udostępniających wzorce zachowań, ale nie historie transakcji.
- Modele percepcji pojazdów autonomicznych trenowane na flocie bez centralizacji logów z czujników.
- Monitorowanie zdrowia przez urządzenia noszone, które uczą się osobistych punktów odniesienia, zachowując dane biometryczne na urządzeniu.
Jak to działa
Jak to działa
Na początku każdej rundy komunikacyjnej serwer wybiera losową podgrupę dostępnych klientów i przesyła im bieżące wagi globalnego modelu. To rozgłoszenie zapewnia, że wszyscy uczestniczący klienci rozpoczynają obliczenia lokalne od wspólnego punktu wyjścia, umożliwiając spójną agregację w późniejszym etapie. Wybór tylko podgrupy, a nie wszystkich klientów, sprawia, że każda runda jest wykonalna, nawet gdy zarejestrowanych jest tysiące urządzeń.
Wzór
w_t \rightarrow \text{subset } S_t \subset \{1,\ldots,N\}Każdy wybrany klient wykonuje jeden lub więcej kroków stochastycznego spadku gradientu na swoim prywatnym lokalnym zbiorze danych, używając otrzymanych wag globalnych jako punktu wyjścia. Klient oblicza gradient swojej lokalnej funkcji straty i odpowiednio aktualizuje wagi. Tylko te zaktualizowane wagi – a nie surowe gradienty ani dane treningowe – są przygotowywane do przesłania z powrotem do serwera.
Wzór
w_{t+1}^k = w_t - \eta \nabla \mathcal{L}_k(w_t)Serwer zbiera zaktualizowane wagi od wszystkich uczestniczących klientów i oblicza średnią ważoną, gdzie wkład każdego klienta jest proporcjonalny do rozmiaru jego lokalnego zbioru danych w stosunku do całkowitej ilości danych u wszystkich uczestników. Ten krok uśredniania federacyjnego (ang. Federated Averaging, FedAvg) tworzy nowy globalny model, który zawiera informacje z prywatnych danych każdego klienta, bez opuszczania urządzeń przez jakiekolwiek surowe dane.
Wzór
w_{t+1} = \sum_{k \in S_t} \frac{n_k}{n} w_{t+1}^kAgregowany model globalny jest oceniany pod kątem kryterium zbieżności, zazwyczaj ograniczenia oczekiwanej straty w stosunku do optymalnej straty. Jeśli kryterium nie jest jeszcze spełnione, serwer zwiększa licznik rund i rozgłasza zaktualizowany model globalny do nowej podgrupy klientów, powtarzając cykl, aż model zbiegnie lub zostanie osiągnięta maksymalna liczba rund.
Wzór
\mathbb{E}[\mathcal{L}(w_T)] \leq \mathcal{L}^* + \epsilonCzęste pułapki
- Zakładanie, że samo szkolenie federacyjne jest wystarczające dla prywatności: bez dodatkowych mechanizmów, takich jak prywatność różnicowa lub bezpieczna agregacja, aktualizacje modelu pozostają podatne na ataki.
- Ignorowanie heterogeniczności danych: stosowanie standardowego FedAvg do silnie nie-IID danych często prowadzi do dryfu klienta i słabej wydajności modelu globalnego.
- Przeoczenie klientów bizantyjskich lub złośliwych: niewielki odsetek uczestników adversarialnych może zanieczyścić agregowany model, jeśli nie zastosowano odpornej agregacji.
- Traktowanie rund komunikacyjnych jako darmowych: skumulowany koszt wielu rund przez wolne łącza może przewyższyć korzyści z decentralizacji.
Najczęściej zadawane pytania
Czy uczenie federacyjne gwarantuje całkowitą prywatność?
Nie samo w sobie. Chociaż surowe dane nigdy nie opuszczają urządzeń klienckich, aktualizacje modelu (gradienty) nadal mogą ujawniać informacje poprzez ataki inwersji gradientu lub wnioskowania o przynależności. Połączenie uczenia federacyjnego z dodawaniem szumu prywatności różnicowej i protokołami bezpiecznej agregacji znacznie wzmacnia gwarancje prywatności, ale każda warstwa dodaje własne kompromisy dotyczące dokładności lub komunikacji.
Jak uczenie federacyjne radzi sobie z danymi nie-IID u klientów?
Standardowy FedAvg może rozbiegać się, gdy rozkłady danych klientów znacznie się od siebie różnią – zjawisko to nazywa się dryfem klienta. Środki zaradcze obejmują zwiększenie lokalnych rozmiarów paczek, zmniejszenie lokalnych epok, zastosowanie spersonalizowanych wariantów uczenia federacyjnego (takich jak FedProx lub SCAFFOLD) lub użycie momentum po stronie serwera. Dotkliwość zależy od stopnia heterogeniczności statystycznej między klientami.
Ilu klientów i rund zazwyczaj potrzeba do zbieżności?
McMahan et al. pokazali, że nawet przy małym ułamku klientów próbkowanych w każdej rundzie (np. 10 ze 100), FedAvg zbiega w ciągu dziesiątek do setek rund dla standardowych zadań. W praktyce liczba ta zależy od rozmiaru zbioru danych na klienta, stopnia nie-IID-ności, szybkości uczenia i liczby kroków gradientu lokalnego wykonanych przed każdą agregacją.
Pokrewne metody
Źródła
McMahan, B., Moore, E., Ramage, D., Hampson, S., & Arcas, B. A. (2017). Communication-efficient learning of deep networks from decentralized data. Artificial Intelligence and Statistics, 1273–1282.
Otwórz odnośnik do publikacjiSkopiowano.