Skip to content
Назад к результатам поиска

Федеративное обучение

Автор метода
McMahan et al.
Год
2017
Тип
Distributed privacy-preserving machine learning
Семейство
Privacy-preserving analysis

Этот текст переведён машинным способом и ещё не проверен. Читать оригинал на английском

Размер шрифта

Что он делает?

Федеративное обучение — это распределенная парадигма машинного обучения, представленная МакМаханом и др. в 2017 году, в которой глобальная модель совместно обучается на множестве децентрализованных клиентов — таких как мобильные устройства или больничные системы — без передачи необработанных данных на центральный сервер.

Каждый участник локально вычисляет обновления модели, используя свои приватные данные; только эти обновления, а не лежащие в их основе данные, передаются и агрегируются сервером для улучшения общей модели.

Интуиция метода

Представьте себе группу исследователей из разных больниц, каждый из которых изучает истории болезней пациентов, которыми они не могут делиться из-за законов о конфиденциальности. Вместо того чтобы объединять записи в одну базу данных, каждая больница обучает локальную версию модели на своих собственных пациентах, а затем отправляет только сводку того, что она узнала — а не сами записи — координатору, который объединяет все сводки в одну улучшенную модель. Никакие данные пациентов никогда не покидают исходное учреждение, но при этом учитывается коллективный интеллект каждой больницы.

История

Термин и фреймворк были введены МакМаханом и др. в Google в 2017 году, исходя из необходимости обучения языковых моделей на мобильных устройствах без загрузки конфиденциального текста. Фундаментальный алгоритм FedAvg продемонстрировал, что усреднение локально обученных весов является как коммуникационно-эффективным, так и конкурентоспособным по сравнению с централизованным обучением. Последующие исследования расширили федеративное обучение для обработки не IID данных, добавления формальных гарантий дифференциальной приватности, включения безопасных многосторонних вычислений для агрегации и применения парадигмы к сценариям межведомственного взаимодействия, таким как больничные сети.

Когда применять

Используйте федеративное обучение, когда обучающие данные распределены по многим клиентам и не могут быть централизованы из-за нормативных требований к конфиденциальности, ограничений на владение данными или затрат на связь — например, для мобильных клавиатур, медицинской визуализации в больницах или сетей датчиков Интернета вещей. Ключевые предположения включают достаточный объем локальных данных на каждого клиента и общую задачу для всех участников. Оно менее подходит, когда распределения данных клиентов сильно гетерогенны (не IID), пропускная способность связи сильно ограничена или когда требуются строгие формальные гарантии конфиденциальности, выходящие за рамки локальности данных (в этом случае рассмотрите возможность объединения с дифференциальной приватностью).

Ограничения и замечания

  • Сходимость может быть медленной и нестабильной, когда распределения данных клиентов сильно не IID.
  • Коммуникационные накладные расходы за множество раундов могут быть значительными в сетях с низкой пропускной способностью.
  • Обновления модели все еще могут раскрывать информацию о локальных данных посредством атак инверсии градиента или вывода членства.
  • Запоздалые и отключенные клиенты усложняют синхронную агрегацию и могут исказить глобальную модель.

Условия из источника не заменяют независимую научную проверку или валидацию аналитическим движком.

Сильные стороны

  • Сохраняет конфиденциальность данных по дизайну: необработанные данные никогда не покидают клиентское устройство или учреждение.
  • Масштабируется до миллионов гетерогенных периферийных устройств без централизации хранения.
  • Снижает затраты на передачу данных, поскольку передаются только обновления модели, а не наборы данных.
  • Позволяет обучаться на чувствительных доменах (здравоохранение, финансы), где обмен данными юридически ограничен.

Применение

  • Предсказание следующего слова и персонализация клавиатуры на мобильных устройствах без загрузки текста пользователя.
  • Обучение моделей медицинской визуализации в больницах, которые не могут обмениваться записями пациентов.
  • Обнаружение мошенничества между банками, обменивающимися поведенческими моделями, но не историями транзакций.
  • Модели восприятия автономных транспортных средств, обученные на парке автомобилей без централизации журналов датчиков.
  • Мониторинг здоровья носимыми устройствами, который изучает персональные базовые показатели, сохраняя биометрические данные на устройстве.

Как это работает

Как это работает

1

В начале каждого коммуникационного раунда сервер выбирает случайную подвыборку доступных клиентов и передает им текущие веса глобальной модели. Эта рассылка гарантирует, что все участвующие клиенты начинают локальные вычисления с общей отправной точки, что позволяет в дальнейшем проводить согласованную агрегацию. Выбор только подвыборки, а не всех клиентов, делает каждый раунд управляемым, даже когда зарегистрированы тысячи устройств.

Формула
w_t \rightarrow \text{subset } S_t \subset \{1,\ldots,N\}
2

Каждый выбранный клиент выполняет один или несколько шагов стохастического градиентного спуска на своем приватном локальном наборе данных, используя полученные глобальные веса в качестве отправной точки. Клиент вычисляет градиент своей локальной функции потерь и соответствующим образом обновляет веса. Только эти обновленные веса — а не необработанные градиенты или обучающие данные — подготавливаются для передачи обратно на сервер.

Формула
w_{t+1}^k = w_t - \eta \nabla \mathcal{L}_k(w_t)
3

Сервер собирает обновленные веса от всех участвующих клиентов и вычисляет взвешенное среднее, где вклад каждого клиента пропорционален размеру его локального набора данных относительно общего объема данных всех участников. Этот шаг федеративного усреднения (FedAvg) создает новую глобальную модель, которая включает информацию из приватных данных каждого клиента без утечки необработанных данных с устройств.

Формула
w_{t+1} = \sum_{k \in S_t} \frac{n_k}{n} w_{t+1}^k
4

Агрегированная глобальная модель оценивается по критерию сходимости, обычно по ограничению ожидаемых потерь относительно оптимальных потерь. Если критерий еще не удовлетворен, сервер увеличивает счетчик раундов и передает обновленную глобальную модель новой подвыборке клиентов, повторяя цикл до тех пор, пока модель не сойдется или не будет достигнуто максимальное количество раундов.

Формула
\mathbb{E}[\mathcal{L}(w_T)] \leq \mathcal{L}^* + \epsilon

Частые ошибки

  • Предположение, что федеративное обучение само по себе достаточно для обеспечения конфиденциальности: без дополнительных механизмов, таких как дифференциальная приватность или безопасная агрегация, обновления модели остаются уязвимыми.
  • Игнорирование гетерогенности данных: применение стандартного FedAvg к сильно не IID данным часто приводит к дрейфу клиентов и плохой производительности глобальной модели.
  • Неучет византийских или злонамеренных клиентов: небольшая доля враждебных участников может испортить агрегированную модель, если не применяется устойчивая агрегация.
  • Рассмотрение коммуникационных раундов как бесплатных: совокупная стоимость многих раундов по медленным каналам может перевесить выгоду от децентрализации.

Часто задаваемые вопросы

Гарантирует ли федеративное обучение полную конфиденциальность?

Само по себе нет. Хотя необработанные данные никогда не покидают клиентские устройства, обновления модели (градиенты) все еще могут раскрывать информацию посредством атак инверсии градиента или вывода членства. Объединение федеративного обучения с добавлением шума дифференциальной приватности и протоколами безопасной агрегации существенно усиливает гарантии конфиденциальности, но каждый слой добавляет свои компромиссы в точности или коммуникации.

Как федеративное обучение обрабатывает не IID данные между клиентами?

Стандартный FedAvg может расходиться, когда распределения данных клиентов сильно различаются — явление, называемое клиентским дрейфом. Средствами устранения являются увеличение размеров локальных пакетов, уменьшение локальных эпох, применение вариантов персонализированного федеративного обучения (таких как FedProx или SCAFFOLD) или использование серверного импульса. Серьезность зависит от степени статистической гетерогенности между клиентами.

Сколько клиентов и раундов обычно требуется для сходимости?

МакМахан и др. показали, что даже при выборке небольшой доли клиентов в каждом раунде (например, 10 из 100) FedAvg сходится за десятки или сотни раундов для стандартных задач. На практике количество зависит от размера набора данных на клиента, степени не IID-ности, скорости обучения и количества шагов градиента, выполненных локально перед каждой агрегацией.

Похожие методы

Источники

  1. McMahan, B., Moore, E., Ramage, D., Hampson, S., & Arcas, B. A. (2017). Communication-efficient learning of deep networks from decentralized data. Artificial Intelligence and Statistics, 1273–1282.

    Открыть ссылку на публикацию
    Скопировано.