Federated Learning(連合学習)
- 提唱者
- McMahan et al.
- 年
- 2017
- 種類
- Distributed privacy-preserving machine learning
- 系統
- Privacy-preserving analysis
この文章は機械翻訳で、まだ確認されていません。 英語の原文を読む
何をする手法か?
Federated Learning(連合学習)は、McMahanらによって2017年に導入された分散型機械学習パラダイムであり、生データを中央サーバーに転送することなく、モバイルデバイスや病院システムなどの複数の分散型クライアント間でグローバルモデルを共同でトレーニングします。各参加者は、プライベートデータを使用してローカルでモデル更新を計算します。それらの更新のみが、基になるデータではなく、サーバーによって通信および集計され、共有モデルを改善します。
手法の背後にある直感
プライバシー法により共有できない患者記録をそれぞれ研究している異なる病院の研究者グループを想像してください。記録を単一のデータベースにプールする代わりに、各病院は自身の患者に対してモデルのローカルバージョンをトレーニングし、学習したことの要約のみ(記録自体ではなく)を、すべての要約をブレンドして1つの改善されたモデルを作成するコーディネーターに送信します。患者データが生じた場所から離れることはありませんが、すべての病院の集合知が捉えられます。
歴史学
この用語とフレームワークは、機密性の高いテキストをアップロードせずにモバイルデバイスで言語モデルをトレーニングする必要性から、2017年にGoogleのMcMahanらによって導入されました。基本的なFedAvgアルゴリズムは、ローカルでトレーニングされた重みを平均化することが、通信効率が高く、中央集権化されたトレーニングと同等であることを示しました。その後の研究では、連合学習をnon-IIDデータを処理するように拡張し、正式な差分プライバシー保証を追加し、セキュアなマルチパーティ計算を集計に組み込み、病院ネットワークなどのクロスサイロ設定にパラダイムを適用しました。
使うべき場面
プライバシー規制、データ所有権の制約、または通信コストのためにデータを中央集権化できない場合に、トレーニングデータが多数のクライアントに分散している場合にFederated Learning(連合学習)を使用します。たとえば、モバイルキーボード、病院間の医療画像、またはIoTセンサーネットワークなどです。主な仮定には、クライアントごとの十分なローカルデータと、すべての参加者間での共有タスクが含まれます。クライアントデータの分布が非常に異質(non-IID)である場合、通信帯域幅が著しく制限されている場合、またはデータローカリティを超えた強力な正式なプライバシー保証が必要な場合(その場合は差分プライバシーとの組み合わせを検討してください)には、あまり適していません。
限界と注意点
- クライアントデータの分布が非常にnon-IIDである場合、収束が遅く不安定になる可能性があります。
- 多数のラウンドにわたる通信オーバーヘッドは、低帯域幅ネットワークでは大きくなる可能性があります。
- モデルの更新は、勾配逆問題またはメンバーシップ推論攻撃を通じて、ローカルデータに関する情報を依然として漏洩する可能性があります。
- ストラグラー(遅延クライアント)とドロップされたクライアントは、同期集計を複雑にし、グローバルモデルを偏らせる可能性があります。
出典に示された条件は、独立した科学的レビューや分析エンジンによる検証の代わりにはなりません。
強み
- 生のデータがクライアントデバイスまたは機関から決して離れないため、設計によりデータプライバシーを保護します。
- ストレージを中央集権化することなく、数百万の異種エッジデバイスにスケーリングします。
- モデルの更新のみが通信され、データセットは通信されないため、データ転送コストを削減します。
- データ共有が法的に制限されている(ヘルスケア、金融)機密ドメインからの学習を可能にします。
応用
- ユーザーテキストをアップロードせずにモバイルデバイスでの次単語予測およびキーボードパーソナライゼーション。
- 患者記録を共有できない病院間での医療画像モデルトレーニング。
- 行動パターンは共有するがトランザクション履歴は共有しない銀行間での不正検出。
- センサーログを中央集権化せずにフリート全体でトレーニングされた自律走行車の認識モデル。
- バイオメトリックデータをオンデバイスに保持しながら、個人のベースラインを学習するウェアラブルヘルスモニタリング。
使い方
使い方
各通信ラウンドの開始時に、サーバーは利用可能なクライアントのランダムなサブセットを選択し、現在のグローバルモデルの重みをそれらに送信します。このブロードキャストにより、すべての参加クライアントが共通の開始点からローカル計算を開始し、後で一貫した集計が可能になります。すべてのクライアントではなくサブセットのみを選択することで、数千のデバイスが登録されていても、各ラウンドは管理可能になります。
数式
w_t \rightarrow \text{subset } S_t \subset \{1,\ldots,N\}選択された各クライアントは、受信したグローバル重みを開始点として、プライベートなローカルデータセットで1つ以上のステップの確率的勾配降下法を実行します。クライアントは、ローカル損失関数の勾配を計算し、それに応じて重みを更新します。更新されたこれらの重みのみが、生の勾配やトレーニングデータではなく、サーバーへの送信のために準備されます。
数式
w_{t+1}^k = w_t - \eta \nabla \mathcal{L}_k(w_t)サーバーは、参加しているすべてのクライアントから更新された重みを収集し、重み付き平均を計算します。ここで、各クライアントの寄与は、すべての参加者にわたる総データ量に対するローカルデータセットサイズの比率に比例します。このFederated Averaging(FedAvg)ステップは、生のデータがデバイスから離れることなく、各クライアントのプライベートデータからの情報を取り込んだ新しいグローバルモデルを生成します。
数式
w_{t+1} = \sum_{k \in S_t} \frac{n_k}{n} w_{t+1}^k集計されたグローバルモデルは、通常、最適な損失に対する期待損失の境界である収束基準に対して評価されます。基準がまだ満たされていない場合は、サーバーはラウンドカウンターをインクリメントし、更新されたグローバルモデルを新しいクライアントサブセットにブロードキャストし、モデルが収束するか、最大ラウンド数に達するまでサイクルを繰り返します。
数式
\mathbb{E}[\mathcal{L}(w_T)] \leq \mathcal{L}^* + \epsilonよくある落とし穴
- 連合学習単独でプライバシーに十分であると仮定すること:差分プライバシーやセキュア集計などの追加メカニズムなしでは、モデル更新は脆弱なままです。
- データの異質性を無視すること:厳密にnon-IIDデータに標準FedAvgを適用すると、クライアントドリフトやグローバルモデルのパフォーマンス低下につながることがよくあります。
- ビザンチンまたは悪意のあるクライアントを見落とすこと:少数の敵対的な参加者が、堅牢な集計が適用されない場合、集計されたモデルを破損させる可能性があります。
- 通信ラウンドを無料と見なすこと:遅いリンクでの多数のラウンドの累積コストは、分散化のメリットを上回る可能性があります。
よくある質問
Federated Learning(連合学習)は完全なプライバシーを保証しますか?
それ自体では保証しません。生のデータはクライアントデバイスから離れることはありませんが、モデルの更新(勾配)は、勾配逆問題またはメンバーシップ推論攻撃を通じて情報を漏洩する可能性があります。Federated Learning(連合学習)に差分プライバシーノイズ追加とセキュア集計プロトコルを組み合わせることでプライバシー保証が大幅に強化されますが、各レイヤーは独自の精度または通信のトレードオフを追加します。
Federated Learning(連合学習)は、クライアント間のnon-IIDデータをどのように処理しますか?
標準FedAvgは、クライアントデータの分布が互いに大きく異なる場合(クライアントドリフトと呼ばれる現象)に発散する可能性があります。解決策としては、ローカルバッチサイズを増やす、ローカルエポックを減らす、パーソナライズされたFederated Learning(連合学習)バリアント(FedProxやSCAFFOLDなど)を適用する、またはサーバーサイドのモーメンタムを使用するなどがあります。深刻度は、クライアント間の統計的異質性の程度に依存します。
収束には通常、いくつのクライアントとラウンドが必要ですか?
McMahanらによると、各ラウンドでサンプリングされるクライアントの割合が小さい(例:100台中10台)場合でも、FedAvgは標準的なタスクで数十から数百ラウンド以内に収束することが示されています。実際には、その数は、クライアントあたりのデータセットサイズ、non-IID性の程度、学習率、および各集計の前に行われるローカル勾配ステップの数に依存します。
関連する手法
参考文献
McMahan, B., Moore, E., Ramage, D., Hampson, S., & Arcas, B. A. (2017). Communication-efficient learning of deep networks from decentralized data. Artificial Intelligence and Statistics, 1273–1282.
出版物の文献を開くコピーしました。