前述のように、フェデレーション ラーニングと従来の中央集権型 ML の主な違いは、トレーニング プロセス中にデータがどこに保存されるかです。

• 従来の ML（中央集権型）: さまざまなソースからデータを収集し、クラウド サーバーやデータセンターなどの 1 か所に集めます。その後、この統合されたデータセットで ML モデルを直接トレーニングします。この方法には、データアクセスや開発の簡素化などの利点がありますが、中央データ リポジトリが侵害された場合、重大なプライバシー リスクや潜在的な脆弱性が生じる可能性もあります。
• フェデレーション ラーニング（分散型）: データを移動する代わりに、ML モデルをデータに送信し、参加者（クライアント）がローカルデータでモデルをトレーニングします。 その後、学習した重みや勾配などのモデルの更新情報のみが中央サーバーに返送され、集計されます。 このプロセスにより、グローバル モデルは、参加者から未加工の機密情報にアクセスすることなく、多様なデータセットから学習できます。

集中型 ML は確立されており、実装も容易なことが多いですが、フェデレーション ラーニングは、データ プライバシーの懸念に本質的に対処でき、帯域幅の要件を削減でき、規制や機密保持契約のためにアクセスできない可能性のあるデータでモデルをトレーニングできるため、注目を集めています。

フェデレーション ラーニングはさまざまなニーズに対応できます。主な違いは、データの分散方法や参加者のコラボレーション方法に由来することが多く、一般的なタイプは次のとおりです。

フェデレーション ラーニングは、中央のコーディネーター（通常はサーバー）と複数の参加クライアント（デバイスまたは組織）が関与する反復プロセスを通じて機能します。一般的なワークフローは、次の主要なステップに分けることができます。

このプロセスは、中央サーバーがグローバル ML モデルを初期化することから始まります。このモデルは、共同トレーニングの出発点となります。その後、サーバーは参加しているクライアント デバイスの選択されたサブセットにこのグローバル モデルを配布します。

選択された各クライアント デバイスはグローバル モデルを受け取ります。クライアントは、独自のローカルデータを使用してモデルをトレーニングし、そのローカルデータセットに存在するパターンと情報に基づいてパラメータを更新します。重要なのは、このステップ全体を通して、生データがクライアント デバイス上に残り、サーバーに送信されないことです。

ローカルでのトレーニング後、各クライアントは更新されたモデル パラメータ（勾配や重みなど）を中央サーバーに返します。これらの更新は、モデルがローカルデータから学習した内容を表しますが、データ自体は公開されません。

中央サーバーは、複数のクライアントからモデルの更新情報を受け取ります。その後、これらの更新を（多くの場合、平均化によって）集約し（一般的な方法として、フェデレーション アベレージング（FedAvg）があります）、グローバル モデルの新しい改良版を作成します。この集計されたモデルは、参加しているすべてのクライアントの集合的な学習の恩恵を受けます。

その後、サーバーは新しく更新されたグローバル モデルを、新しい（または同じ）クライアントのセットに配布し、ローカル トレーニングの別のラウンドを行います。このサイクルが複数回繰り返され、グローバル モデルは各イテレーションで徐々に改良され、目的の精度レベルまたは収束に達するまで続きます。

一般的なフェデレーション ラーニング システムは、相互接続されたいくつかの要素で構成されています。

データ保持とローカルモデルのトレーニングを行う個々のデバイスまたは組織です。クライアントは、携帯電話や IoT デバイスから病院や金融機関まで多岐にわたります。クライアントは、ローカルでモデルを実行し、パラメータの更新を生成する責任を負います。

中央サーバーは、フェデレーション ラーニング プロセスのオーケストレーターとして機能します。グローバル モデルを初期化して配布し、クライアントからモデルの更新情報を収集し、これらの更新情報を集計してグローバル モデルを改良し、更新されたモデルを再配布します。クライアントの生データに直接アクセスすることはありません。

これは、クライアントとサーバーが情報を交換する方法を定義するもので、主にモデルのパラメータと更新です。特に、膨大な数のクライアントとさまざまなネットワーク状況が想定されるため、効率的かつ安全な通信プロトコルが重要です。

これは、中央サーバーがさまざまなクライアントから受け取ったモデルの更新を結合するために使用する方法です。フェデレーション平均などのアルゴリズムが一般的に使用され、重みや勾配を平均化して、単一の改善されたグローバル モデルを作成します。

フェデレーション ラーニングにはメリットがある一方で、慎重に検討する必要がある固有の潜在的な課題もあります。

• データとデバイスの異質性: フェデレーション ラーニング ネットワークのクライアントは、データ分布（非独立同分布、または非 IID データ）とコンピューティング能力（デバイス ハードウェア、ネットワーク接続）の点で大きく異なる場合があります。この多様性は、モデルの収束と全体的なパフォーマンスに影響を与える可能性があります。
• 通信オーバーヘッド: 一元的なデータ転送に比べて削減されるものの、フェデレーション ラーニングでは、クライアントとサーバー間の頻繁な通信が依然として必要です。特にクライアントの数が多かったり、ネットワークの信頼性が低かったりする場合、この通信を効率的に管理することは依然として技術的な課題となる可能性があります。
• セキュリティとプライバシーの脆弱性: プライバシーを保護するように設計されているとはいえ、フェデレーション ラーニングはすべてのセキュリティ脅威に対して免疫があるわけではありません。モデルの更新自体が、推論攻撃やデータポイズニングなどの高度な手法を通じて、ローカル データに関する情報を漏洩させる可能性があります。差分プライバシーや安全な集約などの堅牢なセキュリティ対策が、これらのリスクを軽減するために採用されることが多いですが、精度や計算コストとのトレードオフが生じる可能性があります。
• モデルドリフト: 時間の経過とともに、個々のクライアント デバイスのデータ分布が変化し、ローカルモデルがグローバルモデルから逸脱する「モデルドリフト」が発生する可能性があります。これに対処するには、継続的な適応やパーソナライズされたフェデレーション ラーニング アプローチのためのメカニズムが必要です。

フェデレーション ラーニングを使用すると、ユーザーはさまざまなドメインで、プライバシーの保護を維持する高度なアプリケーションを構築できます。フェデレーション ラーニングの潜在的なユースケースには、次のようなものがあります。

ユーザーは、フェデレーション ラーニングを活用して、プライバシーを侵害することなくユーザーデータから学習するモバイルアプリを構築できます。これは、キーボードの予測テキスト（Gboard など）、次の単語の提案、パーソナライズされたおすすめ、デバイス上の音声認識などの機能に不可欠です。開発者は、ユーザーのデバイスで直接モデルをトレーニングすることで、個々のインタラクション パターンに適応してアプリの機能とユーザー エクスペリエンスを向上させることができます。同時に、機密性の高い個人データはローカルに保持され、保護されるため、GDPR や HIPAA などの規制に準拠できます。

フェデレーション ラーニングにより、ユーザーは、さまざまな組織にデータがサイロ化されている企業向けの共同 AI システムを構築できます。これは、プライバシー規制や専有権の問題によりデータ共有が制限されているヘルスケアや金融などの分野で非常に貴重です。ユーザーは、複数の機関（医療研究のための病院、不正行為の検出のための銀行など）が、未加工の情報を公開することなく、結合されたデータで共有モデルをトレーニングできるプラットフォームを構築できます。これにより、コラボレーションが促進され、多様なデータセットを通じてモデルの精度が向上し、厳格なコンプライアンス要件を満たすことができます。

モノのインターネット（IoT）デバイスや産業用 IoT（IIoT）デバイスを扱うユーザーにとって、フェデレーション ラーニングはエッジにインテリジェンスを組み込むための強力な方法となります。これにより、産業機器の予測メンテナンス、センサー ネットワークの異常検出、スマートシティのリソース使用量の最適化などのアプリケーションを作成できます。モデルは、エッジデバイス上で、分散センサーや機械によって生成されたデータで直接トレーニングできます。このアプローチにより、通信オーバーヘッドが削減され、リアルタイムの分析情報が得られるようになります。また、機密性の高い運用データが安全な工場またはデバイスの境界内に保持されるため、専有情報の維持に不可欠です。

ユーザーは、フェデレーション ラーニングを使用して、分散された機密性の高いデータセットから分析情報を引き出す必要がある企業向けの堅牢なデータ分析プラットフォームを構築できます。これにより、データを一元化せずに分析モデルをトレーニングして実行できるため、GDPR、CCPA、HIPAA などの規制の遵守に大きく役立ちます。組織は、厳格なデータ ガバナンスとセキュリティ プロトコルを維持しながら、さまざまな部門やエンティティにわたって貴重なビジネス インテリジェンスを獲得し、傾向を特定し、予測モデルを構築できます。

フェデレーション ラーニングを適用することで、よりレジリエントで効果的なサイバーセキュリティ ソリューションを構築できます。多数のエンドポイント（コンピュータ、サーバー、モバイル デバイスなど）でモデルをトレーニングして、マルウェアの検出、ネットワーク侵入の特定、不審なアクティビティのフラグ付けを行うことができます。その際、個々のシステムから機密データを流出させる必要はありません。この分散型トレーニング アプローチでは、より幅広いネットワーク動作とローカル セキュリティ イベントから学習することで、より包括的な脅威検出機能を実現できます。その一方で、個々のユーザーやシステムのプライバシーは尊重されます。

フェデレーション ラーニングをより簡単に使用できるように、オープンソースと商用のフレームワークがいくつか登場しています。これらのツールは、さまざまなデバイス間でのトレーニングの処理、デバイス間の通信方法、データのプライバシーの保護方法など、開発者に必要なものを提供します。

• TensorFlow Federated（TFF）: Google が開発した TFF は、分散データに基づく ML やその他の計算のためのオープンソース フレームワークです。TensorFlow とシームレスに統合されており、フェデレーション トレーニングのシミュレーションや新しいフェデレーション ラーニング アルゴリズムの構築に最適です。
• PySyft: OpenMined エコシステムの一部である PySyft は、プライバシー保護 AI に重点を置いた Python ライブラリです。フェデレーション ラーニングを可能にし、PyTorch や TensorFlow などの一般的なディープ ラーニング フレームワークと連携して、差分プライバシーや安全なマルチパーティ コンピューティング（SMPC）などの手法をサポートします。
• Flower: Flower は、フレームワークに依存しない、カスタマイズ性の高いフェデレーション ラーニング用フレームワークです。PyTorch、TensorFlow、scikit-learn などのあらゆる ML ライブラリと連携するため、さまざまな ML スタックを持つチームに最適です。
• NVIDIA FLARE: このフレームワークは医療画像とゲノミクス向けに設計されており、医療分野での共同 AI 開発を可能にします。また、自動運転車などのアプリケーションでも使用されています。
• FATE（Federated AI Technology Enabler）: WeBank が開発した FATE は、準同型暗号化などの高度なプライバシー技術を使用したフェデレーション ラーニングをサポートする、企業向けのプラットフォームです。ワークフローを管理するためのウェブベースのインターフェースを提供します。
• Substra: 当初は複数のパートナーが参加する医療研究プロジェクトのために開発されましたが、現在は Linux Foundation がホストしています。特に医療分野に強く、データの所有権、プライバシー、トレーサビリティを重視しています。

フェデレーション ラーニングの分野は急速に進化しています。現在の研究では、データの異質性やシステムの異質性に対する堅牢性の向上、より高度なプライバシー保護技術の開発、より効率的な通信プロトコルの作成、真にパーソナライズされたフェデレーション ラーニング体験の実現など、その課題に対処することに重点が置かれています。AI が機密性の高い分野に統合されるにつれて、フェデレーション ラーニングは、安全でプライベートな、共同のインテリジェンスを実現するうえで、さらに重要な役割を果たすようになります。現在、多くの場合、中央サーバーがフェデレーション ラーニング システムをオーケストレートしていますが、将来の開発では、より真に分散化された、またはピアツーピアのフェデレーション ラーニング アプローチが検討される可能性が高く、堅牢性、拡張性が向上し、単一障害点が排除されます。