前述のように、フェデレーション ラーニングと従来の中央集権型 ML の主な違いは、トレーニング プロセス中にデータがどこに存在するかです。

• 従来の ML（中央集権型）: さまざまなソースからデータを収集し、クラウド サーバーやデータセンターなどの 1 か所に集めます。その後、この統合されたデータセットで ML モデルを直接トレーニングします。この方法には、データへの直接アクセスや開発の簡素化などの利点がありますが、中央データ リポジトリが侵害された場合、重大なプライバシー リスクや潜在的な脆弱性が生じる可能性もあります。
• フェデレーション ラーニング（分散型）: データを移動する代わりに、ML モデルをデータに送信し、参加者（クライアント）がローカルデータでモデルをトレーニングします。 その後、学習した重みや勾配などのモデルの更新情報のみが中央サーバーに返送され、集計されます。 このプロセスにより、グローバル モデルは、参加者から未加工の機密情報にアクセスすることなく、多様なデータセットから学習できます。

集中型 ML は確立されており、実装も容易な場合が多いですが、フェデレーション ラーニングは、データ プライバシーの懸念に本質的に対処でき、帯域幅の要件を削減でき、規制や機密保持契約のためにアクセスできない可能性のあるデータでモデルをトレーニングできるため、注目を集めています。

フェデレーション ラーニングはさまざまなニーズに対応できます。主な違いは、データの分散方法や参加者のコラボレーション方法に起因することがよくあります。一般的なタイプを以下に示します。

フェデレーション ラーニングは、中央のコーディネーター（通常はサーバー）と複数の参加クライアント（デバイスまたは組織）が関与する反復プロセスを通じて機能します。一般的なワークフローは、次の主要なステップに分けることができます。

このプロセスは、中央サーバーがグローバル ML モデルを初期化することから始まります。このモデルは、共同トレーニングの出発点として機能します。その後、サーバーは、このグローバル モデルを、参加しているクライアント デバイスの選択されたサブセットに配布します。

選択された各クライアント デバイスがグローバル モデルを受け取ります。クライアントは、独自のローカルデータを使用してモデルをトレーニングし、そのローカルデータセットに存在するパターンと情報に基づいてパラメータを更新します。重要なのは、このステップ全体を通して、生データはクライアント デバイスに残り、サーバーに送信されることはないということです。

ローカルでのトレーニング後、各クライアントは更新されたモデル パラメータ（勾配や重みなど）を中央サーバーに返します。これらの更新は、モデルがローカルデータから学習した内容を表しますが、データ自体は公開されません。

中央サーバーは、複数のクライアントからモデルの更新情報を受け取ります。その後、これらの更新を多くの場合平均化（一般的な手法はフェデレーション平均化、または FedAvg）して集計し、グローバル モデルの新しい改良版を作成します。この集計されたモデルは、参加しているすべてのクライアントの集合的な学習の恩恵を受けます。

その後、サーバーは、この新しく更新されたグローバル モデルを、新しい（または同じ）クライアントのセットに再配布し、ローカル トレーニングをもう一度行います。このサイクルが複数回繰り返され、各イテレーションでグローバル モデルが徐々に改良されて、目的の精度レベルまたは収束に達します。

一般的なフェデレーション ラーニング システムは、相互接続されたいくつかの要素で構成されています。

これらは、データを保持し、ローカルでモデルのトレーニングを行う個々のデバイスまたは組織です。クライアントは、携帯電話や IoT デバイスから病院や金融機関まで多岐にわたります。モデルをローカルで実行し、パラメータの更新を生成する役割を担います。

中央サーバーは、フェデレーション ラーニング プロセスのオーケストレーターとして機能します。グローバル モデルを初期化して配布し、クライアントからモデルの更新を収集し、これらの更新を集計してグローバル モデルを改良し、更新されたモデルを再配布します。クライアントの生データに直接アクセスすることはありません。

これは、クライアントとサーバーが情報を交換する方法を定義するもので、主にモデルのパラメータと更新です。特に、クライアント数が膨大になる可能性があり、ネットワークの状況もさまざまになることを考えると、効率的で安全な通信プロトコルが重要になります。

これは、中央サーバーがさまざまなクライアントから受け取ったモデルの更新を結合するために使用する方法です。フェデレーション平均などのアルゴリズムが一般的に使用され、重みや勾配を平均化して、単一の改善されたグローバル モデルを作成します。

フェデレーション ラーニングにはメリットがある一方で、慎重に検討する必要がある固有の潜在的な課題もあります。

• データとデバイスの異質性: フェデレーション ラーニング ネットワークのクライアントは、データの分布（独立同分布ではないデータ、つまり非 IID データ）とコンピューティング能力（デバイスのハードウェア、ネットワーク接続）が大きく異なる場合があります。この多様性は、モデルの収束と全体的なパフォーマンスに影響を与える可能性があります。
• 通信オーバーヘッド: 一元的なデータ転送に比べて削減されるものの、フェデレーション ラーニングでは、クライアントとサーバー間の頻繁な通信が依然として必要です。特にクライアントの数が多かったり、ネットワークの信頼性が低かったりする場合、この通信を効率的に管理することは依然として技術的な課題となります。
• セキュリティとプライバシーの脆弱性: プライバシーを重視して設計されているとはいえ、フェデレーション ラーニングはすべてのセキュリティ脅威に対して免疫があるわけではありません。モデルの更新自体が、推論攻撃やデータポイズニングなどの高度な手法を通じて、ローカル データに関する情報を漏洩させる可能性があります。差分プライバシーや安全な集計などの堅牢なセキュリティ対策が、こうしたリスクを軽減するために採用されることがよくあります。ただし、精度や計算コストとのトレードオフが生じる可能性があります。
• モデルドリフト: 時間の経過とともに、個々のクライアント デバイスのデータ分布が変化し、ローカルモデルがグローバル モデルから逸脱する「モデルドリフト」が発生する可能性があります。これに対処するには、継続的な適応のためのメカニズムや、パーソナライズされたフェデレーション ラーニング アプローチが必要です。

フェデレーション ラーニングにより、ユーザーはさまざまな分野で、プライバシーを保護する高度なアプリケーションを構築できます。フェデレーション ラーニングのユースケースには、次のようなものがあります。

ユーザーは、フェデレーション ラーニングを活用して、プライバシーを侵害することなくユーザーデータから学習するモバイルアプリを構築できます。これは、キーボードの予測変換（Gboard など）、次の単語の提案、パーソナライズされたおすすめ、デバイス上の音声認識などの機能に不可欠です。開発者は、ユーザーのデバイスで直接モデルをトレーニングすることで、個々のインタラクション パターンに適応してアプリの機能とユーザー エクスペリエンスを向上させることができます。同時に、機密性の高い個人データはローカルに保持され、保護されるため、GDPR や HIPAA などの規制に準拠できます。

フェデレーション ラーニングにより、ユーザーは、さまざまな組織にわたってデータがサイロ化されている企業向けの共同 AI システムを作成できます。これは、プライバシー規制や所有権に関する懸念からデータ共有が制限されている医療や金融などの分野では非常に貴重です。ユーザーは、複数の機関（医療研究のための病院、不正行為検出のための銀行など）が、未加工の情報を公開することなく、結合されたデータで共有モデルをトレーニングできるプラットフォームを構築できます。これにより、コラボレーションが促進され、多様なデータセットを通じてモデルの精度が向上し、厳格なコンプライアンス要件を満たすことができます。

モノのインターネット（IoT）や産業用 IoT（IIoT）デバイスを扱うユーザーにとって、フェデレーション ラーニングはエッジにインテリジェンスを組み込むための強力な方法となります。これにより、産業機器の予測メンテナンス、センサー ネットワークの異常検出、スマートシティのリソース使用量の最適化などのアプリケーションを作成できます。モデルは、エッジデバイス上で直接、分散センサーや機械によって生成されたデータでトレーニングできます。このアプローチにより、通信オーバーヘッドが削減され、リアルタイムの分析情報が得られるようになります。また、機密性の高い運用データが安全な工場またはデバイスの境界内に保持されるため、専有情報の維持に不可欠です。

ユーザーは、フェデレーション ラーニングを使用して、分散された機密性の高いデータセットから分析情報を引き出す必要がある企業向けの堅牢なデータ分析プラットフォームの構築を支援できます。これにより、データを一元化せずに分析モデルをトレーニングして実行できるようになり、GDPR、CCPA、HIPAA などの規制の遵守に大きく役立ちます。これにより、組織は厳格なデータ ガバナンスとセキュリティ プロトコルを維持しながら、さまざまな部門やエンティティにわたって貴重なビジネス インテリジェンスを獲得し、トレンドを特定し、予測モデルを構築できます。

フェデレーション ラーニングを適用して、よりレジリエントで効果的なサイバーセキュリティ ソリューションを構築できます。モデルは、多数のエンドポイント（コンピュータ、サーバー、モバイル デバイスなど）でトレーニングして、個々のシステムから機密データを流出させることなく、マルウェアの検出、ネットワーク侵入の特定、不審なアクティビティのフラグ付けを行うことができます。この分散型トレーニング アプローチにより、個々のユーザーやシステムのプライバシーを尊重しながら、より幅広いネットワーク動作やローカル セキュリティ イベントから学習することで、より包括的な脅威検出機能を実現できます。

フェデレーション ラーニングをより簡単に使用できるように、オープンソースと商用のフレームワークがいくつか登場しています。これらのツールは、さまざまなデバイスでのトレーニングの処理、デバイス間の通信、データのプライバシーの保護に必要なものをデベロッパーに提供します。

• TensorFlow Federated（TFF）: Google が開発した TFF は、分散データに基づく ML やその他の計算のためのオープンソース フレームワークです。TensorFlow とシームレスに統合されており、フェデレーション トレーニングのシミュレーションや新しいフェデレーション ラーニング アルゴリズムの構築に最適です。
• PySyft: OpenMined エコシステムの一部である PySyft は、プライバシー保護 AI に重点を置いた Python ライブラリです。フェデレーション ラーニングを可能にし、PyTorch や TensorFlow などの一般的なディープ ラーニング フレームワークと連携して、差分プライバシーや安全なマルチパーティ コンピューティング（SMPC）などの手法をサポートします。
• Flower: Flower は、フレームワークに依存しない、カスタマイズ性の高いフェデレーション ラーニング用フレームワークです。PyTorch、TensorFlow、scikit-learn などのあらゆる ML ライブラリに対応しているため、さまざまな ML スタックを使用するチームにとって汎用性が高いソリューションです。
• NVIDIA FLARE: このフレームワークは医療画像処理とゲノミクス向けに設計されており、ヘルスケアにおける共同 AI 開発を可能にします。自動運転車などのアプリケーションでも使用されています。
• FATE（Federated AI Technology Enabler）: WeBank が開発した FATE は、準同型暗号化などの高度なプライバシー技術を使用したフェデレーション ラーニングをサポートする、企業向けのプラットフォームです。ワークフローを管理するためのウェブベースのインターフェースが用意されています。
• Substra: 当初は複数のパートナーが参加する医療研究プロジェクトのために開発されましたが、現在は Linux Foundation がホストしています。特に医療分野で強みを発揮し、データの所有権、プライバシー、トレーサビリティを重視しています。

フェデレーション ラーニングの分野は急速に進化しています。現在の研究では、データの堅牢性とシステムの異質性の向上、より高度なプライバシー保護技術の開発、より効率的な通信プロトコルの作成、真にパーソナライズされたフェデレーション ラーニング エクスペリエンスの実現など、その課題に対処することに重点が置かれています。AI が機密性の高い分野に統合されるにつれて、フェデレーション ラーニングは、安全でプライベートな、共同のインテリジェンスを実現するうえで、さらに重要な役割を果たすようになります。現在、多くの場合、中央サーバーがフェデレーション ラーニング システムをオーケストレートしていますが、将来の開発では、より真に分散化された、またはピアツーピアのフェデレーション ラーニング アプローチが検討される可能性が高く、堅牢性、拡張性が向上し、単一障害点が排除されます。