Google Cloud、2026 年 Gartner® Magic Quadrant™ の AI インフラストラクチャ部門でリーダーに選出

※この投稿は米国時間 2026 年 7 月 9 日に、Google Cloud blog に投稿されたものの抄訳です。

エージェントの時代では、AI は質問に答えるだけでなく、推論して行動するよう進化しています。AI の次のフェーズで主導的な役割を担おうとしている企業は、こうした新しい要件に合わせて設計、最適化されたコンピューティング インフラストラクチャを必要としています。これは、イノベーションの加速、ユーザーや顧客への魅力的なエクスペリエンスの提供、費用対効果とエネルギー効率の最適化をすべて大規模に実現できるようにするものです。

このたび、Google が、新設された GartnerⓇ Magic Quadrant™ の AI インフラストラクチャ部門でリーダーに選出され、「実行能力」と「ビジョンの完全性」で最も高い評価を得ました。この結果は、Google が社内およびお客様のためにこれらの課題を解決することに尽力してきたことが認められたものと考えています。

Gemini で使用されるインフラストラクチャ基盤の構築

現在のモデルとサービングのアーキテクチャでは、シリコンとソフトウェアの相互作用を根本的に見直すことが求められます。Google は、構想していたプラットフォームは既製品として購入できるものではなく、自社開発する必要があることを早い段階で認識していました。10 年以上にわたり、Google のインフラストラクチャ エンジニアと Google DeepMind の研究者は肩を並べて、Gemini、YouTube、検索のスタック全体を共同設計してきました。Google は、そうしたイノベーションを、よく利用されているサードパーティ製ソフトウェアやオープンソース ソフトウェアとともに、Google Cloud を通じてお客様に提供しています。現在、Google の統合スタックは、フロンティア AI ラボの 10 社中 9 社、Citadel Securities などの資本市場企業、Mercedes Benz などの企業にサービスを提供しています。

ハードウェア レイヤでは、カスタム シリコンへの取り組みが主な強みとして Gartner に評価されました。Google は今年、カスタム シリコンの 2 つの新しい進歩について発表しました。この第 8 世代 TPU は、システムレベルで企業のスケーリングとメモリのボトルネックを解決するように設計されています。

• TPU 8t（トレーニングの原動力）: トレーニングのタイムラインを最適化するために専用設計された TPU 8t は、1 つの Superpod に 9,600 個のチップを搭載し、Pod あたり前世代の約 3 倍のコンピューティング パフォーマンスで、フロンティア モデルに必要な高密度のコンピューティングを実現します。

• TPU 8i（推論エンジン）: 専門エージェントの反復的な共同作業を処理するように設計された TPU 8i は、288 GB の高帯域幅メモリと 384 MB のオンチップ SRAM（前世代の 3 倍）により、リアルタイムのエージェント ワークフローのメモリウォールを克服し、モデルのアクティブなワーキング セットを完全にオンチップで保持します。

Google の TPU プラットフォームは、可能なことの限界を押し広げますが、万能なプラットフォームというものは存在しません。お客様によってワークロード、要件、ユースケースは異なります。そのため、Google は NVIDIA とも緊密に連携し、最新のアクセラレーテッド コンピューティング プラットフォームを、Google Cloud の高性能で信頼性が高くスケーラブルなサービスとして提供しています。Google は、今年後半に提供される次世代の Vera Rubin プラットフォームをベースにした A5X インスタンスをいち早く提供し、お客様が選択できるようにします。また、Google は NVIDIA と緊密に連携して、GPU を多くの Google Cloud ソフトウェア サービスに統合し、お客様がアクセラレーテッド コンピューティングに簡単にアクセスできるようにしています。

さらに柔軟性を高めるために、Google は llm-d と vLLM を通じて、オーケストレーション、推論エンジン、フレームワークの各レイヤにわたるオープンソース プロジェクトに貢献し続けています。また、先日発表された TorchTPU を使用すると、PyTorch デベロッパーは複雑なコードの書き換えなしで移植性を確保し、デプロイのパフォーマンスを最大化できます。

AI Hypercomputer でコスト パフォーマンスが向上

インフラストラクチャへの投資が増えるにつれて、AI アプリケーションを経済的に実現可能にするために、本来のパフォーマンスと費用のバランスを取る必要があります。AI を「今購入して後で統合する」というアプローチで導入することは、持続可能ではなくなりつつあります。Google は、柔軟な使用量モデルを特徴とする事前統合されたハードウェアとオープン ソフトウェアのフレームワークを組み合わせることで、トレーニング、強化学習、推論にわたりコスト パフォーマンスを向上させるように設計された統合システムを提供します。

Gartner は、Google の統合された AI Hypercomputer を主な強みとして評価しました。この AI 向けに最適化されたインフラストラクチャは、1 ドルあたりのパフォーマンスを大幅に高めるように設計されています。

• 大規模なコンピューティング クラスタは、データを提供するストレージ システムの性能によってその効果が左右されます。Google Cloud Managed Lustre は、新しい C4NX インスタンスと Hyperdisk Exapools を活用して、現在 10 TB/秒の帯域幅を実現しています。これは、他のハイパースケーラーの最大 20 倍の速度です。一方、Rapid Bucket は、1 秒あたり最大 2,000 万回のオペレーションでオブジェクト ストレージを変革し、大規模なトレーニング チェックポイントとリカバリーをほぼ即座に実現します。

• Google の Virgo Network は、複数のデータセンター サイトにわたって 100 万個を超える TPU をトレーニング クラスタに接続できる、または複数のサイトにわたって 最大 96 万個の GPU をパフォーマンスを低下させることなく接続できる、高帯域幅のスケールアウト ファブリックを提供します。これにより、グローバルに分散されたインフラストラクチャが統合されたスーパーコンピュータに変わります。

• GKE Inference Gateway は、LLM 対応ルーティング、キャッシュ保存、llm-d の分離型サービング機能を組み合わせることで、本番環境でモデルをほぼゼロのレイテンシでスケールし、スループットを最大 40% 向上させながら、サービング費用を最大 30% 削減します。

事実上規模を問わず流動的なインフラストラクチャ上で AI を実行

エージェントの時代において、インフラストラクチャは硬直的、静的な制約であってはなりません。ビジネスの優先順位の変化に適応し、需要に応じてスケールアップし、エージェントがアイドル状態のときはゼロまでスケールダウンしながら、一貫した信頼性の高いパフォーマンスを提供する、インテリジェントなリソースでなければなりません。AI Hypercomputer では、次のことが可能です。

• よりスマートかつ迅速なトレーニングを行うために Cluster Director と Google Kubernetes Engine を使用し、最大 130,000 ノードまでスケールアップできます。同時に、TPU 8t と、Google DeepMind と共同設計されたソフトウェア、統合されたオープンソース フレームワーク（JAX から Pathways、Pallas まで）を組み合わせて使うことで、各アクセラレータから最大 97% の生産性（Goodput）を引き出すことができます。

• GKE Agent Sandbox を使用して、安全で低レイテンシのエージェント実行を可能にします。エージェントはスケールする必要があるため、GKE Agent Sandbox はエージェントのバーストを検知して迅速に対応できます。クラスタごとに 1 秒あたり最大 300 個のサンドボックスをプロビジョニングし、エージェントがアイドル状態になると即座にスケールバックして、コンピューティング費用を最適化します。

• マルチクラウド、エッジ、オンプレミス環境にわたって分散されたエンタープライズ ワークロードと AI ワークロードを一貫して実行します。これには、クロスクラウド ネットワークと Cloud WAN を使用します。このアプローチにより、1,000 万キロメートル以上のファイバーと 200 以上の国と地域にまたがる Google のプライベート グローバル バックボーン全体で、低レイテンシのポリシー主導の接続が実現し、パブリック インターネット ルーティングよりも最大 40% 高いパフォーマンスが得られます。

AI Hypercomputer で次のステップへ

フロンティア モデルから数十億のユーザーがいるアプリケーションまで、AI Hypercomputerは、AI のパフォーマンス、デベロッパーの生産性を高めながら費用を削減するために必要な専用ハードウェア、オープン ソフトウェア、柔軟な使用量モデルを提供します。スケーラブルで手頃な価格の信頼できる AI システムを構築してきた数十年にわたる経験が、Gartner のリサーチでリーダーとして選出される形で評価されたことを光栄に思います。

2026 Gartner Magic Quadrant™ for AI Infrastructure のコピーを Google のウェブサイトから無料でダウンロードできます。

-AI およびコンピューティング インフラストラクチャ担当バイス プレジデント兼ゼネラル マネージャー、Mark Lohmeyer