TPU「Ironwood」 の一般提供開始と推論時代を支える新しい Axion VM を発表

※この投稿は米国時間 2025 年 11 月 7 日に、Google Cloud blog に投稿されたものの抄訳です。

Google の Gemini、Veo、Imagen、そして Anthropic の Claude など、今日の最先端モデルは Tensor Processing Unit（TPU）でトレーニングおよび提供されています。多くの組織において現在はモデルのトレーニングから、それらを用いた有用で応答性の高い対話を実現することへと焦点を移行しつつあります。絶えず変化するモデル アーキテクチャ、エージェント ワークフローの台頭、そして演算需要のほぼ指数関数的な成長が、この新しい推論の時代を形作っています。特に、汎用コンピュートと機械学習のためのアクセラレータとの間のオーケストレーションと緊密な連携を必要とするエージェント ワークフローは、カスタム シリコンと垂直統合され最適化されたシステム アーキテクチャに新たな機会を生み出しています。

この変革に備え、本日、カスタム シリコンにて開発された 3 つの新製品の提供を発表します。推論とエージェント ワークロードに対して新しい機能を提供し、優れたパフォーマンスと低コストを実現します。

• Ironwood：第 7 世代 TPU である Ironwood の一般提供を今後数週間で開始します。Ironwood は、大規模なモデルトレーニングや複雑な強化学習（RL）から、大容量で低レイテンシの AI 推論やモデル提供まで、最も要求の厳しいワークロード専用に設計されています。第 5 世代と比較して、チップあたり10倍のピークパフォーマンス向上を実現し、前世代の第 6 世代の Trillium と比較して、トレーニングと推論の両ワークロードで チップあたり 4 倍以上のパフォーマンス向上を実現しており、当社で最も強力かつエネルギー効率に優れたカスタム シリコンです。

• 新しい Arm® ベースの Axion インスタンス：当社の N シリーズ仮想マシンで最もコスト効率に優れている N4A を、現在プレビュー版として提供しています。N4A は、同等の現世代 x86 ベースの VMと比較して最大 2 倍の価格性能を実現します。さらに、当社初の Arm ベースのベアメタル インスタンスである C4A metal も近日中にプレビュー提供を開始します。

Ironwood とこれらの新しい Axion インスタンスは、TPU、YouTube 向けの Video Coding Units（VCU）、モバイル向けの 5 世代にわたる Tensor チップなど、Google のカスタム シリコン イノベーションの長い歴史における最新の成果です。これらはいずれも、モデル研究、ソフトウェア、ハードウェア開発を一元的に行う深いシステム レベルの共同設計によってのみ可能となる、飛躍的なパフォーマンス向上を実現するために構築しました。このアプローチにより、10 年前に初の TPU を構築し、それが 8 年前 の Transformer の発明を可能にしました。Transformer は、現代の AI の根幹を支えるアーキテクチャとなっています。また、Titanium アーキテクチャや、2020 年以来フリート全体稼働率が約 99.999% のギガワット規模で展開する高度な液体冷却といった最近の進歩にも影響を与えています。

Ironwood：モデル トレーニングから惑星規模の推論への最短経路

Ironwood は発表直後から非常に大きな反響を呼んでいます。Anthropic は現在、大規模な Claude モデルのトレーニングから数百万のユーザーへの提供に至るまでのプロセスを加速させ、価格性能比が目覚ましく向上することを高く評価しています。実際、Anthropic は最大 100 万 TPU へのアクセスを計画しています。

Ironwood は、あらゆる規模や業界の組織で利用されています。

システム レベルの設計で推論パフォーマンス、信頼性、コストを最大化

TPU は、コンピューティング、ネットワーキング、ストレージ、およびソフトウェアを統合し、システム レベルのパフォーマンスと効率を向上させる統合型スーパーコンピューティング システムである AI Hypercomputerの重要な要素です。最近の IDC のレポートによると、AI Hypercomputer を活用されているお客様は、平均して3 年間で 353% の ROI、28% の IT コスト削減、55% の IT チームの効率向上を達成しています。1

Ironwood TPU は、お客様が規模と効率の限界をさらに押し広げることを支援します。TPU をデプロイすると、システムは個々のチップをお互いで接続させ、単一ユニットとして機能する相互接続された TPU のグループであるポッドを作ります。Ironwood では、9.6 Tb/s の画期的な Inter-Chip Interconnect（ICI）ネットワーキングにより、単一のポッド内で最大 9,216 個のチップまで拡張できます。この大規模な接続性により、数千のチップが相互に迅速に通信し、驚異的な 1.77 ペタバイトの共有 High Bandwidth Memory（HBM）にアクセスでき、最も要求の厳しいモデルでもデータ ボトルネックを克服します。

この規模のサービスは中断のない可用性が求められます。そのため、当社の Optical Circuit Switching（OCS）テクノロジーが動的で再構成可能なファブリックとして機能し、サービスの稼働を維持しながら、障害を瞬時に迂回してワークロードを復旧させます。さらなるパワーが必要な場合、Ironwood はポッドを越えて、数十万の TPU からなるクラスターへと拡張します。

AI Hypercomputer の優位性：より速く、効率的な成果を生むハードウェアとソフトウェアの共同設計

このハードウェアの上には共同設計されたソフトウェア層を重ねており、Ironwood の大規模な処理能力とメモリを最大化し、AI ライフサイクル全体で容易に利用できるようにすることを目指しています。

• TPU のお客様は、Google Kubernetes Engine の Cluster Director 機能を利用し、フリートの効率と運用を向上できます。これには、インテリジェントなスケジューリングと高可用性クラスターのためのトポロジー認識が含まれます。

• 事前および事後トレーニング向けに、高性能なオープンソース LLM フレームワークである MaxText の新たな機能強化を公開します。これにより、Supervised Fine-Tuning（SFT）や Generative Reinforcement Policy Optimization（GRPO）などの最新のトレーニングおよび強化学習の最適化手法の実装がより容易になります。

• 推論については、vLLM における TPU のサポート強化を発表しました。これにより、開発者はわずかな設定変更で GPU と TPU を切り替えたり、両方を同時に実行したりできます。また、GKE Inference Gateway も発表し、TPU サーバー間でインテリジェントに負荷分散を行い、time-to-first-token（TTFT）レイテンシを 最大 96% 削減、提供コストを最大 30% 削減します。

このソフトウェア層により、AI Hypercomputer が大規模かつ要求の厳しい AI ワークロードのトレーニング、チューニング、および提供において、高いパフォーマンスと信頼性を実現できます。データセンター全体のハードウェア最適化からオープン ソフトウェアやマネージド サービスまで、スタック全体にわたる深い統合により、Ironwood TPU はこれまでで最も強力でエネルギー効率に優れた TPU となっています。ハードウェアとソフトウェアの共同設計に対するアプローチについては、こちらをご覧ください。

Axion：汎用コンピューティングを再定義

最新アプリケーションの構築と提供には、高度に専門化されたアクセラレータと、強力で効率的な汎用コンピューティングの両方が必要です。これが、日常的なワークロードに対して優れたパフォーマンス、コスト効率、およびエネルギー効率を提供するよう設計された、当社のカスタム Arm Neoverse® ベース CPU である Axion のビジョンです。

本日、Axion ポートフォリオを以下で拡充します。

• N4A（プレビュー版）は、当社の第 2 世代汎用 Axion VM であり、マイクロサービス、コンテナ化アプリケーション、オープンソース データベース、バッチ処理、データ分析、開発環境、実験、データ準備、そして AI アプリケーションを支えるウェブ サービング ジョブに最適です。N4A の詳細は、こちらをご覧ください。

• C4A metal（まもなくプレビュー版公開予定）は、当社初の Arm ベース ベアメタル インスタンスで、Android 開発、車載システム、厳格なライセンス要件を持つソフトウェア、スケール テスト ファーム、または複雑なシミュレーションといった専門的なワークロード向けに専用の物理サーバーを提供します。C4A metal の詳細は、こちらをご覧ください。

本日の発表により、Axion ポートフォリオには、N4A、C4A、および C4A metal という 3 つの強力な選択肢が加わります。C シリーズと N シリーズは、パフォーマンスやワークロード固有の要件を損なうことなく、ビジネス運営の総コストを削減できます。

Axion 固有の効率性は、最新の AI ワークフローにとっても貴重な選択肢となります。Ironwood のような専用のアクセラレータがモデル提供の複雑なタスクを担う一方で、Axion は大容量のデータ準備や取り込みをサポートし、インテリジェントなアプリケーションをホストするアプリケーション サーバーを実行するなど、運用のバックボーンにおいて優位性を発揮します。Axion はすでに顧客に影響を与え始めています。

AI と日常的なコンピューティングのための強力な組み合わせ

絶えず変化するモデル アーキテクチャ、ソフトウェア、および技術の時代で優位性を確立するには、モデル トレーニングと提供を担う専用の AI アクセラレータと、AI アプリケーションをサポートするワークロードを含む日常的なワークロードを処理する効率的な汎用 CPU の組み合わせが鍵となります。

Ironwood と Axion を併用する場合も、AI Hypercomputer で利用可能な他のコンピューティング オプションと組み合わせて使用する場合でも、このシステム レベルのアプローチは、最も要求の厳しいワークロードに対応できる究極の柔軟性と機能を提供します。Ironwood、Axion N4A および C4A metal のテストに今すぐお申込みください。

-Amin Vahdat, VP & GM, AI and Infrastructure, Google Cloud
-Mark Lohmeyer, VP & GM, Compute and AI Infrastructure, Google Cloud