はい、AI Hypercomputer は柔軟性を念頭に設計されています。Cross-Cloud Interconnect などのテクノロジーは、オンプレミス データセンターや他のクラウドへの高帯域幅接続を提供し、ハイブリッド AI 戦略やマルチクラウド AI 戦略を促進します。オープン スタンダードで運用し、一般的なサードパーティ ソフトウェアと統合することで、複数の環境にまたがるソリューションの構築や、サービスを自由に変更できる環境を提供しています。

セキュリティは AI Hypercomputer の中核的な側面です。Google Cloud の多層セキュリティ モデルのメリットを享受できます。具体的な機能としては、Titan セキュリティ マイクロコントローラ（システムが信頼できる状態から起動することを保証）、RDMA ファイアウォール（トレーニング時の TPU / GPU 間のゼロトラスト ネットワーキング用）、AI の安全性を確保する Model Armor などのソリューションとの統合などがあります。これらは、セキュア AI フレームワークなどの堅牢なインフラストラクチャ セキュリティのポリシーと原則によって補完されます。

• VM の管理を避けたい場合は、Google Kubernetes Engine（GKE）から始めることをおすすめします。
• 複数のスケジューラを使用する必要がある場合や、GKE を使用できない場合は、Cluster Director を使用することをおすすめします。
• インフラストラクチャを完全に制御したい場合は、VM を直接操作する以外に方法はありません。そのためには、Compute Engine が最適な選択肢です。

いいえ。AI Hypercomputer は、あらゆる規模のワークロードに使用できます。小規模なワークロードでも、効率性やデプロイの簡素化など、統合システムのあらゆるメリットを実現できます。AI Hypercomputer は、小規模な概念実証やテストから大規模な本番環境へのデプロイまで、お客様のビジネスの拡大に合わせてサポートします。

ほとんどのお客様にとって、Vertex AI のようなマネージド AI プラットフォームは、ツール、テンプレート、モデルがすべて組み込まれているため、AI を使い始めるうえで最も簡単な方法です。さらに、Vertex AI は、ユーザーのために最適化された AI Hypercomputer を基盤としています。Vertex AI は最もシンプルなエクスペリエンスであるため、AI を最も簡単に始められます。インフラストラクチャのすべてのコンポーネントを構成して最適化したい場合は、AI Hypercomputer のコンポーネントにインフラストラクチャとしてアクセスし、ニーズに合わせて組み立てることができます。

はい、GitHub にレシピ ライブラリを構築しています。また、Cluster Toolkit を使用して、事前構築済みのクラスタ ブループリントを利用することもできます。

AI に最適化されたハードウェア

ストレージ

• トレーニング: Managed Lustre は、高スループットとペタバイト規模の容量を必要とする、要求の厳しい AI トレーニングに最適です。GCS Fuse（オプションで Anywhere Cache を使用）は、レイテンシがそれほど厳しくない、より大容量のニーズに適しています。どちらも GKE と Cluster Director と統合されています。
• 推論: GCS Fuse と Anywhere Cache を併用することで、シンプルなソリューションを実現します。より高いパフォーマンスが必要な場合は、Hyperdisk ML をご検討ください。同じゾーンで Managed Lustre をトレーニングに使用する場合、推論にも使用できます。

ネットワーキング

• トレーニング: VPC での RDMA ネットワーキングや、高速データ転送を実現する高帯域幅の Cloud Interconnect と Cross-Cloud Interconnect などのテクノロジーを活用できます。
• 推論: GKE Inference Gateway や強化された Cloud Load Balancing などのソリューションを利用して、低レイテンシのサービスを提供します。Model Armor を統合することで AI の安全性とセキュリティを確保できます。

コンピューティング: Google Cloud TPU（Trillium）、NVIDIA GPU（Blackwell）、CPU（Axion）にアクセスします。これにより、スループット、レイテンシ、TCO に関する特定のワークロードのニーズに基づいて最適化できます。

最先端のソフトウェアとオープン フレームワーク

• ML フレームワークとライブラリ: PyTorch、JAX、TensorFlow、Keras、vLLM、JetStream、MaxText、LangChain、Hugging Face、NVIDIA（CUDA、NeMo、Triton）など、さまざまなオープンソースとサードパーティのオプションがあります。
• コンパイラ、ランタイム、ツール: XLA（パフォーマンスと相互運用性向け）、Pathways on Cloud、マルチスライス トレーニング、Cluster Toolkit（事前構築済みクラスタ ブループリント向け）など、さまざまなオープンソースとサードパーティ オプションがあります。
• オーケストレーション: Google Kubernetes Engine（GKE）、Cluster Director（Slurm、非マネージド Kubernetes、BYO スケジューラ向け）、Google Compute Engine（GCE）。

消費モデル:

• オンデマンド: 従量課金制。
• 確約利用割引（CUD）: 長期契約で大幅な割引（最大 70%）が適用されます。
• Spot VM: フォールト トレラントなバッチジョブに最適で、大幅な割引（最大 91%）が適用されます。
• Dynamic Workload Scheduler（DWS）: バッチジョブ / フォールト トレラント ジョブで最大 50% の費用を削減します。