Next ’24 の Google Cloud ネットワーキングに関する最新情報
Google Cloud Japan Team
※この投稿は米国時間 2024 年 4 月 10 日に、Google Cloud blog に投稿されたものの抄訳です。
Cross-Cloud Network により、ハイブリッド ネットワークおよびマルチクラウド ネットワーク全体でワークロードを接続、保護する方法は変化しました。Cross-Cloud Network を活用すると、複雑性を軽減してセキュリティ対策を強化し、ビジネス成果をより速く得ることができます。また、Google Cloud の地球規模のネットワークを構築基盤とすることから、豊かなエクスペリエンスの提供、運用効率の合理化、総所有コスト（TCO）の削減にも有効です。
AI の導入と成長によりネットワーキングは重要な転換点を迎えており、パフォーマンスやスケール、インテリジェンス、セキュリティの向上が求められています。大規模言語モデル（LLM）などの基盤モデルは、設計やセキュリティ保護、最適化、トラブルシューティングなど、ネットワーク運用の多くのプロセスを 1 つ上のレベルへと引き上げるにあたって強力なツールとなります。Cross-Cloud Network があれば、場所を問わずに AI のトレーニングと推論を実行できるため、イノベーションと成長の機会が広がります。
Google Cloud Next では、クラウド環境のモダナイズ、簡素化、セキュリティ保護を支援する一連の拡張機能を発表します。たとえば次のようなものです。
-
AI / ML ワークロードのための地球規模のネットワーキング
-
あらゆるクラウドをあらゆるサービスにつなぐことができる接続性
-
ワークロード、データ、ユーザーの保護
-
Gemini を活用したネットワーク運用
Google のお客様の多くが、すでに Cross-Cloud Network を活用したビジネス変革に取り組んでいます。こちらの動画をご覧ください。
AI / ML ワークロードのための地球規模のネットワーキング
Cross-Cloud Network では、生成 AI のトレーニングと推論のための高速で信頼性の高いデータパスが構築されます。Google Cloud は、多数のゾーンおよびリージョンにまたがる高性能かつ低レイテンシな地球規模のネットワークを備えています。これにより、GPU と TPU のネットワーキングを使用した生成 AI の大規模トレーニングが可能になっています。Cross-Cloud Interconnect などのイノベーションでは、大量のデータをトレーニング ワークロードの近くに置いて、Google Cloud が提供するクラウド マネージドの SaaS サービスを最大限に活用できます。
「クラウド テクノロジーのスケールと共有サービスモデルは、生成 AI 対応アプリケーションの大規模な提供と汎用基盤モデルの開発に最適です」 と、Gartner のバイス プレジデント兼アナリスト、Sid Nag 氏は述べています。加えて、Gartner はこのようにアドバイスしています。「スケーラブルな AI インフラストラクチャには、AI によって最適化されたタイプの異なる高速ネットワークを複数組み合わせる必要があります。」
生成 AI ワークロードには、大量のリクエストとレスポンスを伴う独自のトラフィック パターンがあります。これが処理時間の変動を引き起こし、ユーザーのレスポンス タイムが最適化されない可能性があります。この問題に対処するため、インテリジェント ネットワークでは、リソースの使用状況と可用性に基づいて基盤モデルのクエリを分散できます。このような課題を解決し、AI ワークロードのパフォーマンスを最適化するため、Google はカスタム構築された新たなイノベーションを導入します。
現時点で一般提供されている Model as a Service Endpoint は、モデル作成者がモデルのサービス エンドポイントを所有し、そこにアプリケーション デベロッパーが接続できるようにするソリューションです。このソリューションは、AI モデルの製作者と消費者をつなぐ Private Service Connect、トラフィックの最適な分散を行う Cloud Load Balancing、サービスの見つけやすさを高める App Hub で構成されています。
さらに今年後半には、推論ワークロード向けに以下のような Cloud Load Balancing の拡張機能を導入する予定です。
-
カスタム指標を使用した Cloud Load Balancing は、AI ワークロードのロード バランシングを行う指標としてキューの深さを提供し、TPU と GPU の使用率を最適化するとともに、プロンプトに対するユーザーの応答時間を短縮します。このデモ動画では、簡単な構成で AI 推論のロード バランシングの概要を説明しています。
-
ストリーミング推論の Cloud Load Balancing は、ストリーム数、受信バイト数、送信バイト数を、1 秒あたりのリクエスト数および CPU 使用率と比較し、こうした指標に基づいてパフォーマンスを最適化します。
-
AI モデルの トラフィック管理機能を備えた Cloud Load Balancing は、個々のモデルのサービス エンドポイントの状態をモニタリングして健全なエンドポイントへリクエストをルーティングします。障害が検出された場合にはクロスリージョン フェイルオーバーを開始し、複数のモデルやモデル バージョンにトラフィックを分割してロールアウトを管理します。
「AppLovin は、今では世界有数となったアプリ デベロッパー向けプラットフォームを運営しています。1 日あたりのアクティブ ユーザー（DAU）は世界中で 14 億人以上に達します。当社は、最先端のハードウェアを備える次世代の自社 AI プラットフォームの性能を高め、トレーニングと推論のワークロードを強化するために、Google Cloud を活用しています。ロードバランサ、Cloud Armor、CDN を使用した Google Cloud の世界的なフロントエンド ソリューションにより、ユーザーを保護できるだけでなく、企業のオーディエンスへのリーチ、収益性確保、成長を支援することもできています。」- AppLovin、運用担当バイス プレジデント、Omer Hasan 氏
Cross-Cloud Network でサービス中心のネットワーキングを簡素化
サービス中心の Cross-Cloud Network は、あらゆるクラウド、あらゆるサービスで一貫して安全なエクスペリエンスを提供します。DevOps、NetOps、SecOps の各チームは、さまざまな場所で Private Service Connect（PSC）を活用してサービス中心の単一ネットワークを運用しています。その内容は、SaaS / マネージド サービスの公開から各サービスに一律で適用されるセキュリティの確保まで、多岐にわたります。DevOps チームは PSC を使用してサービスを公開し、NetOps チームはネットワーク接続を簡素化できます。そして SecOps チームは、ワークロードとサービスの間の暗号化と一貫したセキュリティの確保を徹底することができます。サービス中心の Cross-Cloud Network で簡素化と運用効率化が実現すると、最大 40% の TCO 削減も不可能ではありません。
「デジタル決済のリーダーである PayPal は、世界 200 以上の市場で商取引に革命を起こしています。PayPal サービスを利用する何億もの購入者と販売者に最適なサービスを提供するには、高い信頼性とセキュリティ、パフォーマンスを備えたネットワークが必要です。管理負担を軽減してイノベーションに注力し、ネットワークをグローバルに拡大できるのは、Google Cross-Cloud Network のおかげです。」- PayPal、グローバル ネットワーク サービス責任者、Saikrishna Kotha 氏
図 1: あらゆるクラウドの SaaS / マネージド サービスを Private Service Connect で接続する Cross-Cloud Network
現在、Network Connectivity Center 上に Private Service Connect の推移性を導入しており、今四半期にプレビュー提供を開始します。これが実現すると、スポーク VPC 内のサービスに他のスポーク VPC から推移的にアクセスできるようになります。サービス VPC をセットアップして、他の VPC からアクセスできる複数の PSC コンシューマー エンドポイントを作成できます。NCC の VPC スポークを組み合わせることで、クラウド ネットワーク設計の簡素化になります。
「Scotiabank が目指すのは、顧客から最も信頼される金融パートナーとなり、持続可能な収益性の高い成長を実現し、総株主利益率を最大化することです。当社は Google Cloud と連携してサービス中心の Cross-Cloud Network を活用し、Private Service Connect、Cloud Load Balancing、Cross-Cloud Interconnect を駆使してネットワークを簡素化しています。さらに、ゼロトラスト保護を提供するネイティブの分散型クラウド ファイアウォール、Cloud NGFW の導入も計画中です。」- Scotiabank、シニア プリンシパル兼クラウド アーキテクト、Payam Kohan 氏
Cross-Cloud Network によるワークロードとデータの保護
組織は、ゼロトラストのアプローチでクラウド環境を保護するための高度なセキュリティ効果、簡素化、強力なネットワーク制御を必要としています。Cross-Cloud Network は、AI / ML を活用した最高水準のテクノロジーを搭載しており、ワークロード、データ、ユーザーを保護できます。
図 2: Cross-Cloud Network のセキュリティ
本日は、Cross-Cloud Network に新たに導入される以下のセキュリティ イノベーションを紹介します。
-
Cloud NGFW Enterprise（旧 Cloud Firewall Plus）の一般提供が開始されました。これは、Palo Alto Networks のテクノロジーによる優れたネットワーク脅威保護に加え、組織規模ネットワーク セキュリティ対策管理とゼロトラスト マイクロセグメンテーションを備えています。
-
mTLS を使用した ID ベースの認証で Identity-Aware Proxy が内部アプリケーション ロードバランサと統合され、クライアントサイドとバックエンドの相互 TLS を含むゼロトラスト ネットワーク アクセスをサポートします。
-
インライン ネットワークのデータ損失防止（DLP）はまもなくプレビュー提供が始まり、サービス拡張機能を使用したロードバランサと安全なウェブプロキシに Symantec DLP を統合します。この機能は、意図しない公開、悪意のある公開から転送中のデータを保護するのに役立ちます。
「ゼロトラストは、あらゆる組織にとっての最優先事項です。Symantec DLP は、デバイスの位置情報（ネットワークのステータス）、ユーザーのリスク、データの検出、加えてデータアクセスを動的に決定できるようにするための総合的で一貫性のあるポリシーを組み合わせて、ゼロトラストをサポートしています。Symantec DLP を Google Cloud のサービス拡張機能と統合することで、データ侵害とコンプライアンス上のリスクが軽減され、セキュリティ対策を大幅に強化できます。」- Broadcom、エンタープライズ セキュリティ グループ最高製品責任者、Jason Rolleston 氏
オープンでプログラム可能な Cross-Cloud Network のサービス拡張機能
サービス拡張機能により Cross-Cloud Network のウェブ データプレーン（ロードバランサ、安全なプロキシ）が利用可能になり、ワークロードのデータパスに対してカスタマイズやサービスを簡単に追加できます。これはウェブ エクスペリエンスの保護や高速化、最適化に役立ちます。
図 3: カスタマイズされたサービスをデータパスに挿入できるサービス拡張機能
これには、シャドー API の検出と管理に有用な Google のApigee API 保護サービスが含まれます。サービス拡張機能のおかげで、Apigee によるデプロイの簡素化は、透明性の高い検査、高速なパフォーマンス、対象範囲の広いバックエンド インフラストラクチャを活用して行うことができました。
図 4: サービス拡張機能を使用した効果的なシャドー API 対策を示すケーススタディ
サービス拡張機能で Cross-Cloud Network をエコシステム パートナーにも開放することで、各サービスを統合し、ウェブ エクスペリエンスの保護、高速化、最適化を実現します。
保護の面では、Imperva、HUMAN Security、Palo Alto Networks、Traceable などのパートナーが高度なウェブ保護サービスを統合しています。
加えて、Cloudinary、Nagra、Queue-it、Datadog などのパートナーは、サービス拡張機能を介して各サービスを統合し、充実したウェブ エクスペリエンスを提供しています。
Google とパートナーの統合に伴い、送信元選択のカスタマイズやヘッダーの調整などを行うためのコードサンプルのライブラリを導入します。
Gemini を活用したネットワーク運用
LLM の登場により、生産性を高め、複雑な分析作業を簡素化する新たなイノベーションが実現します。このたび、Google は Gemini Cloud Assist を発表しました。これは、ネットワークの設計、運用、最適化などに関して AI ベースのアシストと分析情報を提供するもので、ネットワーク リソースも用意されています。
Cloud 管理者は、さまざまなタスクや推奨事項（構成の生成や容量の推奨、変更と問題の関連付け、脆弱性の特定、パフォーマンスの最適化など）に対処するよう Gemini Cloud Assist に要求できます。Gemini Cloud Assist はネットワークのプロビジョニングと管理を効率化し、ビジネス上の成果をより迅速かつ確実に組織が挙げられるようにします。現在、プレビュー版を利用できます。
「ネットワーク リソースの設計、運用、最適化の簡素化と費用削減のために、世界中の企業が AI による推奨事項を必要としています。Gemini Cloud Assist は生成 AI ベースの実用的な分析情報を提供するため、ネットワーク管理者は、0 日目から 2 日目以降のネットワーク設計とライフサイクル運用をタイムリーかつ費用効率よく処理できます。これは特に、マルチクラウドのネットワークとセキュリティ環境を横断する最新の AI ワークロードに適しています。」- IDC、クラウドおよびデータセンター ネットワーク調査担当バイス プレジデント、Vijay Bhagavath 氏
AI 時代に対応するネットワーク
Cross-Cloud Network は、ハイブリッド ネットワークとマルチクラウド ネットワークの簡素化、モダナイズ、セキュリティ保護に有用です。AI の登場により、Cross-Cloud Network を活用してどこへでもデータを携え、Google Cloud でトレーニングや推論を行えるようになりました。
「Uber は 71 か国で事業を展開しており、毎月の利用者は 1 億人を超えています。当社は、グローバルな分散型サービスで低レイテンシのユーザー エクスペリエンスを提供しています。またハイブリッドなマルチクラウド環境の基盤として Google Cross-Cloud Network を活用し、バックエンド、フロントエンド、AI アプリケーションを接続しています。Cross-Cloud Network によって、世界中のユーザーにリーチし、サービス ロールアウトを加速しながら、全体的な費用の削減にもなるアジャイルなソリューションを得られました。」- Uber、エンジニアリング ディレクター、Harry Liu 氏
詳しくは、IDC レポート「Accelerating the Enterprise AI Journey with Cross-Cloud Network」（Cross-Cloud Network で加速するエンタープライズ AI への取り組み）をご覧ください。また、以下の Cloud Next ではプロダクト エキスパートとアーキテクトがアーキテクチャについて詳説します。ぜひご参加ください。
- クラウド ネットワーク担当バイス プレジデント、Muninder Sambi
1. Gartner© のプレスリリース、2027 年までに生成 AI を導入する企業の 70% は、異なるパブリック クラウド間の生成 AI サービスを選択する際に、持続可能性とデジタル主権を最も重要な基準として挙げるだろうと、Gartner は予測しています（2024 年 2 月）。Gartner は、Gartner, Inc. またはその関係会社の米国およびその他の国における登録商標およびサービスマークであり、同社の許可を得て使用されているものです。著作権はすべて同社に帰属します。
2. Gartner, A Packaging Approach to Simplify GenAI Cloud Portfolio、桂島航、Arun Chandrasekaran、Sid Nag（2024 年 3 月）
