GKE のノード起動が高速化され、コールド スタート レイテンシが解消
Eyal Yablonka
Product Manager, Google Kubernetes Engine
Karen Aleksanyan
Principal Software Engineer, Google Cloud
※この投稿は米国時間 2026 年 5 月 9 日に、Google Cloud blog に投稿されたものの抄訳です。
このたび、クラウド インフラストラクチャにおける最も厄介な問題の一つであるコールド スタート レイテンシを解決する Google Kubernetes Engine（GKE）の重要なアップデートをリリースしました。GKE の以前のバージョンと比べると、対象となるノードの起動時間が最大 4 倍高速になるため、お客様は迅速かつ効率的にプロビジョニングができます。設定の切り替えや、構成ファイルへのパッチ適用は必要ありません。インフラストラクチャのプロビジョニング方法がアーキテクチャ上でアップグレードされるため、何も操作を行わなくてもノードが高速で起動します。これは、クラウド運用のアジリティと費用効率の向上に直結し、AI 推論用のモデルの迅速なデプロイから、アクセラレータ ノードと汎用ノードの動的なスケーリングまで、幅広いユースケースに大きく影響します。
今回取り組んだ問題:「コールド スタート」の負担
ご存じのように、需要が変動するワークロード、特に AI 推論やバッチ処理を実行している場合、新しいノードのスピンアップを待つのは苦痛です。需要が急増すると、オートスケーラーがノードをリクエストします。その後、しばらく待ちます。この待機時間と、それによってユーザーに生じるレイテンシを回避するために、多くのチームは「万が一に備えて」高価なノードを稼働させ続ける、オーバー プロビジョニングに頼っています。この場合、起動の遅延に対する保険として、アイドル状態のコンピューティングに対して料金を支払うことになります。この保険は、希少なアクセラレータの場合に特に高額になります。
解決策: ノード プロビジョニングの完全な再構築
この問題に対処するため、VM と GKE ノードのプロビジョニング ロジックを再構築しました。大まかに言うと、インテリジェントなコンピューティング バッファ、特別に設計された高速起動の仮想マシン、VM を再起動せずに即座にサイズ変更できる新しいコントロール プレーン アーキテクチャを組み合わせて使用しています。技術的な詳細は複雑ですが、お客様にとってのメリットはシンプルです。GKE クラスタのスケーリングが本質的に高速かつ効率的になり、貴重なリソースを必要な場所にシフトできるようになりました。
影響
-
オーバー プロビジョニングの削減: ノードがより高速でオンラインになるため、オートスケーラーのリアルタイムでの対応を信頼でき、アイドル状態のノードのバッファを維持する必要がなくなります。
-
AI 推論の改善: GPU で実行されるモデルの場合、ノードのプロビジョニングが高速化されることで、リクエストの急増からモデル提供のトラフィックまでの時間が短縮されます。
-
「運用」のオーバーヘッドなし: これは自動的に機能し、利用するために Terraform ファイルや YAML ファイルを変更する必要はありません。
対象
現在、プロビジョニングの高速化は、以下のハードウェアを使用して GKE Autopilot で実行されるワークロード（Standard クラスタ内で実行される Autopilot ワークロードを含む）でご利用いただけます。
以下を含むその他のマシンにも近日中に展開される予定です。今後の情報にご注目ください。
試す方法
対象のインスタンス タイプで GKE Autopilot をすでにご利用の場合は、この改善にお気づきかもしれません。
GKE Standard クラスタを実行している場合は、クラスタ全体を移行することなく、これらのワークロードに Autopilot をご利用いただけます。Pod で Autopilot ComputeClass を指定するだけで、Pod は Standard ノードと共存しながら、この起動速度を継承します。
高速起動ノードに関する技術ドキュメントの全文はこちらをご覧ください。
次のステップ
以下のリソースで、これらの新たな改善点を活用してワークロードの応答性を向上させる方法をご確認ください。
- Google Cloud、プロダクト マネージャー、Eyal Yablonka
- Google Cloud、プリンシパル ソフトウェア エンジニア、Karen Aleksanyan
