Cluster Director

Kubernetes 和 Slurm 叢集的 AI 自動化調度管理

輕鬆設定、部署及管理 AI 或 HPC 叢集。在不影響控管能力的前提下,享受代管基礎架構的自動化優勢。

功能

Slurm 和 Kubernetes 適用的代管基礎架構服務

您可以透過兩種方式,使用 Cluster Director 功能:

  • 直接透過控制層、API 或 CLI,管理使用 Slurm 或自訂自動調度管理工具的工作。這個整合式環境也與 Google Kubernetes Engine (GKE) 整合,讓您透過單一強大的介面,建立及監管 Slurm 和 Kubernetes 叢集。
  • 在 GKE 或 Compute Engine 中。在這些情況下,您可以在熟悉的環境中使用 Cluster Director 功能。

簡化工作排程

Cluster Director 提供立即可用的容錯和高擴充性工作排程功能。控制器節點由系統代管。您可以輕鬆設定叢集的登入節點,包括機型、來源映像檔和開機磁碟大小。

直覺式叢集管理

您可以使用控制層輕鬆建立、更新及刪除叢集。此外,您還能在全新專用虛擬私有雲網路或現有網路部署叢集,簡化網路作業。在儲存空間方面,您可以建立並附加新的 Filestore 或 Google Cloud Managed Lustre 執行個體,或是連線至現有的 Cloud Storage bucket。

拓撲感知存放位置

為發揮最佳效能,Cluster Director 與 Google 的網路拓撲深度整合。這可確保叢集中的 VM 位於相近的實體位置,進而降低網路延遲,對於高度同步的分散式訓練工作負載至關重要。

全方位掌握情況並取得洞察資料

Cluster Director 的整合式觀測能力資訊主頁可清楚顯示叢集的健康狀態、使用率和效能,讓您在單一位置快速瞭解系統行為並診斷問題。這項資訊主頁的設計可輕鬆擴充,支援數萬部 VM。

訓練執行作業不中斷

只要索取健康狀態證明,就能獲得基礎可靠性,此外,還能使用 3 層式查核點和進階維護控制項等額外功能,協助您盡可能提高訓練效率。

運作方式

在部署之前,AI 基礎架構使用者可能需要花費數週時間調整設定,但其實不必這麼麻煩。瞭解首次使用 Cluster Director 時會遇到的情況,包括準備環境、部署,以及將中斷轉為代管事件。

什麼是 Cluster Director?
常見用途

部署前資格審查與準備

打造高效能且可靠的基礎

在啟動叢集前,您需要確保加速器從一開始就能發揮高效能,並穩定可靠地運作。Cluster Director 可針對 TPU 和 GPU,提供智慧型拓撲感知存放位置。

每項運算、網路和儲存元件都經過嚴格的多階段資格程序驗證,並記錄在詳細的健康狀態證明中,提供品質和準備狀態的最終證明。

Cluster Director 第 0 天
打造高效能且可靠的基礎

在啟動叢集前,您需要確保加速器從一開始就能發揮高效能,並穩定可靠地運作。Cluster Director 可針對 TPU 和 GPU,提供智慧型拓撲感知存放位置。

每項運算、網路和儲存元件都經過嚴格的多階段資格程序驗證,並記錄在詳細的健康狀態證明中,提供品質和準備狀態的最終證明。

Cluster Director 第 0 天

部署叢集

幾分鐘內即可部署叢集,不必耗費數天

將複雜的 GKE 或 Slurm 叢集設定工作大幅簡化。從經過驗證的參考架構著手,選擇加速器和儲存空間資源,其餘工作就交給 Cluster Director。

只要遵循 Google 具備效能和拓撲的最佳做法,就能部署任何規模的完全最佳化環境,大幅縮短部署時間。

在 Cluster Director 上部署
幾分鐘內即可部署叢集,不必耗費數天

將複雜的 GKE 或 Slurm 叢集設定工作大幅簡化。從經過驗證的參考架構著手,選擇加速器和儲存空間資源,其餘工作就交給 Cluster Director。

只要遵循 Google 具備效能和拓撲的最佳做法,就能部署任何規模的完全最佳化環境,大幅縮短部署時間。

在 Cluster Director 上部署

管理叢集

叢集管理與觀測能力

透過單一 Slurm 叢集控制台,輕鬆在原始基礎架構上執行工作。取得叢集健康狀態和使用率的拓撲檢視畫面。

發生問題時,只要輸入單一工作 ID,就能透過以工作為中心的觀測能力,立即將全端的指標相互關聯,將數小時的猜測化為幾次點擊,快速找出任何速度減緩的根本原因。

叢集管理與觀測能力
叢集管理與觀測能力

透過單一 Slurm 叢集控制台,輕鬆在原始基礎架構上執行工作。取得叢集健康狀態和使用率的拓撲檢視畫面。

發生問題時,只要輸入單一工作 ID,就能透過以工作為中心的觀測能力,立即將全端的指標相互關聯,將數小時的猜測化為幾次點擊,快速找出任何速度減緩的根本原因。

叢集管理與觀測能力

偵測硬體問題

自我修復功能

您可以使用 Cluster Director 主動偵測、修復基礎架構問題,並從中復原。

例如,您可隨時進行健康狀態檢查、偵測進度落後項目,並使用 AI 健康狀態預測工具主動找出問題。

自我修復功能
自我修復功能

您可以使用 Cluster Director 主動偵測、修復基礎架構問題,並從中復原。

例如,您可隨時進行健康狀態檢查、偵測進度落後項目,並使用 AI 健康狀態預測工具主動找出問題。

自我修復功能

定價

Cluster Director 的定價方式使用 Cluster Director 不會產生額外費用。您只需為叢集使用的基本 Google Cloud 資源付費,例如運算、儲存空間和網路。
服務說明價格 (美元)

免費開始使用

新使用者可獲得 $300 美元的免費試用抵免額,可在 90 天內使用。

免付費

Compute Engine 免費方案每月提供一個 e2-micro VM 執行個體、標準永久磁碟儲存空間 (最多 30 GB),以及資料傳出配額 (最多 1 GB)。

免付費

VM 執行個體、儲存空間和網路

詳情請參閱 Compute Engine 定價。

只需要為實際使用的服務付費。無須預繳費用。也不必支付終止費用。實際費用會因產品和用量而異。

起始價

$0.01 美元

(e2-micro,即付即用)

Cluster Director 的定價方式

使用 Cluster Director 不會產生額外費用。您只需為叢集使用的基本 Google Cloud 資源付費,例如運算、儲存空間和網路。

免費開始使用

說明

新使用者可獲得 $300 美元的免費試用抵免額,可在 90 天內使用。

價格 (美元)

免付費

Compute Engine 免費方案每月提供一個 e2-micro VM 執行個體、標準永久磁碟儲存空間 (最多 30 GB),以及資料傳出配額 (最多 1 GB)。

說明

免付費

VM 執行個體、儲存空間和網路

說明

詳情請參閱 Compute Engine 定價。

只需要為實際使用的服務付費。無須預繳費用。也不必支付終止費用。實際費用會因產品和用量而異。

價格 (美元)

Starting at

$0.01 美元

(e2-micro,即付即用)

Pricing Calculator

估算每個月的費用,包括叢集管理費用。

需要協助嗎?

透過線上即時通訊與我們聯絡、直接致電,或是請我們回電。

準備好試用了嗎?

申請免費試用,即可獲得 $300 美元的抵免額,使用期限為 90 天。

要進行大型專案嗎?

使用 AI/機器學習訓練範本,在 Cluster Director 中建立並連線至 Slurm 叢集

透過 Google Cloud Skills Boost 選擇學習路徑、培養技能及驗收學習成果

取得技術支援或提供產品意見回饋

Google Cloud