Cluster Director
Orkestrasi AI untuk cluster Kubernetes dan Slurm
Konfigurasi, deploy, dan kelola cluster AI atau HPC dengan mudah. Dapatkan keuntungan otomatisasi dari infrastruktur terkelola tanpa membatasi kontrol Anda.
Fitur
Layanan infrastruktur terkelola untuk Slurm dan Kubernetes
Anda dapat mengakses kemampuan Cluster Director dengan dua cara:
- Langsung melalui bidang kontrol, API, atau CLI untuk tugas menggunakan Slurm atau orchestrator kustom. Lingkungan terpadu ini juga terintegrasi dengan Google Kubernetes Engine (GKE), sehingga memberi Anda satu antarmuka yang canggih untuk membuat dan mengawasi cluster Slurm dan Kubernetes.
- Dalam GKE atau Compute Engine. Dalam konteks ini, Anda dapat mengakses kemampuan Cluster Director sambil bekerja dari lingkungan yang sudah dikenal.
Penjadwalan tugas, lebih mudah
Cluster Director menyediakan penjadwalan tugas yang fault-tolerant dan sangat skalabel secara otomatis. Node pengontrol dikelola untuk Anda. Anda dapat dengan mudah mengonfigurasi node login untuk cluster Anda, termasuk jenis mesin, image sumber, dan ukuran boot disk.
Pengelolaan cluster yang intuitif
Gunakan bidang kontrol untuk membuat, mengupdate, dan menghapus cluster Anda dengan mudah. Hal ini juga menyederhanakan jaringan dengan memungkinkan Anda men-deploy cluster di jaringan VPC baru yang dibuat khusus atau yang sudah ada. Untuk penyimpanan, Anda dapat membuat dan melampirkan instance Filestore atau Google Cloud Managed Lustre baru, atau terhubung ke bucket Cloud Storage yang sudah ada.
Penempatan sesuai topologi
Untuk memaksimalkan performa, Cluster Director terintegrasi secara mendalam dengan topologi jaringan Google. Hal ini memastikan bahwa VM dalam cluster ditempatkan dalam jarak fisik yang dekat, sehingga mengurangi latensi jaringan—yang penting untuk workload pelatihan terdistribusi yang sangat tersinkronisasi.
Visibilitas dan insight komprehensif
Dasbor kemampuan observasi terintegrasi dari Cluster Director memberikan tampilan yang jelas tentang kondisi, pemanfaatan, dan performa cluster Anda, sehingga Anda dapat dengan cepat memahami perilaku sistem dan mendiagnosis masalah di satu tempat. Dasbor ini dirancang agar mudah diskalakan ke puluhan ribu VM.
Sesi pelatihan tanpa gangguan
Dapatkan keandalan dasar dengan meminta Bill of Health, serta fitur tambahan seperti pemeriksaan checkpoint 3 tingkat dan kontrol pemeliharaan lanjutan untuk membantu memaksimalkan efisiensi pelatihan.
Cara Kerjanya
Pengguna infrastruktur AI dapat menghabiskan waktu berminggu-minggu untuk berjuang dengan konfigurasi sebelum menekan 'deploy', tetapi tidak harus seperti itu. Pelajari apa yang dapat Anda harapkan sebagai pengguna Cluster Director pertama kali, mulai dari menyiapkan lingkungan hingga deployment, hingga mengubah gangguan menjadi peristiwa terkelola.
Pengguna infrastruktur AI dapat menghabiskan waktu berminggu-minggu untuk berjuang dengan konfigurasi sebelum menekan 'deploy', tetapi tidak harus seperti itu. Pelajari apa yang dapat Anda harapkan sebagai pengguna Cluster Director pertama kali, mulai dari menyiapkan lingkungan hingga deployment, hingga mengubah gangguan menjadi peristiwa terkelola.
Kualifikasi dan persiapan pra-deployment
Mendesain fondasi yang andal dan berperforma tinggi
Sebelum membuat cluster, Anda memerlukan jaminan bahwa akselerator Anda akan berperforma baik dan andal sejak awal. Cluster Director menyediakan penempatan cerdas yang mengutamakan topologi untuk TPU dan GPU Anda.
Setiap komponen komputasi, jaringan, dan penyimpanan divalidasi melalui proses kualifikasi multitahap yang ketat, yang tercantum dalam Bill of Health secara terperinci serta memberikan bukti kualitas dan kesiapan terbaik.
Referensi pembelajaran
Mendesain fondasi yang andal dan berperforma tinggi
Sebelum membuat cluster, Anda memerlukan jaminan bahwa akselerator Anda akan berperforma baik dan andal sejak awal. Cluster Director menyediakan penempatan cerdas yang mengutamakan topologi untuk TPU dan GPU Anda.
Setiap komponen komputasi, jaringan, dan penyimpanan divalidasi melalui proses kualifikasi multitahap yang ketat, yang tercantum dalam Bill of Health secara terperinci serta memberikan bukti kualitas dan kesiapan terbaik.
Men-deploy cluster Anda
Deploy cluster Anda dalam hitungan menit, bukan hari
Hilangkan kompleksitas dalam menyiapkan cluster GKE atau Slurm. Mulai dengan arsitektur referensi yang tervalidasi, pilih akselerator dan resource penyimpanan Anda, dan biarkan Cluster Director mengerjakan sisanya.
Deploy lingkungan yang dioptimalkan sepenuhnya dalam skala apa pun dengan praktik terbaik Google untuk performa dan topologi yang terintegrasi, sehingga mengurangi waktu deployment secara drastis.
Referensi pembelajaran
Deploy cluster Anda dalam hitungan menit, bukan hari
Hilangkan kompleksitas dalam menyiapkan cluster GKE atau Slurm. Mulai dengan arsitektur referensi yang tervalidasi, pilih akselerator dan resource penyimpanan Anda, dan biarkan Cluster Director mengerjakan sisanya.
Deploy lingkungan yang dioptimalkan sepenuhnya dalam skala apa pun dengan praktik terbaik Google untuk performa dan topologi yang terintegrasi, sehingga mengurangi waktu deployment secara drastis.
Mengelola cluster Anda
Pengelolaan dan kemampuan observasi cluster
Jembatani kesenjangan antara infrastruktur mentah dan menjalankan tugas dengan satu konsol untuk cluster Slurm Anda. Dapatkan tampilan topologi kesehatan dan pemanfaatan cluster.
Saat masalah muncul, gunakan kemampuan observasi yang berpusat pada tugas untuk langsung menghubungkan metrik di seluruh stack penuh dengan satu ID tugas, mengubah tebakan berjam-jam menjadi beberapa klik dan dengan cepat mengidentifikasi akar penyebab perlambatan.
Referensi pembelajaran
Pengelolaan dan kemampuan observasi cluster
Jembatani kesenjangan antara infrastruktur mentah dan menjalankan tugas dengan satu konsol untuk cluster Slurm Anda. Dapatkan tampilan topologi kesehatan dan pemanfaatan cluster.
Saat masalah muncul, gunakan kemampuan observasi yang berpusat pada tugas untuk langsung menghubungkan metrik di seluruh stack penuh dengan satu ID tugas, mengubah tebakan berjam-jam menjadi beberapa klik dan dengan cepat mengidentifikasi akar penyebab perlambatan.
Mendeteksi masalah hardware
Kemampuan pemulihan mandiri
Anda dapat menggunakan Cluster Director untuk mendeteksi, memperbaiki, dan memulihkan masalah infrastruktur secara proaktif.
Misalnya, Anda mendapatkan health check yang selalu aktif, deteksi straggler, dan prediktor kesehatan AI untuk mengidentifikasi masalah secara proaktif.
Referensi pembelajaran
Kemampuan pemulihan mandiri
Anda dapat menggunakan Cluster Director untuk mendeteksi, memperbaiki, dan memulihkan masalah infrastruktur secara proaktif.
Misalnya, Anda mendapatkan health check yang selalu aktif, deteksi straggler, dan prediktor kesehatan AI untuk mengidentifikasi masalah secara proaktif.
Harga
| Cara kerja penetapan harga Cluster Director | Tidak ada biaya tambahan untuk menggunakan Cluster Director. Anda hanya membayar resource Google Cloud yang mendasarinya yang digunakan oleh cluster Anda, seperti komputasi, penyimpanan, dan jaringan. | |
|---|---|---|
| Layanan | Deskripsi | Harga (USD) |
Memulai tanpa biaya | Pengguna baru mendapatkan kredit uji coba gratis senilai $300 untuk digunakan dalam waktu 90 hari. | Gratis |
Paket gratis Compute Engine memberi Anda satu instance VM e2-micro, penyimpanan persistent disk standar hingga 30 GB, dan transfer data keluar hingga 1 GB per bulan. | Gratis | |
Instance VM, penyimpanan, dan jaringan | Tinjau harga Compute Engine kami untuk informasi lebih lanjut. Hanya bayar untuk layanan yang Anda gunakan. Tidak ada biaya di muka. Tidak ada biaya penghentian. Harga bervariasi menurut produk dan penggunaan. | Mulai dari $0,01 (e2-micro, bayar sesuai penggunaan) |
Cara kerja penetapan harga Cluster Director
Tidak ada biaya tambahan untuk menggunakan Cluster Director. Anda hanya membayar resource Google Cloud yang mendasarinya yang digunakan oleh cluster Anda, seperti komputasi, penyimpanan, dan jaringan.
Memulai tanpa biaya
Pengguna baru mendapatkan kredit uji coba gratis senilai $300 untuk digunakan dalam waktu 90 hari.
Gratis
Paket gratis Compute Engine memberi Anda satu instance VM e2-micro, penyimpanan persistent disk standar hingga 30 GB, dan transfer data keluar hingga 1 GB per bulan.
Gratis
Instance VM, penyimpanan, dan jaringan
Tinjau harga Compute Engine kami untuk informasi lebih lanjut.
Hanya bayar untuk layanan yang Anda gunakan. Tidak ada biaya di muka. Tidak ada biaya penghentian. Harga bervariasi menurut produk dan penggunaan.
Starting at
$0,01
(e2-micro, bayar sesuai penggunaan)
