Halaman ini diterjemahkan oleh Cloud Translation API.

Kelompok mesin yang dioptimalkan akselerator

Kelompok mesin yang dioptimalkan akselerator dirancang oleh Google Cloud guna memberikan performa dan efisiensi yang dibutuhkan untuk workload yang dipercepat GPU seperti kecerdasan buatan (AI), machine learning (ML), dan komputasi berperforma tinggi (HPC).

Kelompok mesin yang dioptimalkan akselerator tersedia dalam seri mesin berikut: A3, A2, dan G2. Setiap jenis mesin dalam rangkaian memiliki model dan jumlah GPU NVIDIA yang terpasang. Anda juga dapat melampirkan beberapa model GPU ke jenis mesin N1 yang memiliki tujuan umum.

Rekomendasi seri mesin menurut jenis workload

Bagian berikut menyajikan rangkaian mesin yang direkomendasikan berdasarkan workload GPU Anda.

Model AI besar

Jenis workload	Sesuai untuk	Alternatif yang baik
Beberapa pelatihan server (terdistribusi)	A3	A2
Inferensi	A3, A2

Model mainstream

Jenis workload	Sesuai untuk	Alternatif yang baik (dalam urutan yang direkomendasikan)
Beberapa pelatihan server (terdistribusi)	A3	A2 G2 N1+V100
Pelatihan server tunggal	A3, A2	G2 N1+V100
Inferensi	G2	N1+T4 N1+V100

Workload intensif grafis

Jenis beban kerja	Paling sesuai (dalam urutan yang direkomendasikan)
Streaming dan transcoding video, workstation virtual jarak jauh, kembar digital	G2 N1+T4

Komputasi berperforma tinggi

Untuk workload komputasi berperforma tinggi, semua rangkaian mesin yang dioptimalkan akselerator akan berfungsi dengan baik. Kecocokan terbaik bergantung pada jumlah komputasi yang harus dialihkan ke GPU.

Harga dan diskon

Semua jenis mesin yang dioptimalkan akselerator mendukung opsi diskon dan konsumsi berikut:

Jenis mesin yang dioptimalkan akselerator akan dikenai biaya untuk GPU yang terpasang, vCPU yang telah ditetapkan, memori, dan SSD Lokal yang dipaketkan (jika ada). Untuk mengetahui informasi selengkapnya mengenai VM yang dioptimalkan akselerator, lihat bagian Kelompok jenis mesin yang dioptimalkan akselerator di halaman harga instance VM.

Seri mesin A3

Seri mesin A3 tersedia dalam jenis mesin standar dan memiliki 208 vCPU, serta memori hingga 1.872 GB. Rangkaian mesin ini dioptimalkan untuk memerlukan komputasi dan memori, pelatihan ML yang terikat jaringan, serta workload HPC.

Rangkaian mesin A3 juga menyediakan fitur berikut:

Hardware generasi berikutnya: setiap jenis mesin A3 telah dilengkapi GPU NVIDIA H100, yang menawarkan memori GPU 80 GB per GPU dan sangat ideal untuk model bahasa, database, dan HPC berbasis transformer besar.

Seri mesin ini dibangun menggunakan pemroses Intel Xeon Scalable Generasi ke-4 (Sapphire Rapids) dan menawarkan frekuensi turbo maksimum single-core berkelanjutan hingga 3,3 GHz.
Skala NVLink terdepan di industri: GPU NVIDIA H100 memberikan bandwidth NVLink GPU puncak sebesar 450 GB/dtk, secara searah. Dengan topologi NVLink menyeluruh antara 8 GPU dalam satu sistem, Bandwidth NVLink gabungan mencapai 7,2 TB/dtk. GPU ini dapat digunakan sebagai akselerator berperforma tinggi tunggal dengan ruang memori terpadu untuk memberikan daya komputasi AI/DL/ML hingga 25 petaFLOPS dan daya komputasi inferensi hingga 50 petaFLOPS.
Kecepatan komputasi dan jaringan yang lebih baik: GPU NVIDIA H100 menawarkan peningkatan kecepatan komputasi hingga 2,5X lipat dan bandwidth jaringan virtual machine (VM) 10x lipat jika dibandingkan dengan GPU NVIDIA A100 generasi sebelumnya.
Setiap VM a3-highgpu-8g memiliki lima kartu antarmuka jaringan fisik (NIC), empat di antaranya menggunakan bus Peripheral Component Interconnect Express (PCIe) yang sama dan memiliki penyelarasan akses memori (NUMA) tidak seragam sebesar satu NIC per dua GPU NVIDIA H100 80 GB. Keempat NIC fisik ini ideal untuk GPU GPU bandwidth tinggi khusus untuk komunikasi GPU. NIC fisik lainnya berada di bus PCIe yang terpisah dan ideal untuk kebutuhan jaringan lainnya. Setiap NIC memiliki bandwidth maksimum 200 Gbps, dengan total bandwidth maksimum 1000 Gbps (1 Tbps) per VM.
Peningkatan performa cluster GPU dengan GPUDirect-TCPX: GPUDirect-TCPX meningkatkan performa jaringan dengan mengizinkan payload paket data untuk ditransfer langsung dari memori GPU ke antarmuka jaringan.

Dengan memanfaatkan GPUDirect-TCPX, VM A3 memberikan throughput tertinggi antar-VM dalam cluster jika dibandingkan dengan jenis mesin yang dioptimalkan akselerator A2 atau G2.

Untuk memaksimalkan performa cluster GPU dengan GPUDirect-TCPX, tinjau dokumen berikut:
- Untuk Compute Engine, lihat Memaksimalkan performa jaringan GPU dengan GPUDirect-TCPX
- Untuk Google Kubernetes Engine, lihat Memaksimalkan bandwidth jaringan GPU dengan GPUDirect-TCPX dan multi-jaringan
Pengoptimalan virtualisasi: Topologi Peripheral Component Interconnect Express (PCIe) VM A3 memberikan informasi lokalitas yang lebih akurat yang dapat digunakan workload untuk mengoptimalkan transfer data.

GPU NVIDIA H100 juga mengekspos Function Level Reset (FLR) untuk pemulihan elegan dari kegagalan dan dukungan operasi atomik untuk peningkatan serentak dalam skenario tertentu.
Penyimpanan: SSD Lokal 6 TB secara otomatis ditambahkan ke VM yang dibuat menggunakan jenis mesin A3. SSD lokal dapat digunakan untuk scratch disk cepat atau untuk memasukkan data ke GPU sekaligus mencegah bottleneck I/O.

Anda juga dapat memasang penyimpanan Persistent Disk hingga 257 TB ke jenis mesin dalam seri ini untuk aplikasi yang memerlukan performa penyimpanan yang lebih tinggi.
Dukungan kebijakan penempatan yang ringkas: memberi Anda kontrol lebih besar atas penempatan fisik VM dalam pusat data. Hal ini memungkinkan latensi yang lebih rendah dan bandwidth yang lebih tinggi untuk penempatan VM dalam satu zona ketersediaan. Kebijakan penempatan rapat mendukung hingga 96 VM di subset jaringan berlatensi lebih rendah, dalam zona tertentu.

Jenis disk yang didukung untuk A3

VM A3 dapat menggunakan jenis block storage berikut:

Persistent Disk Seimbang (pd-balanced)
Persistent Disk SSD (performa) (pd-ssd)
Hyperdisk Ekstrem (hyperdisk-extreme)
Throughput Hyperdisk (hyperdisk-throughput)
SSD lokal: yang otomatis ditambahkan ke VM yang dibuat menggunakan jenis mesin A3

Batas disk dan kapasitas

Anda dapat menggunakan campuran volume Persistent Disk dan Hyperdisk dengan VM, tetapi batasan berikut berlaku:

Jumlah gabungan volume Hyperdisk dan Persistent Disk tidak boleh melebihi 128 per VM.
Total kapasitas disk maksimum (dalam TiB) di semua jenis disk tidak boleh melebihi:
- Untuk jenis mesin yang memiliki kurang dari 32 vCPU:
  - 257 TiB untuk semua Hyperdisk atau semua Persistent Disk
  - 257 TiB untuk campuran Hyperdisk dan Persistent Disk
- Untuk jenis mesin dengan 32 vCPU atau lebih:
  - 512 TiB untuk semua Hyperdisk
  - 512 TiB untuk campuran Hyperdisk dan Persistent Disk
  - 257 TiB untuk semua Persistent Disk

Untuk mengetahui detail tentang batas kapasitas, lihat Batas kapasitas hyperdisk per VM dan Kapasitas maksimum Persistent Disk.

Jenis mesin standar A3

Jenis mesin ini memiliki jumlah tetap GPU H100.

Jenis mesin	Jumlah GPU	vCPU^*	Memori (GB)	Jumlah maksimum disk per VM, di semua disk^†	Total Hyperdisk maksimum volume per VM	Total ukuran disk maksimum di semua disk (TiB)^#	SSD Lokal	Bandwidth keluar maksimum (Gbps)^‡
`a3-highgpu-8g`	8	208	1872	128	Throughput Hyperdisk—64 Hyperdisk Ekstrem—8	512, termasuk Persistent Disk hingga 257 TiB	Ya	1.000

^* vCPU diimplementasikan sebagai hardware hyper-thread tunggal di salah satu platform CPU yang tersedia.
^†Penggunaan Hyperdisk dan Persistent Disk dikenai biaya secara terpisah dari harga jenis mesin.
^‡Bandwidth keluar maksimum tidak boleh melebihi jumlah yang diberikan. Bandwidth keluar yang sebenarnya bergantung pada alamat IP tujuan dan faktor lainnya. Lihat Bandwidth jaringan.
^#Untuk Throughput Hyperdisk, ukuran maksimum per volume adalah 32 TiB. Untuk semua volume Persistent Disk atau Hyperdisk lainnya, ukuran maksimumnya adalah 64 TiB.

Batasan standar A3

Anda tidak akan menerima diskon untuk penggunaan berkelanjutan dan diskon abonemen yang fleksibel untuk VM yang menggunakan jenis mesin standar A3.
Anda hanya dapat menggunakan jenis mesin standar A3 di region dan zona tertentu.
Anda tidak dapat menggunakan persistent disk regional pada VM yang menggunakan jenis mesin standar A3.
Jenis mesin standar A3 hanya tersedia di platform Safir Rapids.
Jika VM menggunakan jenis mesin standar A3, Anda tidak dapat mengubah jenis mesin. Jika perlu menggunakan jenis mesin lain, Anda harus membuat VM baru.
Anda tidak dapat mengubah jenis mesin lainnya menjadi jenis mesin standar A3. Jika perlu membuat VM yang menggunakan jenis mesin standar A3, Anda harus membuat VM baru.
Jenis mesin standar A3 tidak mendukung tenant tunggal.
Anda tidak dapat menjalankan jenis mesin standar A3 di sistem operasi Windows.

Seri mesin A2

Seri mesin A2 tersedia dalam jenis mesin standar A2 dan A2 ultra. Jenis mesin ini memiliki 12 hingga 96 vCPU, dan memori hingga 1360 GB.

Seri mesin A2 juga menyediakan fitur berikut:

GPU NVIDIA terpasang: setiap jenis mesin A2 memiliki GPU NVIDIA A100. GPU ini tersedia dalam opsi A100 40GB dan A100 80GB.
Skala NVLink terdepan di industri yang memberikan bandwidth NVLink GPU puncak ke GPU sebesar 600 GBps. Misalnya, sistem dengan 16 GPU memiliki bandwidth NVLink agregat hingga 9,6 TBps. Keseluruhan 16 GPU ini dapat digunakan sebagai satu akselerator berperforma tinggi dengan ruang memori terpadu untuk memberikan daya komputasi hingga 10 petaFLOPS dan daya komputasi inferensi hingga 20 petaFLOPS yang dapat digunakan untuk kecerdasan buatan, deep learning, dan workload machine learning.
Kecepatan Komputasi yang lebih baik: GPU NVIDIA A100 yang terpasang menawarkan peningkatan kecepatan komputasi hingga 10x lipat jika dibandingkan dengan GPU NVIDIA V100 generasi sebelumnya.

Dengan seri mesin A2, Anda bisa mendapatkan bandwidth jaringan hingga 100 Gbps.
Penyimpanan: untuk Scratch disk yang cepat atau untuk memasukkan data ke GPU sekaligus mencegah bottleneck I/O, jenis mesin A2 mendukung SSD Lokal sebagai berikut:
- Untuk jenis mesin standar A2, Anda dapat menambahkan hingga 3 TB SSD Lokal.
- Untuk jenis mesin ultra A2, SSD Lokal otomatis terpasang saat Anda membuat VM.
Anda juga dapat memasang penyimpanan Persistent Disk hingga 257 TB ke VM A2 untuk aplikasi yang memerlukan performa penyimpanan yang lebih tinggi ini.
Dukungan kebijakan penempatan yang ringkas: memberi Anda kontrol lebih besar atas penempatan fisik VM dalam pusat data. Hal ini memungkinkan latensi yang lebih rendah dan bandwidth yang lebih tinggi untuk penempatan VM dalam satu zona ketersediaan. Untuk mengetahui informasi selengkapnya, lihat Mengurangi latensi dengan menggunakan kebijakan penempatan yang ringkas.

Jenis disk yang didukung untuk A2

VM A2 dapat menggunakan jenis block storage berikut:

Persistent Disk Seimbang (pd-balanced)
Persistent Disk SSD (performa) (pd-ssd)
Persistent Disk Standar (pd-standard)
SSD lokal: yang otomatis dipasang ke VM yang dibuat menggunakan jenis mesin ultra A2.

Jenis mesin standar A2

Jenis mesin ini memiliki jumlah tetap GPU A100 40 GB.

Jenis mesin	Jumlah GPU	vCPU^*	Memori (GB)	Jumlah maksimum volume Persistent Disk^†	Total Persistent Disk maksimum (TB)	SSD Lokal	Bandwidth keluar maksimum (Gbps)^‡
`a2-highgpu-1g`	1	12	85	128	257	Ya	24
`a2-highgpu-2g`	2	24	170	128	257	Ya	32
`a2-highgpu-4g`	4	48	340	128	257	Ya	50
`a2-highgpu-8g`	8	96	680	128	257	Ya	100
`a2-megagpu-16g`	16	96	1360	128	257	Ya	100

Batasan standar A2

Anda tidak akan menerima diskon untuk penggunaan berkelanjutan dan diskon abonemen yang fleksibel untuk VM yang menggunakan jenis mesin standar A2.
Anda hanya dapat menggunakan jenis mesin standar A2 di region dan zona tertentu.
Anda tidak dapat menggunakan persistent disk regional pada VM yang menggunakan jenis mesin standar A2.
Jenis mesin standar A2 hanya tersedia di platform Casscade Lake.
Jika VM menggunakan jenis mesin standar A2, Anda hanya dapat beralih dari satu jenis mesin standar A2 ke jenis mesin standar A2 lainnya. Anda tidak dapat beralih ke jenis mesin lainnya. Untuk mengetahui informasi selengkapnya, lihat Mengubah VM yang dioptimalkan akselerator.
Anda tidak dapat menggunakan jenis mesin standar a2-megagpu-16g A2 pada sistem operasi Windows. Saat menggunakan sistem operasi Windows, pilih jenis mesin standar A2 yang berbeda.
Anda tidak dapat melakukan format cepat SSD Lokal yang terpasang di VM Windows yang menggunakan jenis mesin standar A2. Untuk memformat SSD Lokal ini, Anda harus membuat format penuh dengan menggunakan utilitas diskpart dan menentukan format fs=ntfs label=tmpfs.
Jenis mesin standar A2 tidak mendukung tenant tunggal.

Jenis mesin A2 ultra

Jenis mesin ini memiliki jumlah tetap GPU A100 80 GB. SSD lokal secara otomatis dipasang ke VM yang dibuat menggunakan jenis mesin ultra A2.

Jenis mesin	Jumlah GPU	vCPU^*	Memori (GB)	Jumlah maksimum volume Persistent Disk^†	Total Persistent Disk maksimum (TB)	SSD Lokal Paket	Bandwidth keluar maksimum (Gbps)^‡
`a2-ultragpu-1g`	1	12	170	128	257	375 GB	24
`a2-ultragpu-2g`	2	24	340	128	257	750 GB	32
`a2-ultragpu-4g`	4	48	680	128	257	1,5 TB	50
`a2-ultragpu-8g`	8	96	1360	128	257	3 TB	100

Batasan A2 ultra

Anda tidak akan menerima diskon untuk penggunaan berkelanjutan dan diskon abonemen yang fleksibel untuk VM yang menggunakan jenis mesin Ultra A2.
Anda hanya dapat menggunakan jenis mesin A2 ultra di region dan zona tertentu.
Anda tidak dapat menggunakan persistent disk regional pada VM yang menggunakan jenis mesin ultra A2.
Jenis mesin ultra A2 hanya tersedia di platform Casscade Lake.
Jika VM Anda menggunakan jenis mesin ultra A2, Anda tidak dapat mengubah jenis mesin. Jika perlu menggunakan jenis mesin A2 ultra lainnya, atau jenis mesin lainnya, Anda harus membuat VM baru.
Anda tidak dapat mengubah jenis mesin lainnya menjadi jenis mesin A2 ultra. Jika perlu membuat VM yang menggunakan jenis mesin ultra A2, Anda harus membuat VM baru.
Anda tidak dapat melakukan format cepat SSD Lokal yang terpasang di VM Windows yang menggunakan jenis mesin ultra A2. Untuk memformat SSD Lokal ini, Anda harus membuat format penuh dengan menggunakan utilitas diskpart dan menentukan format fs=ntfs label=tmpfs.

Seri mesin G2

Seri mesin G2 tersedia dalam jenis mesin standar yang memiliki 4 hingga 96 vCPU, dan memori hingga 432 GB. Seri mesin ini dioptimalkan untuk workload inferensi dan grafis.

Seri mesin G2 juga menyediakan fitur berikut:

GPU NVIDIA terpasang: setiap jenis mesin G2 memiliki GPU NVIDIA L4.
Kecepatan inferensi yang lebih baik: jenis mesin G2 menyediakan dukungan untuk jenis data FP8 (floating point 8-bit) yang mempercepat kecepatan inferensi ML dan mengurangi kebutuhan memori.
Performa grafis generasi berikutnya: GPU NVIDIA L4 memberikan peningkatan performa grafis hingga 3X lipat menggunakan teknologi RT core generasi ketiga dan NVIDIA DLSS 3 (Deep Learning Super Sampling).
Bandwidth jaringan berperforma tinggi: dengan rangkaian mesin G2, Anda bisa mendapatkan bandwidth jaringan hingga 100 Gbps.
Penyimpanan: Anda dapat menambahkan hingga 3 TB SSD Lokal ke VM G2. Ini dapat digunakan untuk scratch disk cepat atau untuk memasukkan data ke GPU sekaligus mencegah bottleneck I/O.

Anda juga dapat memasang volume Hyperdisk dan Persistent Disk ke VM G2, untuk aplikasi yang memerlukan penyimpanan yang lebih persisten. Kapasitas penyimpanan maksimum bergantung pada jumlah vCPU yang dimiliki VM. Untuk mengetahui detailnya, lihat Jenis disk yang didukung.
Dukungan kebijakan penempatan yang ringkas: memberi Anda kontrol lebih besar atas penempatan fisik VM dalam pusat data. Hal ini memungkinkan latensi yang lebih rendah dan bandwidth yang lebih tinggi untuk penempatan VM dalam satu zona ketersediaan. Untuk mengetahui informasi selengkapnya, lihat Mengurangi latensi dengan menggunakan kebijakan penempatan yang ringkas.

Jenis disk yang didukung untuk G2

VM G2 dapat menggunakan jenis block storage berikut:

Persistent Disk Seimbang (pd-balanced)
Persistent Disk SSD (performa) (pd-ssd)
Throughput Hyperdisk (hyperdisk-throughput)
SSD Lokal