Halaman ini menjelaskan cara menggunakan kembali cluster Dataproc untuk menjalankan pipeline di Cloud Data Fusion. Untuk informasi selengkapnya, lihat Kapan harus menggunakan kembali cluster dan Menjalankan pipeline pada cluster Dataproc yang ada.
Sebelum memulai
- Anda harus memiliki instance Cloud Data Fusion versi 6.5.0 atau yang lebih baru.
Mengaktifkan penggunaan kembali cluster
Anda dapat menggunakan kembali cluster di profil komputasi baru, atau di profil yang telah digunakan dalam pipeline yang di-deploy.
Mengaktifkan penggunaan kembali cluster di profil baru
Buka instance Anda:
Di konsol Google Cloud, buka halaman Cloud Data Fusion.
Untuk membuka instance di Cloud Data Fusion Studio, klik Instance, lalu klik View instance.
Klik Admin sistem > Konfigurasi > Profil komputasi sistem.
Klik Buat profil baru.
Pilih penyedia Dataproc.
Di jendela Create a profile for Dataproc, masukkan detail tentang cluster Anda:
- Di kolom Label profil dan Nama profil, masukkan nama untuk
mengidentifikasi profil—misalnya,
execution_compute-profile
. - Di kolom Deskripsi, jelaskan tujuan
profil—misalnya,
Profile used for pipeline execution
. - Di kolom Max idle time, masukkan nilai. Untuk mengetahui informasi selengkapnya, lihat Menetapkan waktu tidak ada aktivitas maksimum.
- Tetapkan kolom Lewati penghapusan cluster ke
True
. Untuk informasi selengkapnya, lihat Kapan harus menggunakan kembali cluster. - Opsional: konfigurasikan kolom opsional lainnya.
- Klik Create.
- Di kolom Label profil dan Nama profil, masukkan nama untuk
mengidentifikasi profil—misalnya,
Mengaktifkan penggunaan kembali cluster di pipeline yang di-deploy
Buka instance Anda:
Di konsol Google Cloud, buka halaman Cloud Data Fusion.
Untuk membuka instance di Cloud Data Fusion Studio, klik Instance, lalu klik View instance.
Klik Daftar.
Klik tab Di-deploy, lalu klik nama pipeline. Pipeline yang di-deploy akan terbuka di halaman Studio di antarmuka web Cloud Data Fusion.
Klik Konfigurasikan.
Di jendela Compute config, buka profil yang dipilih, lalu klik Customize.
Di jendela yang terbuka, masukkan nilai berikut:
- Di kolom Max Idle Time, masukkan nilai. Untuk mengetahui informasi selengkapnya, lihat Menetapkan waktu tidak ada aktivitas maksimum.
- Tetapkan Lewati penghapusan cluster ke
True
. Untuk informasi selengkapnya, lihat Kapan harus menggunakan kembali cluster.
Klik Done.
Langkah selanjutnya
- Pelajari lebih lanjut cara mengonfigurasi cluster.
- Memecahkan masalah penghapusan cluster.