Anda dapat mengonfigurasi Vertex AI untuk melakukan peering dengan Virtual Private Cloud (VPC) agar dapat terhubung langsung dengan resource tertentu di Vertex AI, termasuk:
- Pelatihan kustom
- Pembagian NFS untuk pelatihan kustom
- Endpoint prediksi pribadi
- Vektor yang cocok dengan kueri online
- Pipelines
- Instance notebook terkelola
Panduan ini menunjukkan cara menyiapkan Peering Jaringan VPC untuk melakukan peering jaringan Anda dengan resource Vertex AI. Panduan ini direkomendasikan bagi administrator jaringan yang sudah memahami konsep jaringan Google Cloud.
Ringkasan
Panduan ini mencakup tugas-tugas berikut:
- Konfigurasi akses layanan pribadi untuk VPC. Tindakan ini akan membuat koneksi peering antara VPC Anda dan jaringan VPC bersama Google.
- Pertimbangkan rentang IP yang perlu Anda cadangkan untuk Vertex AI.
- Jika ada, ekspor rute kustom agar Vertex AI dapat mengimpornya.
Sebelum memulai
- Pilih VPC yang ingin Anda lakukan peering dengan resource Vertex AI.
- Pilih atau buat project Google Cloud yang akan digunakan untuk Vertex AI.
-
Make sure that billing is enabled for your Google Cloud project.
-
Aktifkan API Compute Engine API, Vertex AI API, and Service Networking.
- Anda juga dapat menggunakan VPC Bersama. Jika menggunakan VPC Bersama, Anda biasanya menggunakan Vertex AI dalam project Google Cloud yang terpisah dari project host VPC Anda. Aktifkan Compute Engine API dan Service Networking API di kedua project. Pelajari cara menyediakan VPC Bersama.
- Instal gcloud CLI jika Anda ingin menjalankan contoh
gcloud
dalam panduan ini.
Peran yang diperlukan
Jika Anda bukan pemilik atau editor project, pastikan Anda memiliki
peran Compute Network Admin (roles/compute.networkAdmin
), yang mencakup peran yang diperlukan untuk mengelola sumber daya jaringan.
Peering dengan jaringan lokal
Untuk Peering Jaringan VPC dengan jaringan lokal, ada langkah-langkah tambahan:
- Hubungkan jaringan lokal ke VPC Anda. Anda dapat menggunakan tunnel VPN atau Interconnect.
- Siapkan rute kustom dari VPC ke jaringan lokal Anda.
- Ekspor rute kustom Anda agar Vertex AI dapat mengimpornya.
Menyiapkan akses layanan pribadi untuk VPC Anda
Saat menyiapkan akses layanan pribadi, Anda membuat koneksi pribadi antara jaringan Anda dan jaringan milik Google atau layanan pihak ketiga (produsen layanan). Dalam hal ini, Vertex AI adalah produsen layanan. Untuk menyiapkan akses layanan pribadi, Anda mencadangkan rentang IP untuk produsen layanan, lalu membuat koneksi peering dengan Vertex AI.
Jika Anda sudah memiliki VPC dengan akses layanan pribadi terkonfigurasi, lanjutkan ke mengekspor rute kustom.
- Tetapkan variabel lingkungan untuk project ID, nama rentang yang dicadangkan, dan nama jaringan Anda. Jika Anda menggunakan VPC Bersama, gunakan project ID dari project host VPC Anda. Jika tidak, gunakan project ID dari project Google Cloud yang Anda gunakan untuk Vertex AI.
- Aktifkan API yang diperlukan. Jika Anda menggunakan VPC Bersama, lihat Menggunakan VPC Bersama dengan Vertex AI.
- Tetapkan rentang yang dicadangkan menggunakan
gcloud compute addresses create
. Buat koneksi peering antara project host VPC Anda dan Jaringan Layanan Google, menggunakan
gcloud services vpc-peerings connect
.Untuk endpoint prediksi pribadi, sebaiknya cadangkan setidaknya satu blok
/21
bagi subnet untuk hosting model. Menyimpan blok yang lebih kecil dapat menyebabkan error deployment karena alamat IP tidak memadai. Anda dapat memilih menggunakan alamat non-RFC 1918 untuk deployment.PROJECT_ID=YOUR_PROJECT_ID gcloud config set project $PROJECT_ID # This is for display only; you can name the range anything. PEERING_RANGE_NAME=google-reserved-range NETWORK=YOUR_NETWORK_NAME # NOTE: `prefix-length=16` means a CIDR block with mask /16 will be # reserved for use by Google services, such as Vertex AI. gcloud compute addresses create $PEERING_RANGE_NAME \ --global \ --prefix-length=16 \ --description="peering range for Google service" \ --network=$NETWORK \ --purpose=VPC_PEERING # Create the VPC connection. gcloud services vpc-peerings connect \ --service=servicenetworking.googleapis.com \ --network=$NETWORK \ --ranges=$PEERING_RANGE_NAME \ --project=$PROJECT_ID
Pelajari akses layanan pribadi lebih lanjut.
Menggunakan VPC Bersama dengan Vertex AI
Jika menggunakan VPC Bersama di project Anda, lihat cara Menyediakan VPC Bersama dan pastikan untuk menyelesaikan langkah-langkah berikut:
Aktifkan Compute Engine API dan Service Networking API di project layanan dan host. Vertex AI API harus diaktifkan untuk project layanan.
Buat koneksi Peering Jaringan VPC antara VPC dan layanan Google dalam project host.
Selama pembuatan Vertex AI, Anda harus menentukan nama jaringan yang Anda ingin agar Vertex AI memiliki akses ke VPC Bersama.
Pastikan akun layanan atau pengguna yang digunakan memiliki peran peran Compute Network User (
roles/compute.networkUser
).
Mencadangkan rentang IP untuk Vertex AI
Saat Anda mencadangkan rentang IP untuk produsen layanan, rentang tersebut dapat digunakan oleh Vertex AI dan layanan lainnya. Jika Anda terhubung dengan beberapa produsen layanan menggunakan rentang yang sama, alokasikan rentang yang lebih besar untuk mengakomodasinya, guna menghindari kehabisan IP.
Jika diluncurkan dengan parameter di bawah ini, tugas akan diluncurkan di jaringan yang dikelola Google yang di-peering ke VPC Anda dan jaringan lain yang menyertainya:
--network = "projects/${host_project}/global/networks/${network}"
Tugas apa pun yang tidak perlu mengakses jaringan Anda dapat diluncurkan tanpa deklarasi ini, sehingga akan mempertahankan alokasi IP Anda.
Ekspor rute kustom
Jika menggunakan rute kustom, Anda harus mengekspornya agar Vertex AI dapat mengimpornya. Jika Anda tidak menggunakan rute kustom, lewati bagian ini.
Untuk mengekspor rute kustom, perbarui koneksi peering di VPC Anda. Mengekspor rute kustom akan mengirimkan semua rute statis dan dinamis yang memenuhi syarat yang berada di jaringan VPC Anda, seperti rute ke jaringan lokal, ke jaringan produsen layanan (Vertex AI dalam kasus ini). Tindakan ini akan membentuk koneksi yang diperlukan dan memungkinkan tugas pelatihan mengirim traffic kembali ke jaringan lokal Anda.
Pastikan jaringan lokal Anda memiliki rute kembali ke rentang alamat IP yang dialokasikan untuk Vertex AI sehingga respons dirutekan kembali dengan benar ke Vertex AI. Misalnya, gunakan iklan rute kustom Cloud Router yang mencakup rentang alamat IP Vertex AI.
Pelajari koneksi pribadi dengan jaringan lokal lebih lanjut.
Konsol
- Buka halaman Peering Jaringan VPC di konsol Google Cloud.
Buka halaman Peering Jaringan VPC - Pilih koneksi peering yang akan diperbarui.
- Klik Edit.
- Pilih Export custom routes.
gcloud
Temukan nama koneksi peering yang akan diupdate. Jika Anda memiliki beberapa koneksi peering, hapus flag
--format
.gcloud services vpc-peerings list \ --network=$NETWORK \ --service=servicenetworking.googleapis.com \ --project=$PROJECT_ID \ --format "value(peering)"
Perbarui koneksi peering untuk mengekspor rute kustom.
gcloud compute networks peerings update PEERING-NAME \ --network=$NETWORK \ --export-custom-routes \ --project=$PROJECT_ID
Memeriksa status koneksi peering
Untuk melihat apakah koneksi peering aktif, Anda dapat mencantumkannya menggunakan
gcloud compute networks peerings list --network $NETWORK
Anda akan melihat bahwa status peering yang baru saja dibuat adalah ACTIVE
.
Pelajari koneksi peering aktif lebih lanjut.
Pemecahan masalah
Bagian ini berisi daftar beberapa masalah umum dalam mengonfigurasi Peering Jaringan VPC dengan Vertex AI.
Saat Anda mengonfigurasi Vertex AI untuk menggunakan jaringan VPC Bersama, tentukan URI jaringan dengan cara berikut.
"projects/YOUR_SHARED_VPC_HOST_PROJECT/global/networks/YOUR_SHARED_VPC_NETWORK"
Jika Anda menentukan jaringan VPC Bersama untuk digunakan oleh Vertex AI, pastikan setiap pengguna atau pelaku Akun Layanan untuk Vertex AI dalam project layanan telah diberikan peran
compute.networkUser
di project host Anda.Pastikan Anda telah mengalokasikan rentang IP yang cukup untuk semua produsen layanan yang terhubung ke jaringan Anda, termasuk Vertex AI.
Jika mendapatkan pesan error
IP_SPACE_EXHAUSTED
,RANGES_EXHAUSTED
, atauPEERING_RANGE_EXHAUSTED
, Anda harus meningkatkan jumlah alamat IP yang tersedia untuk reservasiservicenetworking
di jaringan Anda. Anda dapat menambahkan rentang baru ke konfigurasi Peering Jaringan VPC yang ada atau menghapus beberapa resource Vertex AI untuk merilis alamat IP yang dialokasikan.Waktu Tunggu Koneksi: Setelah mengekspor rute kustom, koneksi dari Vertex AI akan dirutekan melalui jaringan Anda untuk menjangkau endpoint di jaringan lain. Namun, endpoint tersebut mungkin tidak dirutekan melalui jaringan Anda untuk mengirim respons kembali ke Vertex AI. Pastikan Anda juga menambahkan rute statis atau dinamis di jaringan tersebut untuk jalur kembali ke rentang IP yang dialokasikan Vertex AI.
Error Waktu Tunggu Koneksi / Host Tidak Dapat Dijangkau: Karena peering transitif tidak didukung, koneksi dari Vertex AI tidak akan dapat menjangkau endpoint di jaringan lain yang di-peering langsung ke jaringan Anda, bahkan dengan mengaktifkan "Ekspor rute kustom". Bekerja samalah dengan administrator jaringan Anda untuk memastikan tidak ada upaya untuk merutekan jaringan Anda secara langsung dari satu jaringan yang di-peering langsung ke jaringan lainnya. Jika perlu, Anda dapat mengganti salah satu hop peering ini dengan solusi yang mendukung rute statis atau dinamis.
Error DNS Host Tidak Dapat Dijangkau: Jika tugas Vertex AI Anda perlu me-resolve nama host di VPC, pastikan Anda telah menyelesaikan konfigurasi untuk Berbagi zona DNS pribadi dengan produsen layanan.
Untuk informasi tambahan terkait pemecahan masalah, lihat Panduan pemecahan masalah Peering Jaringan VPC.
Langkah selanjutnya
- Pelajari cara menggunakan IP pribadi untuk pelatihan kustom.
- Pelajari cara menggunakan endpoint pribadi untuk prediksi.
- Pelajari Peering Jaringan VPC lebih lanjut.
- Lihat arsitektur referensi dan praktik terbaik untuk desain VPC.