Mengintegrasikan dengan Vertex AI

Halaman ini menjelaskan cara menyiapkan integrasi antara AlloyDB untuk PostgreSQL dan Vertex AI, sehingga Anda dapat menerapkan kueri ke model bahasa besar (LLM) yang disimpan di cloud ke data Anda.

Petunjuk ini khusus untuk penggunaan AlloyDB, dan bukan AlloyDB Omni. Untuk mengintegrasikan penginstalan lokal AlloyDB Omni menggunakan Vertex AI, lihat Menginstal AlloyDB Omni dengan AlloyDB AI.

Untuk mengetahui informasi selengkapnya tentang penggunaan model ML dengan AlloyDB, lihat Membangun aplikasi AI generatif menggunakan AlloyDB AI.

Untuk mengetahui informasi selengkapnya tentang Vertex AI, lihat Pengantar Vertex AI.

Sebelum memulai

Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

Enable the Vertex AI API.

Enable the API

Install the Google Cloud CLI.

Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu.

Untuk melakukan inisialisasi gcloud CLI, jalankan perintah berikut:

gcloud init

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

Enable the Vertex AI API.

Enable the API

Install the Google Cloud CLI.

Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu.

Untuk melakukan inisialisasi gcloud CLI, jalankan perintah berikut:

gcloud init

Memberikan izin pengguna Vertex AI ke agen layanan AlloyDB

Untuk mengaktifkan integrasi database dengan Vertex AI, ikuti langkah-langkah berikut untuk memberikan izin Identity and Access Management (IAM)agen layanan AlloyDB untuk mengakses Vertex AI:

Tambahkan izin Vertex AI ke agen layanan AlloyDB untuk project tempat cluster database AlloyDB berada:

Konsol

1. Buka halaman Selamat Datang di konsol Google Cloud , lalu salin nomor project dari project yang memiliki cluster atau instance AlloyDB. Anda akan menggunakan nomor project ini pada langkah berikutnya.

   Buka Selamat Datang

2. Di konsol Google Cloud , buka halaman IAM.

   Buka IAM

3. Pilih project yang memiliki endpoint Vertex AI.

4. Aktifkan Sertakan pemberian peran yang disediakan Google.

5. Klik Berikan Akses.

6. Di kolom New principals, masukkan berikut ini:

       service-PROJECT_NUMBER@gcp-sa-alloydb.
       

   Ganti PROJECT_NUMBER dengan nomor project.

7. Di kolom Role, masukkan Vertex AI User.

8. Klik Simpan.

gcloud

Untuk menggunakan gcloud CLI, Anda dapat menginstal dan melakukan inisialisasi Google Cloud CLI, atau Anda dapat menggunakan Cloud Shell.

        gcloud projects add-iam-policy-binding PROJECT_ID 

        --member="serviceAccount:service-PROJECT_NUMBER@gcp-sa-alloydb." 

        --role="roles/aiplatform.user"
  

Ganti kode berikut:

• PROJECT_ID: ID project yang memiliki endpoint Vertex AI.
• PROJECT_NUMBER: Nomor project yang memiliki cluster atau instance AlloyDB.

Catatan: Perubahan kebijakan akan diterapkan dalam waktu 60 detik hingga 7 menit.

Memverifikasi ekstensi yang diinstal

Verifikasi apakah google_ml_integration diinstal dalam database yang berisi data yang ingin Anda jalankan prediksinya:

Konsol

1. Di konsol Google Cloud , buka halaman Clusters.

   Buka Cluster

2. Untuk menampilkan halaman Ringkasan cluster, klik nama cluster AlloyDB di kolom Nama resource.

3. Di menu navigasi, klik AlloyDB Studio.

4. Di halaman Login ke AlloyDB Studio, lakukan autentikasi menggunakan nama database, nama pengguna, dan sandi Anda.

   Catatan: AlloyDB Studio terhubung ke instance utama cluster Anda, tempat pengelolaan ekstensi dan prediksi awal ditangani, meskipun Anda berencana memanggil prediksi dari instance kumpulan baca nanti.

5. Di tab Editor 1, selesaikan langkah-langkah berikut:

   1. Pastikan ekstensi google_ml_integration versi 1.4.2 atau yang lebih baru telah diinstal:

      SELECT extversion FROM pg_extension WHERE extname = 'google_ml_integration';

   2. Klik Run. Tunggu hingga versi ekstensi ditampilkan di panel Results.

psql

1. Hubungkan klien psql ke instance utama cluster, seperti yang dijelaskan dalam Menghubungkan klien psql ke instance.

   Catatan: Anda harus terhubung ke instance utama meskipun Anda ingin memanggil prediksi saat terhubung ke instance kumpulan baca.

2. Di command prompt psql, hubungkan ke database:

   \c DB_NAME

   Ganti DB_NAME dengan nama database tempat Anda ingin menginstal ekstensi.

3. Pastikan ekstensi google_ml_integration versi 1.4.2 atau yang lebih baru telah diinstal:

   SELECT extversion FROM pg_extension WHERE extname = 'google_ml_integration';

Langkah berikutnya

• Bekerja dengan embedding

• Memanggil prediksi

• Kuota dan batas Vertex AI

• Memanggil endpoint model jarak jauh