Mengintegrasikan dengan Vertex AI

Halaman ini menjelaskan cara menyiapkan integrasi antara AlloyDB untuk PostgreSQL dan Vertex AI, yang memungkinkan Anda menerapkan kueri ke model bahasa besar (LLM) yang disimpan di cloud ke data Anda.

Petunjuk ini khusus untuk menggunakan AlloyDB, bukan AlloyDB Omni. Sebagai gantinya, untuk mengintegrasikan penginstalan lokal AlloyDB Omni menggunakan Vertex AI, lihat Menginstal AlloyDB Omni dengan AlloyDB AI.

Untuk mengetahui informasi selengkapnya tentang cara menggunakan model ML dengan AlloyDB, lihat Mem-build aplikasi AI generatif menggunakan AlloyDB AI.

Untuk mengetahui informasi selengkapnya tentang Vertex AI, lihat Pengantar Vertex AI.

Sebelum memulai

1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

3. Make sure that billing is enabled for your Google Cloud project.

4. Enable the Vertex AI API.

   Enable the API

5. Install the Google Cloud CLI.

6. To initialize the gcloud CLI, run the following command:

   gcloud init

7. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

8. Make sure that billing is enabled for your Google Cloud project.

9. Enable the Vertex AI API.

   Enable the API

10. Install the Google Cloud CLI.

11. To initialize the gcloud CLI, run the following command:

    gcloud init

Memberikan izin pengguna Vertex AI ke agen layanan AlloyDB

Untuk mengaktifkan integrasi database dengan Vertex AI, ikuti langkah-langkah berikut untuk memberikan izin Identity and Access Management (IAM) kepada agen layanan AlloyDB untuk mengakses Vertex AI:

Tambahkan izin Vertex AI ke agen layanan AlloyDB untuk project tempat cluster database AlloyDB berada:

Konsol

1. Buka halaman Welcome di konsol Google Cloud, lalu salin nomor project dari project yang memiliki cluster atau instance AlloyDB. Anda akan menggunakan nomor project ini di langkah berikutnya.

   Buka Selamat Datang

2. Di konsol Google Cloud, buka halaman IAM.

   Buka IAM

3. Pilih project yang memiliki endpoint Vertex AI.

4. Aktifkan Sertakan pemberian peran yang disediakan Google.

5. Klik Berikan Akses.

6. Di kolom New principals, masukkan kode berikut:

       [e-mail]
       

   Ganti PROJECT_NUMBER dengan nomor project.

7. Di kolom Peran, masukkan Vertex AI User.

8. Klik Simpan.

gcloud

1. Untuk menggunakan gcloud CLI, Anda dapat menginstal dan melakukan inisialisasi Google Cloud CLI, atau menggunakan Cloud Shell.

   gcloud projects add-iam-policy-binding PROJECT_ID 
   
   --member="serviceAccount:[e-mail]" 
   
   --role="roles/aiplatform.user"
   

   Ganti kode berikut:

• PROJECT_ID: ID project yang memiliki endpoint Vertex AI.
• PROJECT_NUMBER: Nomor project untuk project yang memiliki cluster atau instance AlloyDB.

Catatan: Perubahan kebijakan akan berlaku dalam waktu 60 detik hingga 7 menit.

Memverifikasi ekstensi yang diinstal

Verifikasi apakah google_ml_integration diinstal di database yang berisi data yang ingin Anda gunakan untuk menjalankan prediksi:

1. Hubungkan klien psql ke instance utama cluster, seperti yang dijelaskan dalam Menghubungkan klien psql ke instance.

   Catatan: Anda harus terhubung ke instance utama meskipun Anda ingin memanggil prediksi saat terhubung ke instance kumpulan baca.

2. Di command prompt psql, hubungkan ke database:

   \c DB_NAME

   Ganti DB_NAME dengan nama database tempat Anda ingin menginstal ekstensi.

3. Pastikan ekstensi google_ml_integration versi 1.4.2 atau yang lebih baru telah diinstal:

   SELECT extversion FROM pg_extension WHERE extname = 'google_ml_integration';

4. Opsional. Instal ekstensi versi terbaru secara manual:

   CREATE EXTENSION google_ml_integration VERSION '1.4.2';

5. Opsional. Jika Anda menggunakan ekstensi yang lebih lama dari 1.4.2, update ekstensi ke versi terbaru:

   ALTER EXTENSION google_ml_integration UPDATE TO '1.4.2'

Langkah selanjutnya

• Menggunakan penyematan

• Memanggil prediksi

• Kuota dan batas Vertex AI

• Memanggil endpoint model jarak jauh