Menginstal AlloyDB AI di AlloyDB Omni

Halaman ini menunjukkan cara menginstal AlloyDB Omni dan mengintegrasikan AlloyDB AI di dalamnya.

AlloyDB AI adalah serangkaian fitur yang disertakan dengan AlloyDB Omni yang memungkinkan Anda mem-build aplikasi AI generatif perusahaan. Untuk mengetahui informasi selengkapnya tentang fungsi ML AlloyDB, lihat Mem-build aplikasi AI generatif.

AlloyDB Omni dengan AlloyDB AI memungkinkan Anda membuat kueri model ML jarak jauh untuk digunakan dengan prediksi online dan penyematan teks yang dihasilkan dari model ML. AlloyDB Omni dengan AlloyDB AI juga dapat memproses penyematan vektor dari konten lain seperti gambar, misalnya, jika Anda menggunakan antarmuka google_ml.predict_row dan melakukan terjemahan sendiri dalam kueri.

Berdasarkan tempat Anda ingin menginstal AlloyDB Omni dengan AlloyDB AI, pilih salah satu opsi berikut:

Mengonfigurasi instance AlloyDB Omni untuk membuat kueri model jarak jauh

Untuk mengonfigurasi AlloyDB Omni guna membuat kueri model jarak jauh, ikuti langkah-langkah berikut:

  1. Buat akun layanan dengan Google Cloud.

  2. Buat kunci akun layanan, dalam format JSON, dan download.

  3. Simpan kunci di lokasi permanen pada sistem file Anda. File ini berada di lokasi ini selama masa aktif server AlloyDB Omni Anda.

    Catat lokasinya di sistem file Anda; Anda memerlukannya untuk langkah berikutnya.

  4. Tambahkan izin Identity and Access Management (IAM) Vertex AI ke project dan akun layanan yang sesuai.

       gcloud projects add-iam-policy-binding PROJECT_ID \
           --member="serviceAccount:SERVICE_ACCOUNT_ID" \
           --role="roles/aiplatform.user"

    Ganti kode berikut:

    • PROJECT_ID: ID project Google Cloud Anda.

    • SERVICE_ACCOUNT_ID: ID akun layanan yang Anda buat di langkah sebelumnya. Ini mencakup akhiran @PROJECT_ID. lengkap—misalnya, my-service@my-project..

Menginstal AlloyDB Omni dengan AlloyDB AI

Untuk menginstal AlloyDB Omni dan mengintegrasikan AlloyDB AI, ikuti langkah-langkah berikut:

  1. Pastikan Anda telah menyelesaikan semua langkah yang tercantum dalam Mengonfigurasi AlloyDB Omni untuk membuat kueri model berbasis cloud.

  2. Buat salinan lokal file konfigurasi AlloyDB Omni default:

    Docker

       docker run -i --rm google/alloydbomni cat /usr/share/postgresql/postgresql.conf.sample > my-postgres.conf

    Podman

       podman run -i --rm google/alloydbomni cat /usr/share/postgresql/postgresql.conf.sample > my-postgres.conf
  3. Edit salinan file konfigurasi untuk menambahkan perintah bagi integrasi AI AlloyDB:

       echo "omni_enable_ml_agent_process = 'on'" >> my-postgres.conf
       echo "omni_google_cloud_private_key_file_path = '/etc/postgresql/private-key.json'" >> my-postgres.conf
  4. Sesuaikan izin sistem file kunci dan file konfigurasi:

       sudo chmod +r my-postgres.conf
       sudo chmod +r KEY_PATH

    Ganti KEY_PATH dengan jalur ke file kunci pribadi akun layanan di sistem file host Anda. Ini adalah kunci yang Anda buat dan download sebelumnya dalam prosedur ini.

  5. Instal file kunci dan konfigurasi yang dipasang ke penampung:

    Docker

      docker run --name CONTAINER_NAME -e POSTGRES_PASSWORD=NEW_PASSWORD -p HOST_PORT:5432 -v "$PWD/my-postgres.conf":/etc/postgresql/postgresql.conf -v "FULL_KEY_PATH":/etc/postgresql/private-key.json -d google/alloydbomni -c 'config_file=/etc/postgresql/postgresql.conf'

    Ganti kode berikut:

    • CONTAINER_NAME: nama untuk menetapkan penampung metode penginstalan AlloyDB Omni yang disederhanakan baru ini di registry penampung mesin host Anda—misalnya, my-omni-1.

    • NEW_PASSWORD: sandi yang ditetapkan ke pengguna postgres penampung baru setelah pembuatannya.

    • HOST_PORT: * HOST_PORT: port TCP di mesin host tempat penampung memublikasikan port 5432. Untuk menggunakan port default PostgreSQL di mesin host juga, tentukan 5432.

    • FULL_KEY_PATH: jalur sistem file lengkap ke file kunci pribadi akun layanan di sistem host Anda.

    Podman

      podman run --name CONTAINER_NAME -e POSTGRES_PASSWORD=NEW_PASSWORD -p HOST_PORT:5432 -v "$PWD/my-postgres.conf":/etc/postgresql/postgresql.conf -v "FULL_KEY_PATH":/etc/postgresql/private-key.json -d google/alloydbomni -c 'config_file=/etc/postgresql/postgresql.conf'

    Ganti kode berikut:

    • CONTAINER_NAME: nama untuk menetapkan penampung metode penginstalan AlloyDB Omni yang disederhanakan baru ini di registry penampung mesin host Anda—misalnya, my-omni-1.

    • NEW_PASSWORD: sandi yang ditetapkan ke pengguna postgres penampung baru setelah pembuatannya.

    • HOST_PORT: port TCP di mesin host yang akan digunakan container untuk memublikasikan port 5432-nya sendiri. Untuk menggunakan port default PostgreSQL di mesin host juga, tentukan 5432.

    • FULL_KEY_PATH: jalur sistem file lengkap ke file kunci pribadi akun layanan di sistem host Anda.

Menghubungkan menggunakan psql dalam penampung

Untuk terhubung ke server database AlloyDB Omni menggunakan salinan psql dalam penampungnya sendiri, jalankan perintah berikut:

Docker

  docker exec -it CONTAINER_NAME psql -U postgres

Ganti CONTAINER_NAME dengan nama yang Anda tetapkan ke penampung AlloyDB Omni saat menginstalnya.

Podman

  podman exec -it CONTAINER_NAME psql -U postgres

Ganti CONTAINER_NAME dengan nama yang Anda tetapkan ke penampung AlloyDB Omni saat menginstalnya.

Memverifikasi AlloyDB Omni dengan penginstalan AlloyDB AI

Untuk memverifikasi bahwa penginstalan Anda berhasil dan menggunakan prediksi model, masukkan kode berikut:

   CREATE EXTENSION IF NOT EXISTS google_ml_integration CASCADE;

   SELECT array_dims(embedding( 'text-embedding-005', 'AlloyDB AI')::real[]);

Outputnya terlihat mirip dengan yang berikut ini:

      array_dims
      ------------
      [1:768]
      (1 row) 

Dalam kueri sebelumnya, panggilan embedding() menghasilkan penyematan untuk teks input AlloyDB AI. array_dims menampilkan dimensi array yang ditampilkan oleh embedding(). Karena model text-embedding-005 menampilkan output dengan 768 dimensi, output-nya adalah [768].

Langkah selanjutnya