Membangun aplikasi AI generatif menggunakan AlloyDB AI

Pilih versi dokumentasi: 15.5.5

• 15.5.5

AlloyDB AI adalah serangkaian fitur yang disertakan dengan AlloyDB untuk PostgreSQL dan AlloyDB Omni yang memungkinkan Anda menerapkan kekuatan semantik dan prediktif model machine learning (ML) ke data Anda. Halaman ini memberikan ringkasan fungsi AI yang didukung ML yang tersedia melalui AlloyDB.

Perhatian: Ekstensi postgres_ann diganti namanya menjadi alloydb_scann. Sebelum Anda mengupgrade ke AlloyDB Omni versi 15.5.5, Anda harus menghapus indeks apa pun yang dibuat menggunakan versi postgres_ann yang lebih lama. Selanjutnya, upgrade AlloyDB Omni, lalu buat ulang indeks menggunakan ekstensi alloydb_scann. Ini hanya berlaku untuk AlloyDB Omni.

Menyimpan, mengindeks, dan membuat kueri vektor

Ekstensi pgvector PostgreSQL extension bawaan disesuaikan untuk AlloyDB, dan disebut sebagai vector. Fitur ini mendukung penyimpanan embedding yang dihasilkan dalam kolom vektor. Ekstensi ini juga menambahkan dukungan untuk fitur kuantisasi skalar guna membuat indeks IVF. Anda juga dapat membuat indeks IVFFlat atau indeks HSNW yang tersedia dengan stok pgvector.

Untuk mengetahui informasi selengkapnya tentang menyimpan vektor, lihat Menyimpan vektor.

Pratinjau — AlloyDB ScaNN index

Fitur ini tunduk kepada "Persyaratan Penawaran Pra-GA" di bagian Persyaratan Layanan Umum dari Persyaratan Khusus Layanan. Fitur pra-GA tersedia "sebagaimana adanya" dan mungkin memiliki dukungan terbatas. Untuk mengetahui informasi selengkapnya, lihat deskripsi tahap peluncuran.

Selain ekstensi vector yang disesuaikan, AlloyDB mencakup ekstensi alloydb_scann yang menerapkan indeks tetangga terdekat yang sangat efisien yang didukung oleh algoritma ScaNN.

Catatan: Ekstensi alloydb_scann dapat digunakan dengan database yang kompatibel dengan PostgreSQL 15.

Untuk mengetahui informasi selengkapnya tentang cara membuat indeks dan membuat kueri vektor, lihat Membuat indeks dan membuat kueri vektor.

Menyesuaikan performa kueri vektor

Anda dapat menyesuaikan indeks untuk menyeimbangkan kueri per detik (QPS) dan perolehan dengan kueri Anda. Untuk mengetahui informasi selengkapnya tentang cara menyesuaikan indeks, lihat Menyesuaikan performa kueri vektor.

Membuat embedding dan prediksi teks

AlloyDB AI memperluas sintaksis PostgreSQL dengan dua fungsi untuk mengueri model menggunakan ekstensi google_ml_integration:

• Panggil prediksi untuk memanggil model menggunakan SQL dalam transaksi.

• Buat embedding agar LLM menerjemahkan perintah teks menjadi vektor numerik.

  Anda dapat menggunakan fungsi embedding() untuk membuat kueri model Vertex AI, sedangkan fungsi google_ml.embedding() dapat digunakan untuk membuat kueri model pihak ketiga, yang dihosting, dan Vertex AI terdaftar.

  Anda kemudian dapat menerapkan embedding vektor ini sebagai input ke fungsi pgvector. Hal ini mencakup metode untuk membandingkan dan mengurutkan sampel teks menurut jarak semantik relatifnya.

Catatan: Untuk membuat embedding bagi model AI pihak ketiga atau yang dihosting kustom, lihat Mendaftarkan dan memanggil model AI jarak jauh menggunakan pengelolaan endpoint model dan Mendaftarkan dan memanggil model AI jarak jauh di AlloyDB untuk PostgreSQL. Fitur ini tersedia di Pratinjau.

Menggunakan model di cloud dengan Vertex AI

Anda dapat mengonfigurasi AlloyDB Omni agar dapat digunakan dengan Vertex AI.

Hal ini memberikan manfaat berikut bagi aplikasi Anda:

• Aplikasi Anda dapat memanggil prediksi menggunakan model apa pun yang disimpan di Vertex AI Model Garden yang dapat diakses.

• Aplikasi Anda dapat membuat embedding menggunakan LLM model berbahasa Inggris textembedding-gecko.

Langkah berikutnya

• Menginstal AlloyDB Omni dengan AlloyDB AI

• Membuat indeks dan vektor kueri