Membangun aplikasi AI generatif menggunakan AlloyDB AI

AlloyDB AI adalah serangkaian fitur yang disertakan dengan AlloyDB untuk PostgreSQL dan AlloyDB Omni yang memungkinkan Anda menerapkan kemampuan semantik dan prediktif model machine learning (ML) ke data Anda. Halaman ini memberikan ringkasan tentang fungsi AI yang didukung ML yang tersedia melalui AlloyDB.

Menyimpan, mengindeks, dan membuat kueri vektor

Ekstensi pgvector PostgreSQL stock disesuaikan untuk AlloyDB, dan disebut sebagai vector. Fungsi ini mendukung penyimpanan penyematan yang dihasilkan di kolom vektor. Ekstensi ini juga menambahkan dukungan untuk fitur kuantisasi skalar guna membuat indeks IVF. Anda juga dapat membuat indeks IVFFlat atau indeks HSNW yang tersedia dengan pgvector stok.

Untuk informasi selengkapnya tentang cara menyimpan vektor, lihat Menyimpan vektor.

Selain ekstensi vector yang disesuaikan, AlloyDB menyertakan ekstensi alloydb_scann yang mengimplementasikan indeks tetangga terdekat yang sangat efisien dan didukung oleh algoritma ScaNN.

Untuk mengetahui informasi selengkapnya tentang cara membuat indeks dan membuat kueri vektor, lihat Membuat indeks dan vektor kueri.

Menyesuaikan performa kueri vektor

Anda dapat menyesuaikan indeks untuk menyeimbangkan antara kueri per detik (QPS) dan recall dengan kueri Anda. Untuk mengetahui informasi selengkapnya tentang cara menyesuaikan indeks, lihat Menyesuaikan performa kueri vektor.

Membuat embedding dan prediksi teks

AlloyDB AI memperluas sintaksis PostgreSQL dengan dua fungsi untuk mengkueri model menggunakan ekstensi google_ml_integration:

  • Mengaktifkan prediksi untuk memanggil model menggunakan SQL dalam transaksi.

  • Buat penyematan agar LLM menerjemahkan perintah teks menjadi vektor numerik.

    Anda dapat menggunakan fungsi embedding() untuk membuat kueri model Vertex AI, sedangkan fungsi google_ml.embedding() dapat digunakan untuk membuat kueri model Vertex AI terdaftar, yang dihosting, dan pihak ketiga.

    Kemudian, Anda dapat menerapkan penyematan vektor ini sebagai input ke fungsi pgvector. Hal ini mencakup metode untuk membandingkan dan mengurutkan contoh teks sesuai dengan jarak semantik relatifnya.

Menggunakan model di cloud dengan Vertex AI

Anda dapat mengonfigurasi AlloyDB agar berfungsi dengan Vertex AI.

Hal ini memberikan manfaat berikut pada aplikasi Anda:

Langkah selanjutnya