Ringkasan AI Generatif
Dokumen ini menjelaskan fitur kecerdasan buatan (AI) generatif yang didukung BigQuery ML. Dengan fitur-fitur ini, Anda dapat menjalankan tugas-tugas AI di BigQuery ML dengan menggunakan model dasar Vertex AI yang telah dilatih sebelumnya. Tugas yang didukung meliputi:
Anda dapat mengakses model Vertex AI untuk menjalankan salah satu fungsi ini dengan membuat model jarak jauh di BigQuery ML yang mewakili endpoint model Vertex AI. Setelah membuat model jarak jauh melalui model Vertex AI yang ingin digunakan, Anda dapat mengakses kemampuan model tersebut dengan menjalankan fungsi BigQuery ML terhadap model jarak jauh.
Pendekatan ini memungkinkan Anda menggunakan kemampuan model Vertex AI ini untuk menganalisis data BigQuery menggunakan SQL.
Alur kerja
Anda dapat menggunakan model jarak jauh melalui model Vertex AI dan model jarak jauh melalui layanan Cloud AI bersama dengan fungsi BigQuery ML untuk menyelesaikan analisis data yang kompleks dan tugas AI generatif.
Diagram berikut menunjukkan beberapa alur kerja umum tempat Anda dapat menggunakan kemampuan ini secara bersamaan:
Generative AI
Anda dapat menggunakan model bahasa besar (LLM) untuk melakukan tugas seperti pembuatan ringkasan dan pembuatan teks, atau analisis konten visual. Misalnya, Anda dapat meringkas laporan panjang, atau menghasilkan teks yang mendeskripsikan konten visual. Anda juga dapat menggunakan model bahasa vision (VLM) untuk menganalisis konten visual seperti gambar dan video untuk tugas seperti pemberian teks visual dan Tanya Jawab visual.
Untuk melakukan tugas analisis visual atau bahasa natural generatif, Anda dapat membuat
referensi ke model dasar
Vertex AI terlatih
dengan membuat model jarak jauh dan menentukan nama model
untuk nilai ENDPOINT
. Model Vertex AI berikut
didukung:
gemini-pro
gemini-pro-vision
(Pratinjau)text-bison
text-bison-32k
text-unicorn
Saat membuat model jarak jauh yang mereferensikan semua versi model
text-bison
Vertex AI, Anda dapat memilih untuk mengonfigurasi
penyesuaian yang diawasi
(Pratinjau) secara bersamaan.
Setelah membuat model, Anda dapat menggunakan fungsi ML.GENERATE_TEXT
untuk berinteraksi dengan model tersebut. Untuk model jarak jauh berdasarkan model teks,
fungsi ML.GENERATE_TEXT
dapat digunakan dengan teks dalam
tabel standar.
Untuk model jarak jauh berdasarkan model multimodal, fungsi ML.GENERATE_TEXT
berfungsi dengan konten visual dalam
tabel objek. Semua inferensi terjadi
di Vertex AI. Hasilnya disimpan di
BigQuery.
Untuk mempelajari lebih lanjut, coba
buat teks dengan fungsi ML.GENERATE_TEXT
.
Embedding
Anda dapat menggunakan penyematan untuk mengidentifikasi item yang serupa secara semantik. Misalnya, Anda dapat menggunakan embedding teks untuk mengidentifikasi seberapa mirip dua bagian teks. Jika potongan teks mirip secara semantik, maka embedding masing-masing akan ditempatkan berdekatan dalam ruang vektor embedding.
Anda dapat menggunakan model BigQuery ML untuk membuat jenis embedding berikut:
- Untuk membuat embedding teks, Anda dapat membuat referensi ke salah satu model dasar penyematan teks
Vertex AI
textembedding-gecko
atautextembedding-gecko-multilingual
dengan membuat model jarak jauh dan menentukan nama LLM untuk nilaiENDPOINT
. - Untuk membuat embedding multimodal, yang menyematkan teks dan gambar ke dalam ruang semantik yang sama, Anda dapat membuat referensi ke LLM
multimodalembedding
Vertex AI dengan membuat model jarak jauh dan menentukan nama LLM untuk nilaiENDPOINT
. Fitur ini berada dalam pratinjau. - Agar dapat membuat embedding untuk data variabel acak independen dan identik terdistribusi (IID) terstruktur, Anda dapat menggunakan model Principal component analysis (PCA) atau model Autoencoder. Fitur ini berada dalam pratinjau.
- Untuk membuat embeddings untuk data pengguna atau item, Anda dapat menggunakan model Faktorisasi Matriks. Fitur ini berada dalam pratinjau.
Setelah membuat model, Anda dapat menggunakan fungsi ML.GENERATE_EMBEDDING
untuk berinteraksi dengannya. Untuk semua jenis model yang didukung, ML.GENERATE_EMBEDDING
berfungsi dengan data dalam
tabel standar. Untuk model penyematan
multimodal, ML.GENERATE_EMBEDDING
juga berfungsi dengan konten
visual dalam tabel objek. Untuk model
jarak jauh, semua inferensi terjadi di Vertex AI. Untuk jenis model lainnya, semua inferensi terjadi di BigQuery. Hasilnya disimpan di
BigQuery.
Untuk mempelajari lebih lanjut, coba buat
embedding teks dan
embedding gambar
dengan fungsi ML.GENERATE_EMBEDDING
.
Untuk penyematan teks yang lebih kecil dan ringan, coba gunakan model TensorFlow yang telah dilatih sebelumnya, seperti NNLM, SWIVEL, atau BERT.
Untuk mengetahui informasi tentang cara memilih model terbaik untuk kasus penggunaan embedding Anda, baca bagian Memilih model penyematan teks.
Langkah selanjutnya
- Untuk mengetahui informasi selengkapnya tentang melakukan inferensi pada model machine learning, lihat Ringkasan inferensi model.