Pilih fungsi pembuatan teks

Dokumen ini memberikan perbandingan fungsi pembuatan teks ML.GENERATE_TEXT dan AI.GENERATE BigQuery ML. Anda dapat menggunakan informasi dalam dokumen ini untuk membantu Anda memutuskan fungsi mana yang akan digunakan jika fungsi tersebut memiliki kemampuan yang tumpang-tindih.

Persamaan fungsi

Fungsi ML.GENERATE_TEXT dan AI.GENERATE serupa dalam hal berikut:

  • Tujuan: Menghasilkan teks dengan meneruskan perintah ke model bahasa besar (LLM).
  • Penagihan: Menimbulkan biaya BigQuery ML untuk data yang diproses. Untuk mengetahui informasi selengkapnya, lihat harga BigQuery ML. Mengenakan biaya Vertex AI untuk panggilan ke LLM. Jika Anda menggunakan model Gemini 2.0 atau yang lebih baru, panggilan akan ditagih dengan tarif API batch. Untuk mengetahui informasi selengkapnya, lihat Biaya pembuatan dan deployment model AI di Vertex AI.
  • Skalabilitas: Proses antara 1 juta dan 10 juta baris untuk setiap tugas kueri 6 jam. Throughput sebenarnya bergantung pada faktor-faktor seperti panjang token rata-rata di baris input. Untuk mengetahui informasi selengkapnya, lihat Fungsi AI generatif.
  • Data input: Mendukung data teks dan data tidak terstruktur dari tabel standar dan tabel objek BigQuery.

Perbedaan fungsi

Gunakan tabel berikut untuk mengevaluasi perbedaan antara fungsi ML.GENERATE_TEXT dan AI.GENERATE:

ML.GENERATE_TEXT AI.GENERATE
Tanda tangan fungsi Fungsi bernilai tabel yang menggunakan tabel sebagai input dan menampilkan tabel sebagai output. Fungsi skalar yang mengambil satu nilai sebagai input dan menampilkan satu nilai sebagai output.
LLM yang Didukung
  • Model Gemini
  • Model partner seperti Anthropic Claude, Llama, dan Mistral AI
  • model terbuka
 Model Gemini
Konten output fungsi

Konten output fungsi untuk model Gemini:

  • Teks yang dihasilkan
  • Hasil Responsible AI (RAI)
  • Hasil perujukan Google Penelusuran, jika diaktifkan
  • Status panggilan LLM

Konten output fungsi untuk jenis model lainnya:

  • Teks yang dihasilkan
  • Status panggilan LLM
  • Teks yang dihasilkan
  • Respons model lengkap dalam format JSON
  • Status panggilan LLM
Format output fungsi Nilai yang dihasilkan ditampilkan dalam satu kolom JSON atau dalam kolom tabel terpisah, bergantung pada nilai argumen flatten_json_output. Nilai yang dihasilkan ditampilkan sebagai kolom dalam objek STRUCT.
Perjalanan pengguna Anda harus membuat model jarak jauh sebelum menggunakan fungsi. Anda dapat menggunakan fungsi secara langsung, tanpa perlu membuat model jarak jauh.
Penyiapan izin Anda harus membuat koneksi BigQuery secara manual, dan memberikan izin peran Vertex AI User ke akun layanan koneksi. Anda dapat melewati langkah ini jika menggunakan koneksi default BigQuery. Anda harus membuat koneksi BigQuery secara manual, dan memberikan izin peran Vertex AI User ke akun layanan koneksi.
Kelebihan Memungkinkan format input dan output yang lebih fleksibel. Lebih mudah diintegrasikan ke dalam kueri SQL.
Fungsi yang diperluas Anda dapat menggunakan fungsi AI.GENERATE_TABLE untuk menghasilkan output yang terstruktur sesuai dengan skema output SQL yang Anda tentukan. Anda dapat menggunakan fungsi AI.GENERATE_BOOL, AI.GENERATE_INT, dan AI.GENERATE_DOUBLE untuk menghasilkan berbagai jenis nilai skalar.