選擇文字生成功能

本文比較 BigQuery ML ML.GENERATE_TEXT 和 AI.GENERATE 文字生成函式。如果函式的功能重疊，您可以參考本文資訊，決定要使用哪個函式。

函式相似處

ML.GENERATE_TEXT 和 AI.GENERATE 函式在下列方面相似：

  • 用途：將提示傳送至大型語言模型 (LLM)，藉此生成文字。
  • 帳單：系統會針對處理的資料收取 BigQuery ML 費用。 詳情請參閱 BigQuery ML 定價。呼叫 LLM 時會產生 Vertex AI 費用。如果您使用 Gemini 2.0 以上版本，系統會依批次 API 費率計費。詳情請參閱「在 Vertex AI 中建構及部署 AI 模型的費用」。
  • 可擴充性：每個 6 小時的查詢工作可處理 100 萬到 1,000 萬列資料。實際處理量取決於輸入資料列中的平均權杖長度等因素。詳情請參閱「生成式 AI 函式」。
  • 輸入資料：支援來自 BigQuery 標準資料表和物件資料表的文字和非結構化資料。

功能差異

請參閱下表，評估 ML.GENERATE_TEXT 和 AI.GENERATE 函式之間的差異：

ML.GENERATE_TEXT AI.GENERATE
函式簽章 資料表值函式會將資料表做為輸入內容，並傳回資料表做為輸出內容。 這個純量函式會將單一值做為輸入內容，並傳回單一值做為輸出內容。
支援的 LLM
  • Gemini 模型
  • 合作夥伴模型，例如 Anthropic Claude、Llama 和 Mistral AI
  • 開放式模型
 Gemini 模型
函式輸出內容

Gemini 模型函式輸出內容：

  • 生成的文字
  • 負責任的 AI 技術 (RAI) 結果
  • 如果啟用，系統會顯示 Google 搜尋基準建立結果
  • 大型語言模型通話狀態

其他類型模型的函式輸出內容：

  • 生成的文字
  • 大型語言模型通話狀態
  • 生成的文字
  • JSON 格式的完整模型回覆
  • 大型語言模型通話狀態
函式輸出格式 系統會以單一 JSON 資料欄或個別資料表資料欄的形式傳回生成的值，視 flatten_json_output 引數值而定。 產生的值會以 STRUCT 物件中的欄位形式傳回。
使用者歷程 您必須先建立遠端模型，才能使用這項函式。 您可以直接使用函式，不必建立遠端模型。
設定權限 您必須手動建立 BigQuery 連線，並將 Vertex AI 使用者角色權限授予連線的服務帳戶。如果您使用 BigQuery 預設連線，可以略過這個步驟。 您必須手動建立 BigQuery 連線，並將 Vertex AI 使用者角色權限授予連線的服務帳戶。
優點 可使用更彈性的輸入和輸出格式。 更容易整合到 SQL 查詢中。
擴充函式 您可以使用 AI.GENERATE_TABLE 函式，根據您指定的 SQL 輸出結構定義產生結構化輸出內容。 您可以使用 AI.GENERATE_BOOL、AI.GENERATE_INT 和 AI.GENERATE_DOUBLE 函式產生不同類型的純量值。