Elige una función de generación de texto

En este documento, se proporciona una comparación de las funciones de generación de texto ML.GENERATE_TEXT y AI.GENERATE de BigQuery ML. Puedes usar la información de este documento para decidir qué función usar en los casos en que las funciones tengan capacidades superpuestas.

Similitudes de funciones

Las funciones ML.GENERATE_TEXT y AI.GENERATE son similares en los siguientes aspectos:

  • Propósito: Generar texto pasando una instrucción a un modelo de lenguaje grande (LLM).
  • Facturación: Se generan cargos de BigQuery ML por los datos procesados. Para obtener más información, consulta los precios de BigQuery ML. Se generan cargos de Vertex AI por las llamadas al LLM. Si usas un modelo de Gemini 2.0 o una versión posterior, la llamada se factura según la tarifa de la API por lotes. Para obtener más información, consulta Costo de crear y, luego, implementar modelos de IA en Vertex AI.
  • Escalabilidad: Procesa entre 1 millón y 10 millones de filas por cada trabajo de consulta de 6 horas. La capacidad de procesamiento real depende de factores como la longitud promedio de los tokens en las filas de entrada. Para obtener más información, consulta Funciones de IA generativa.
  • Datos de entrada: Admite datos de texto y no estructurados de tablas estándar y tablas de objetos de BigQuery.

Diferencias entre las funciones

Usa la siguiente tabla para evaluar las diferencias entre las funciones ML.GENERATE_TEXT y AI.GENERATE:

ML.GENERATE_TEXT AI.GENERATE
Firma de la función Es una función con valores de tabla que toma una tabla como entrada y devuelve una tabla como salida. Es una función escalar que toma un solo valor como entrada y devuelve un solo valor como salida.
LLMs compatibles
  • Modelos de Gemini
  • Modelos de socios, como Anthropic Claude, Llama y Mistral AI
  • modelos abiertos
 Modelos de Gemini
Contenido de salida de la función

Contenido de salida de la función para los modelos de Gemini:

  • Texto generado
  • Resultados de la IA responsable (RAI)
  • Resultados de la fundamentación con la Búsqueda de Google, si está habilitada
  • Estado de la llamada al LLM

Contenido de salida de la función para otros tipos de modelos:

  • Texto generado
  • Estado de la llamada al LLM
  • Texto generado
  • Respuesta completa del modelo en formato JSON
  • Estado de la llamada al LLM
Formato de salida de la función Los valores generados se muestran en una sola columna JSON o en columnas de tabla separadas, según el valor del argumento flatten_json_output. Los valores generados se muestran como campos en un objeto STRUCT.
Recorrido del usuario Debes crear un modelo remoto antes de usar la función. Puedes usar la función directamente, sin necesidad de crear un modelo remoto.
Configuración de permisos Debes crear manualmente una conexión de BigQuery y otorgar permiso del rol de usuario de Vertex AI a la cuenta de servicio de la conexión. Puedes omitir este paso si usas la conexión predeterminada de BigQuery. Debes crear manualmente una conexión de BigQuery y otorgar permiso del rol de usuario de Vertex AI a la cuenta de servicio de la conexión.
Ventajas Permite formatos de entrada y salida más flexibles. Es más fácil de integrar en las consultas en SQL.
Funciones extendidas Puedes usar la función AI.GENERATE_TABLE para generar resultados estructurados según un esquema de salida de SQL que especifiques. Puedes usar las funciones AI.GENERATE_BOOL, AI.GENERATE_INT y AI.GENERATE_DOUBLE para generar diferentes tipos de valores escalares.