Elegir una función de generación de texto

En este documento se comparan las funciones de generación de texto de BigQuery ML ML.GENERATE_TEXT y AI.GENERATE. Puede usar la información de este documento para decidir qué función usar en los casos en los que las funciones tengan capacidades superpuestas.

Similitudes de funciones

Las funciones ML.GENERATE_TEXT y AI.GENERATE son similares en los siguientes aspectos:

  • Finalidad: generar texto enviando una petición a un modelo de lenguaje extenso (LLM).
  • Facturación: se aplican cargos de BigQuery ML por los datos procesados. Para obtener más información, consulta los precios de BigQuery ML. Se aplican cargos de Vertex AI por las llamadas al LLM. Si usas un modelo de Gemini 2.0 o una versión posterior, la llamada se factura según la tarifa de la API por lotes. Para obtener más información, consulta Coste de crear y desplegar modelos de IA en Vertex AI.
  • Escalabilidad: procesa entre 1 y 10 millones de filas por cada tarea de consulta de 6 horas. El rendimiento real depende de factores como la longitud media de los tokens de las filas de entrada. Para obtener más información, consulta Funciones de IA generativa.
  • Datos de entrada: admite datos de texto y no estructurados de tablas estándar y de objetos de BigQuery.

Diferencias entre funciones

Usa la siguiente tabla para evaluar las diferencias entre las funciones ML.GENERATE_TEXT y AI.GENERATE:

ML.GENERATE_TEXT AI.GENERATE
Firma de función Una función con valores de tabla que toma una tabla como entrada y devuelve una tabla como salida. Una función escalar que toma un único valor como entrada y devuelve un único valor como salida.
LLMs admitidos
  • Modelos de Gemini
  • Modelos de partners, como Anthropic Claude, Llama y Mistral AI
  • Modelos abiertos
 Modelos de Gemini
Contenido de salida de la función

Contenido de salida de funciones de los modelos de Gemini:

  • Texto generado
  • Resultados de la IA responsable
  • Resultados de la Búsqueda de Google, si está habilitada
  • Estado de la llamada LLM

Contenido de salida de funciones para otros tipos de modelos:

  • Texto generado
  • Estado de la llamada LLM
  • Texto generado
  • Respuesta completa del modelo en formato JSON
  • Estado de la llamada LLM
Formato de salida de la función Los valores generados se devuelven en una sola columna JSON o en columnas de tabla independientes, en función del valor del argumento flatten_json_output. Los valores generados se devuelven como campos en un objeto STRUCT.
Recorrido del usuario Debes crear un modelo remoto antes de usar la función. Puedes usar la función directamente, sin necesidad de crear un modelo remoto.
Configuración de permisos Debes crear manualmente una conexión de BigQuery y conceder el permiso del rol Usuario de Vertex AI a la cuenta de servicio de la conexión. Puedes saltarte este paso si usas la conexión predeterminada de BigQuery. Debes crear manualmente una conexión de BigQuery y conceder el permiso del rol Usuario de Vertex AI a la cuenta de servicio de la conexión.
Ventajas Permite usar formatos de entrada y salida más flexibles. Es más fácil de integrar en consultas SQL.
Funciones ampliadas Puedes usar la función AI.GENERATE_TABLE para generar resultados estructurados según un esquema de salida SQL que especifiques. Puedes usar las funciones AI.GENERATE_BOOL, AI.GENERATE_INT y AI.GENERATE_DOUBLE para generar distintos tipos de valores escalares.