Escolher uma função de geração de texto

Este documento compara as funções de geração de texto ML.GENERATE_TEXT e AI.GENERATE do BigQuery ML. Use as informações deste documento para decidir qual função usar nos casos em que as funções têm recursos sobrepostos.

Semelhanças entre funções

As funções ML.GENERATE_TEXT e AI.GENERATE são semelhantes das seguintes maneiras:

• Finalidade: gerar texto transmitindo um comando a um modelo de linguagem grande (LLM).
• Faturamento: há cobranças do BigQuery ML pelos dados processados. Para mais informações, consulte Preços do BigQuery ML. Incorrer em cobranças da Vertex AI por chamadas para o LLM. Se você estiver usando um modelo do Gemini 2.0 ou mais recente, a chamada será faturada de acordo com a taxa da API em lote. Para mais informações, consulte Custo de criação e implantação de modelos de IA na Vertex AI.
• Escalonabilidade: processe entre 1 milhão e 10 milhões de linhas para cada job de consulta de seis horas. A capacidade real depende de fatores como o comprimento médio do token nas linhas de entrada. Para mais informações, consulte Funções de IA generativa.
• Dados de entrada: compatibilidade com dados de texto e não estruturados de tabelas padrão e de objetos do BigQuery.

Diferenças de função

Use a tabela a seguir para avaliar as diferenças entre as funções ML.GENERATE_TEXT e AI.GENERATE:

	ML.GENERATE_TEXT	AI.GENERATE
Assinatura de função	Uma função com valor de tabela que recebe uma tabela como entrada e retorna uma tabela como saída.	Uma função escalar que usa um único valor como entrada e retorna um único valor como saída.
LLMs compatíveis	Modelos do Gemini Modelos de parceiros, como Anthropic Claude, Llama e Mistral AI modelos abertos	Modelos do Gemini
Conteúdo de saída da função	Conteúdo de saída da função para modelos do Gemini: Texto gerado Resultados da IA responsável (RAI) Resultados do embasamento da Pesquisa Google, se ativado Status da chamada de LLM Conteúdo de saída da função para outros tipos de modelos: Texto gerado Status da chamada de LLM	Texto gerado Resposta completa do modelo no formato JSON Status da chamada de LLM
Formato de saída da função	Os valores gerados são retornados em uma única coluna JSON ou em colunas de tabela separadas, dependendo do valor do argumento flatten_json_output.	Os valores gerados são retornados como campos em um objeto STRUCT.
Jornada do usuário	É necessário criar um modelo remoto antes de usar a função.	É possível usar a função diretamente, sem precisar criar um modelo remoto.
Configuração de permissões	Você precisa criar manualmente uma conexão do BigQuery e conceder à conta de serviço da conexão a permissão de função de usuário da Vertex AI. Você pode pular esta etapa se estiver usando a conexão padrão do BigQuery.	Você precisa criar manualmente uma conexão do BigQuery e conceder à conta de serviço da conexão a permissão de função de usuário da Vertex AI.
Vantagens	Permite formatos de entrada e saída mais flexíveis.	Mais fácil de integrar às consultas SQL.
Funções estendidas	É possível usar a função AI.GENERATE_TABLE para gerar uma saída estruturada de acordo com um esquema de saída SQL especificado.	Você pode usar as funções AI.GENERATE_BOOL, AI.GENERATE_INT e AI.GENERATE_DOUBLE para gerar diferentes tipos de valores escalares.