Gerar embeddings de vetor com o gerenciamento de endpoints de modelo

Selecione uma versão da documentação:

Nesta página, descrevemos um pré-lançamento que permite testar o registro de um endpoint de modelo de IA e invocar previsões com o gerenciamento de endpoints de modelo. Para usar modelos de IA em ambientes de produção, consulte Criar aplicativos de IA generativa usando a IA do AlloyDB e Trabalhar com embeddings de vetores.

Depois que os endpoints de modelo forem adicionados e registrados no gerenciamento de endpoints de modelo, você poderá referenciá-los usando o ID do modelo para gerar embeddings.

Antes de começar

Verifique se você registrou o endpoint de modelo no gerenciamento de endpoints de modelo. Para mais informações, consulte Registrar um endpoint de modelo com o gerenciamento de endpoints de modelo.

Gerar embeddings

Use a função SQL google_ml.embedding() para chamar o endpoint do modelo registrado com o tipo de modelo de embedding de texto e gerar embeddings.

Para chamar o modelo e gerar embeddings, use a seguinte consulta SQL:

SELECT
  google_ml.embedding(
    model_id => 'MODEL_ID',
    content => 'CONTENT');

Substitua:

  • MODEL_ID: o ID do modelo definido ao registrar o endpoint de modelo.
  • CONTENT: o texto a ser traduzido em um embedding de vetor.

Exemplos

Alguns exemplos de como gerar embeddings usando endpoints de modelo registrados são listados nesta seção.

Modelos de embedding de texto com suporte integrado

Para gerar embeddings para um endpoint de modelo textembedding-gecko@002 registrado, execute a seguinte instrução:

    SELECT
      google_ml.embedding(
        model_id => 'textembedding-gecko@002',
        content => 'AlloyDB is a managed, cloud-hosted SQL database service');

Para gerar embeddings para um endpoint de modelo text-embedding-ada-002 registrado pela OpenAI, execute a seguinte instrução:

    SELECT
      google_ml.embedding(
        model_id => 'text-embedding-ada-002',
        content => 'e-mail spam');

Outros modelos de embedding de texto

Para gerar embeddings para endpoints de modelo text-embedding-3-small ou text-embedding-3-large registrados pela OpenAI, execute a seguinte instrução:

  SELECT
    google_ml.embedding(
      model_id => 'text-embedding-3-small',
      content => 'Vector embeddings in AI');