Integrar com a Vertex AI

Nesta página, detalhamos como configurar a integração entre o AlloyDB para PostgreSQL e a Vertex AI, permitindo que você aplique consultas a modelos de linguagem grandes (LLMs) armazenados na nuvem aos seus dados.

Estas instruções são específicas para o uso do AlloyDB, e não do AlloyDB Omni. Para integrar uma instalação local do AlloyDB Omni usando a Vertex AI, consulte Instalar o AlloyDB Omni com a IA do AlloyDB.

Para mais informações sobre como usar modelos de ML com o AlloyDB, consulte Criar aplicativos de IA generativa usando a IA do AlloyDB.

Para mais informações sobre a Vertex AI, consulte Introdução à Vertex AI.

Antes de começar

Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

Enable the Vertex AI API.

Roles required to enable APIs

To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

Enable the API

Install the Google Cloud CLI.

Ao usar um provedor de identidade (IdP) externo, primeiro faça login na gcloud CLI com sua identidade federada.

Para inicializar a gcloud CLI, execute o seguinte comando:

gcloud init

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

Enable the Vertex AI API.

Roles required to enable APIs

To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

Enable the API

Install the Google Cloud CLI.

Ao usar um provedor de identidade (IdP) externo, primeiro faça login na gcloud CLI com sua identidade federada.

Para inicializar a gcloud CLI, execute o seguinte comando:

gcloud init

Conceder permissão de usuário da Vertex AI ao agente de serviço do AlloyDB

Para ativar a integração do banco de dados com a Vertex AI, siga estas etapas para conceder ao agente de serviço do AlloyDB permissões de Identity and Access Management (IAM) para acessar a Vertex AI:

Adicione permissões da Vertex AI ao agente de serviço do AlloyDB para o projeto em que o cluster do banco de dados do AlloyDB está localizado:

Console

1. Acesse a página Boas-vindas no console do Google Cloud e copie o número do projeto que tem clusters ou instâncias do AlloyDB. Você vai usar esse número nas próximas etapas.

   Acesse "Conheça"

2. No console do Google Cloud , acesse a página IAM.

   Acessar IAM

3. Selecione o projeto que tem endpoints da Vertex AI.

4. Ative a opção Incluir concessões de papel fornecidas pelo Google.

5. Clique em Conceder acesso.

6. No campo Novos principais, insira o seguinte:

       [e-mail]
       

   Substitua PROJECT_NUMBER pelo número do projeto.

7. No campo Papel, digite Usuário da Vertex AI.

8. Clique em Salvar.

gcloud

Para usar a gcloud CLI, você pode instalar e inicializar a CLI do Google Cloud ou usar o Cloud Shell.

        gcloud projects add-iam-policy-binding PROJECT_ID 

        --member="serviceAccount:[e-mail]" 

        --role="roles/aiplatform.user"
  

Substitua:

• PROJECT_ID: o ID do projeto que tem o endpoint da Vertex AI.
• PROJECT_NUMBER: o número do projeto que tem clusters ou instâncias do AlloyDB.

Observação: a mudança na política entra em vigor em até 60 segundos a 7 minutos.

Verificar a extensão instalada

Verifique se o google_ml_integration está instalado no banco de dados que contém os dados em que você quer executar previsões:

Console

1. No Google Cloud console, acesse a página Clusters.

   Acessar Clusters

2. Para mostrar a página Visão geral do cluster, clique no nome do cluster do AlloyDB na coluna Nome do recurso.

3. No menu de navegação, clique em AlloyDB Studio.

4. Na página Fazer login no AlloyDB Studio, autentique-se usando o nome do banco de dados, o nome de usuário e a senha.

   Observação: o AlloyDB Studio se conecta à instância principal do cluster, que é onde o gerenciamento de extensões e as previsões iniciais são processados, mesmo que você pretenda invocar previsões de instâncias do pool de leitura mais tarde.

5. Na guia Editor 1, faça o seguinte:

   1. Verifique se a extensão google_ml_integration versão 1.4.2 ou mais recente está instalada:

      SELECT extversion FROM pg_extension WHERE extname = 'google_ml_integration';

   2. Clique em Executar. Aguarde até que a versão da extensão apareça no painel Resultados.

psql

1. Conecte um cliente psql à instância principal do cluster, conforme descrito em Conectar um cliente psql a uma instância.

   Observação: é necessário se conectar à instância principal mesmo que você pretenda invocar previsões enquanto estiver conectado a uma instância de pool de leitura.

2. No prompt de comando psql, conecte-se ao banco de dados:

   \c DB_NAME

   Substitua DB_NAME pelo nome do banco de dados em que você quer instalar a extensão.

3. Verifique se a extensão google_ml_integration versão 1.4.2 ou mais recente está instalada:

   SELECT extversion FROM pg_extension WHERE extname = 'google_ml_integration';

A seguir

• Trabalhar com embeddings

• Invocar previsões

• Cotas e limites da Vertex AI

• Chamar endpoints de modelos remotos