Receber previsões on-line de modelos do AutoML

Para alguns tipos de dados, é possível solicitar predições on-line (em tempo real) dos modelos de AutoML depois de criá-los e implantá-los em um endpoint. Uma predição on-line é uma solicitação síncrona, em vez de uma previsão em lote, que é uma solicitação assíncrona.

Use predições on-line ao fazer solicitações em resposta à entrada do aplicativo ou em outras situações em que você precisa de inferência em tempo hábil.

Para fazer uma previsão on-line, envie um ou mais itens de teste para um modelo para análise, e o modelo retornará resultados baseados no objetivo do modelo. Para mais informações sobre resultados de previsão, consulte Interpretar resultados de modelos do AutoML.

Previsões on-line com o console do Google Cloud

Use o Console do Cloud para solicitar uma previsão on-line. Seu modelo precisa ser implantado em um endpoint.

No Console do Google Cloud, na seção "Vertex AI", acesse a página Modelos.

Acessar a página de modelos
Na lista de modelos, clique no nome do modelo para solicitar previsões.
Selecione a guia Implantar e testar.
Na seção Testar o modelo, adicione itens de teste para solicitar uma predição.

O método e a entrada de uma predição on-line dependem do objetivo do modelo. Por exemplo, os modelos AutoML para objetivos de texto exigem que você digite conteúdo em um campo de texto e clique em Prever. Os modelos do AutoML para objetivos de imagem exigem o upload de uma imagem para solicitar uma predição. No caso dos modelos tabulares, os dados de previsão são preenchidos automaticamente ou é possível inserir seus próprios dados de previsão e clicar em Prever.

Para informações sobre a importância de atributos locais para modelos tabulares, consulte esta página.

Após a conclusão da previsão, a Vertex AI retorna os resultados no console.

Previsões on-line com a API

Use a API Vertex AI para solicitar uma predição on-line. Seu modelo precisa ser implantado em um endpoint.

Image

Os objetivos do tipo de dados de imagem incluem classificação e detecção de objetos.

Previsão do modelo do Edge: quando você usa modelos de borda do Image AutoML para previsão, é necessário converter qualquer arquivo de previsão não JPEG em um arquivo JPEG antes de enviar a solicitação. Para ver uma função de pré-processamento de Python de exemplo, consulte Cliente Python para o repositório da API AutoML do Google Cloud.

Classificação

gcloud

Crie um arquivo chamado request.json com o seguinte conteúdo:
```
{
  "instances": [{
    "content": "CONTENT"
  }],
  "parameters": {
    "confidenceThreshold": THRESHOLD_VALUE,
    "maxPredictions": MAX_PREDICTIONS
  }
}
```
Substitua:
- CONTENT: o conteúdo da imagem codificada em base64.
- THRESHOLD_VALUE (opcional): o modelo retorna apenas previsões que têm pontuações de confiança com pelo menos esse valor.
- MAX_PREDICTIONS (opcional): o modelo retorna até esse número de previsões com as maiores pontuações de confiança.
Execute este comando:
```
gcloud ai endpoints predict ENDPOINT_ID \
  --region=LOCATION \
  --json-request=request.json
```
Substitua:
- ENDPOINT_ID: o ID do endpoint.
- LOCATION: a região em que você está usando a Vertex AI.

REST e linha de comando

Antes de usar os dados da solicitação abaixo, faça as substituições a seguir:

LOCATION: região em que o endpoint está localizado. Por exemplo, us-central1.
PROJECT: o ID do projeto
ENDPOINT_ID: o ID do endpoint.
CONTENT: o conteúdo da imagem codificada em base64.
THRESHOLD_VALUE (opcional): o modelo retorna apenas previsões que têm pontuações de confiança com pelo menos esse valor.
MAX_PREDICTIONS (opcional): o modelo retorna até esse número de previsões com as maiores pontuações de confiança.

Método HTTP e URL:

POST https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT/locations/LOCATION/endpoints/ENDPOINT_ID:predict

Corpo JSON da solicitação:

{
  "instances": [{
    "content": "CONTENT"
  }],
  "parameters": {
    "confidenceThreshold": THRESHOLD_VALUE,
    "maxPredictions": MAX_PREDICTIONS
  }
}

Para enviar a solicitação, escolha uma destas opções:

curl

Salve o corpo da solicitação em um arquivo chamado request.json e execute o comando a seguir:

curl -X POST \
-H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT/locations/LOCATION/endpoints/ENDPOINT_ID:predict"

PowerShell

Salve o corpo da solicitação em um arquivo chamado request.json e execute o comando a seguir:

$cred = gcloud auth application-default print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
  -Method POST `
  -Headers $headers `
  -ContentType: "application/json; charset=utf-8" `
  -InFile request.json `
  -Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT/locations/LOCATION/endpoints/ENDPOINT_ID:predict" | Select-Object -Expand Content

Você receberá uma resposta JSON semelhante a esta:

{
  "predictions": [
    {
      "confidences": [
        0.92629629373550415
      ],
      "ids": [
        "354376995678715904"
      ],
      "displayNames": [
        "sunflower"
      ]
    }
  ],
  "deployedModelId": "2119225099654529024"
}

Java

Saiba como instalar e usar a biblioteca de cliente para Vertex AI em Bibliotecas de cliente da Vertex AI. Consulte a documentação de referência da API Vertex AI Java.

Receber previsões on-line de modelos do AutoML

Previsões on-line com o console do Google Cloud

Previsões on-line com a API

Image

Classificação

gcloud

REST e linha de comando

curl

PowerShell

Java

Node.js

Python

Detecção de objetos

gcloud

REST e linha de comando

curl

PowerShell

Java

Node.js

Python

Tabular

Classificação

gcloud

REST e LINHA DE CMD

curl

PowerShell

Java

Node.js

Python

Previsão

Regressão

gcloud

REST e LINHA DE CMD

curl

PowerShell

Java

Node.js

Python

Texto

Classificação

gcloud

REST e linha de comando

curl

PowerShell

Java

Node.js

Python

Extração de entidade

gcloud

REST e linha de comando

curl

PowerShell

Java

Node.js

Python

Análise de sentimento

gcloud

REST e linha de comando

curl

PowerShell

Java

Node.js

Python

Receber explicações de modelos tabulares

Console

gcloud

REST e LINHA DE CMD

curl

PowerShell

Python

Receber explicações de uma previsão retornada anteriormente

A seguir