Panoramica dell'ottenimento di previsioni su Vertex AI

Una previsione è l'output di un modello addestrato di machine learning. Questa pagina offre una panoramica del flusso di lavoro per ottenere previsioni dai modelli su Vertex AI.

Vertex AI offre due metodi per ottenere previsioni:

• Le previsioni online sono richieste sincrone effettuate a un modello di cui è stato eseguito il deployment endpoint Pertanto, prima di inviare una richiesta, devi prima eseguire il deployment della risorsa Model in un endpoint. Questo associa il computing risorse con il modello, in modo che possa fornire previsioni online con bassa latenza. Utilizza le predizioni online quando effettui richieste in risposta all'input dell'applicazione o in situazioni che richiedono un'inferenza tempestiva.

• Batch Le previsioni sono richieste asincrone effettuate a un modello che non è il deployment in un endpoint. Invii la richiesta (come BatchPredictionsJob risorsa) direttamente alla risorsa Model. Utilizza le predizioni batch quando non hai bisogno di una risposta immediata e vuoi elaborare i dati accumulati utilizzando una singola richiesta.

Ricevi previsioni da modelli addestrati personalizzati

Per ottenere previsioni, devi prima importare il tuo modello. Dopo l'importazione, diventa un Model risorsa visibile in Vertex AI Model Registry.

Quindi, leggi la seguente documentazione per scoprire come ottenere previsioni:

• Generare previsioni batch

  Oppure

• Esegui il deployment del modello nell'endpoint e ottieni le previsioni online.

Ricevi previsioni dai modelli AutoML

A differenza dei modelli addestrati personalizzati, i modelli AutoML vengono importati automaticamente Vertex AI Model Registry dopo l'addestramento.

A parte questo, il flusso di lavoro per i modelli AutoML è simile, ma varia leggermente in base al tipo di dati e all'obiettivo del modello. La documentazione per ottenere Le previsioni di AutoML si trovano insieme all'altra documentazione di AutoML. Ecco i link alla documentazione:

Immagine

Scopri come ottenere previsioni dai seguenti tipi di modelli AutoML per le immagini:

• Modelli di classificazione delle immagini
• Modelli di rilevamento di oggetti nelle immagini

Tabulare

Scopri come ottenere previsioni dai seguenti tipi di modelli AutoML tabulari:

• Classificazione e modelli di regressione tabulari

  • Previsioni online
  • Previsioni batch

• Modelli di previsione tabulari (solo previsioni batch)

Testo

Scopri come ottenere previsioni dai seguenti tipi di modelli AutoML di testo:

• Modelli di classificazione del testo
• Modelli di estrazione delle entità di testo
• Modelli di analisi del sentiment del testo

Video

Scopri come ottenere previsioni dai seguenti tipi di modelli AutoML video:

• Modelli di riconoscimento delle azioni video (solo previsioni batch)
• Modelli di classificazione di video (solo previsioni batch)
• Modelli di monitoraggio di oggetti video (solo previsioni batch)

Ottenere le previsioni dai modelli BigQuery ML

Esistono due modi per ottenere le previsioni dai modelli BigQuery ML:

• Puoi richiedere previsioni batch direttamente dal modello in in BigQuery ML.
• Puoi registrare i modelli direttamente con da Model Registry, senza esportarli BigQuery ML o importandoli nel registro dei modelli.