Introduzione a Vertex AI

Vertex AI è una piattaforma di machine learning (ML) che consente di addestrare ed eseguire il deployment di modelli ML e applicazioni di AI e personalizzare i modelli linguistici di grandi dimensioni (LLM) da utilizzare nelle applicazioni basate sull'IA. Vertex AI combina i dati e i flussi di lavoro di ML engineering, data science e ML. ai team di collaborare utilizzando un set di strumenti comune e scalare le applicazioni utilizzando e i vantaggi di Google Cloud.

Vertex AI offre diverse opzioni per l'addestramento dei modelli e deployment:

  • AutoML consente di addestrare dati tabulari, immagine, testo o video. senza scrivere codice o preparare suddivisioni di dati.

  • L'addestramento personalizzato ti offre il controllo completo utilizzando il framework ML che preferisci, scrivere i tuoi codice di addestramento e la scelta delle opzioni di ottimizzazione degli iperparametri.

  • Model Garden consente di scoprire, testare, personalizzare e implementare Vertex AI e seleziona modelli e asset open source (OSS).

  • L'IA generativa ti dà accesso all'ampia AI generativa di Google modelli per diverse modalità (testo, codice, immagini, parlato). Puoi ottimizzare gli LLM di Google per soddisfare le tue esigenze e poi eseguirne il deployment per le tue applicazioni basate sull'AI.

Dopo aver eseguito il deployment dei modelli, utilizza gli strumenti MLOps end-to-end di Vertex AI per per automatizzare e scalare i progetti in tutto il ciclo di vita del machine learning. Questi strumenti MLOps vengono eseguiti su un'infrastruttura completamente gestita che puoi personalizzare in base alle tue esigenze di rendimento e budget.

Puoi utilizzare l'SDK Vertex AI per Python per eseguire l'intera macchina un flusso di lavoro di apprendimento in Vertex AI Workbench, un modello basato su blocchi note. Puoi collaborare con un team per sviluppare il tuo modello in Colab Enterprise, una versione di Colaboratory integrata Vertex AI. Altre interfacce disponibili includono la Google Cloud Console, lo strumento a riga di comando gcloud, librerie e Terraform (supporto limitato).

Vertex AI e il flusso di lavoro di machine learning (ML)

Questa sezione fornisce una panoramica del flusso di lavoro di machine learning e di come puoi utilizzare Vertex AI per creare i tuoi modelli ed eseguirne il deployment.

diagramma del flusso di lavoro ML

  1. Preparazione dei dati: dopo aver estratto e pulito il set di dati, esegui Analisi esplorativa dei dati (EDA) per comprendere lo schema dei dati e caratteristiche che il modello ML prevede. Applicare le trasformazioni dei dati e feature engineering al modello e suddividono i dati in addestramento, di convalida e test.

    • Esplora e visualizza i dati con Vertex AI Workbench blocchi note. Vertex AI Workbench si integra con Cloud Storage e BigQuery per aiutarti ad accedere ai tuoi dati ed elaborarli più velocemente.

    • Per set di dati di grandi dimensioni, utilizza Dataproc Serverless Spark da un Blocco note di Vertex AI Workbench per eseguire carichi di lavoro Spark senza dover per gestire i tuoi cluster Dataproc.

  2. Addestramento del modello: scegli un metodo di addestramento per addestrare un modello e ottimizzarlo per delle prestazioni.

    • Per addestrare un modello senza scrivere codice, consulta la sezione AutoML Panoramica. AutoML supporta i formati tabulari, di immagine, testo e dati video.

    • scrivere il codice di addestramento e addestrare modelli personalizzati utilizzando per il framework ML, consulta la panoramica dell'addestramento personalizzato.

    • Ottimizzare gli iperparametri per i modelli con addestramento personalizzato utilizzando l'ottimizzazione personalizzata offerte di lavoro.

    • Vertex AI Vizier ottimizza gli iperparametri per te in macchine complesse di machine learning (ML).

    • Utilizza Vertex AI Experiments per addestrare il tuo modello utilizzando diverse tecniche di ML e confrontarne i risultati.

    • Registra i modelli addestrati nel Vertex AI Model Registry per il controllo delle versioni e il passaggio a e produzione. Vertex AI Model Registry si integra con di deployment, come la valutazione e gli endpoint del modello.

  3. Valutazione e iterazione del modello: valuta il modello addestrato, rendi modifiche ai dati in base a metriche di valutazione ed eseguire l'iterazione in base model.

    • Usare le metriche di valutazione del modello, come precisione e richiamo, per valutare e confrontare le prestazioni dei modelli. Crea valutazioni mediante Vertex AI Model Registry o includere le valutazioni Flusso di lavoro di Vertex AI Pipelines.

  4. Distribuzione del modello: esegui il deployment del modello in produzione e ricevi previsioni.

    • Esegui il deployment del tuo modello con addestramento personalizzato utilizzando un modello predefinito o container personalizzati per ottenere online in tempo reale per le previsioni (a volte chiamata previsione HTTP).

    • Ottenere previsioni batch asincrone, che non richiedono il deployment negli endpoint.

    • Il runtime TensorFlow ottimizzato consente di pubblicare TensorFlow a costi inferiori e con latenza inferiore rispetto a quelli basati su open source di container TensorFlow Serving predefiniti.

    • Per i casi di distribuzione online con modelli tabulari, utilizza Vertex AI Feature Store per fornire caratteristiche da un nel repository centrale e monitorare l'integrità delle caratteristiche.

    • Vertex Explainable AI aiuta a comprendere in che modo ogni caratteristica contribuisce a la previsione del modello (attribuzione delle caratteristiche) e trovare i dati etichettati in modo errato set di dati di addestramento (spiegazione basata su esempi).

    • Esegui il deployment e ottieni previsioni online per i modelli addestrati con BigQuery ML.

  5. Monitoraggio del modello: monitora le prestazioni del modello di cui hai eseguito il deployment. Utilizza le funzionalità di in arrivo per riaddestrare il modello e migliorare le prestazioni.

    • Vertex AI Model Monitoring monitora i modelli per il disallineamento addestramento/produzione e la deviazione della previsione, oltre a inviarti avvisi quando i dati di previsione in arrivo sono troppo distanti dalla base di addestramento.

Passaggi successivi