Ottimizza un modello

Ottimizza un modello

Questa pagina mostra come interagire con Vertex AI per ottimizzare un modello utilizzando il riquadro laterale in Colab Enterprise.

Per accedere a Google Cloud servizi e API eseguendo codice nel tuo notebook Colab Enterprise, puoi utilizzare le credenziali associate al tuo Account Google. Per saperne di più, consulta Accedere Google Cloud a servizi e API.

Il riquadro laterale è un modo aggiuntivo per interagire con Vertex AI per ottimizzare i modelli senza uscire dall'interfaccia di Colab Enterprise.

Il riquadro laterale viene visualizzato a destra di un notebook aperto.

Ottimizzazione del modello in Vertex AI

L'ottimizzazione del modello è un modo efficace per personalizzare modelli di grandi dimensioni in base alle tue attività. Si tratta di un passaggio chiave per migliorare la qualità e l'efficienza del modello. L'ottimizzazione del modello offre i seguenti vantaggi:

• Qualità superiore per le tue attività specifiche
• Maggiore robustezza del modello
• Latenza e costi di inferenza inferiori grazie a prompt più brevi

Per una panoramica dell'ottimizzazione dei modelli Vertex AI per Gemini, consulta Introduzione all'ottimizzazione.

Prima di iniziare

1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

3. Make sure that billing is enabled for your Google Cloud project.

4. Enable the Vertex AI, Dataform, and Compute Engine APIs.

   Enable the APIs

5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

6. Make sure that billing is enabled for your Google Cloud project.

7. Enable the Vertex AI, Dataform, and Compute Engine APIs.

   Enable the APIs

Ruoli obbligatori

Per assicurarti che il tuo account utente disponga delle autorizzazioni necessarie per utilizzare il riquadro laterale in un blocco note Colab Enterprise, chiedi all'amministratore di concedere al tuo account utente i seguenti ruoli IAM sul progetto:

• Utente Colab Enterprise (roles/aiplatform.colabEnterpriseUser)
• Utente Vertex AI (roles/aiplatform.user)

Per saperne di più sulla concessione dei ruoli, consulta Gestire l'accesso a progetti, cartelle e organizzazioni.

L'amministratore potrebbe anche assegnare al tuo account utente le autorizzazioni richieste tramite ruoli personalizzati o altri ruoli predefiniti.

Uno o più dei ruoli richiesti includono l'autorizzazione dataform.repositories.list. Gli utenti a cui è stata concessa l'autorizzazione dataform.repositories.list o il ruolo Creator di codice (roles/dataform.codeCreator) in un progetto possono elencare i nomi degli asset di codice nel progetto utilizzando l'API Dataform o l'interfaccia a riga di comando (CLI) Dataform. Gli utenti non amministratori che utilizzano BigQuery Studio possono vedere solo le risorse di codice che hanno creato o che sono state condivise con loro.

Ottimizza un modello

Puoi ottimizzare un modello in Vertex AI utilizzando il riquadro laterale in Colab Enterprise.

1. Nella console Google Cloud, vai alla pagina I miei notebook di Colab Enterprise.

   Vai a I miei quaderni

2. Nel menu Regione, seleziona la regione contenente il tuo blocco note.

3. Fai clic sul blocco note che vuoi aprire. Se non hai ancora creato un blocco note, creane uno.

4. A destra del notebook, nel riquadro laterale, fai clic sul pulsante  Tuning.

   Nel riquadro laterale viene espansa la scheda Tuning.

5. Fai clic sul pulsante Ottimizza un modello Gemini.

   Colab Enterprise aggiunge celle di codice al tuo notebook per ottimizzare un modello Gemini.

6. Nel notebook, individua la cella di codice che memorizza i valori dei parametri. Utilizzerai questi parametri per interagire con Vertex AI.

7. Aggiorna i valori dei seguenti parametri:

   • PROJECT_ID: l'ID del progetto in cui si trova il tuo notebook.
   • REGION: la regione in cui si trova il notebook.
   • TUNED_MODEL_DISPLAY_NAME: il nome del modello ottimizzato.

8. Nella cella di codice successiva, aggiorna i parametri di ottimizzazione del modello:

   • source_model: il modello Gemini che vuoi utilizzare, ad esempio gemini-1.0-pro-002.
   • train_dataset: l'URL del set di dati di addestramento.
   • validation_dataset: l'URL del tuo set di dati di convalida.
   • Modifica i restanti parametri in base alle tue esigenze.

9. Esegui le celle di codice aggiunte al notebook dal riquadro laterale.

10. Dopo l'esecuzione dell'ultima cella di codice, fai clic sul pulsante  Visualizza job di ottimizzazione visualizzato.

11. Il riquadro laterale mostra informazioni sul job di ottimizzazione del modello.

    • La scheda Monitora mostra le metriche di ottimizzazione quando sono pronte.
    • La scheda Set di dati mostra un riepilogo e le metriche relative al set di dati dopo l'elaborazione.
    • La scheda Dettagli mostra informazioni sul job di ottimizzazione, ad esempio il metodo di ottimizzazione e il modello di base (modello di origine) utilizzato.

12. Al termine del job di ottimizzazione, puoi passare direttamente dalla scheda Dettagli ottimizzazione a una pagina in cui puoi testare il modello. Fai clic su Testa.

    Nella console Google Cloud si apre la pagina Chat di testo di Vertex AI, dove puoi testare il modello.

Visualizzare i dettagli di un job di ottimizzazione

Puoi visualizzare i dettagli di un job di ottimizzazione anche se non lo hai creato ed eseguito in Colab Enterprise. Puoi visualizzare i dettagli di un job di ottimizzazione utilizzando il riquadro laterale in Colab Enterprise.

1. Nella console Google Cloud, vai alla pagina I miei notebook di Colab Enterprise.

   Vai a I miei quaderni

2. Nel menu Regione, seleziona la regione contenente il tuo blocco note.

3. Fai clic sul blocco note che vuoi aprire. Se non hai ancora creato un blocco note, creane uno.

4. A destra del notebook, nel riquadro laterale, fai clic sul pulsante  Tuning.

   Nel riquadro laterale viene espansa la scheda Tuning.

5. Fai clic sul pulsante Visualizza i dettagli del job di ottimizzazione.

   Colab Enterprise aggiunge celle di codice al tuo notebook per recuperare i dettagli di un job di ottimizzazione.

6. Nel notebook, individua la cella di codice che memorizza i valori dei parametri. Utilizzerai questi parametri per interagire con Vertex AI.

7. Aggiorna i valori dei seguenti parametri:

   • PROJECT_ID: l'ID del progetto in cui si trova il tuo notebook.
   • REGION: la regione in cui si trova il notebook.
   • TUNING_JOB_ID: l'ID del tuo job di ottimizzazione di Vertex AI.

8. Esegui le celle di codice aggiunte al notebook dal riquadro laterale.

9. Dopo l'esecuzione dell'ultima cella di codice, fai clic sul pulsante  Visualizza job di ottimizzazione visualizzato.

10. Il riquadro laterale mostra informazioni sul job di ottimizzazione del modello.

    • La scheda Monitora mostra le metriche di ottimizzazione quando sono pronte.
    • La scheda Set di dati mostra un riepilogo e le metriche relative al set di dati dopo l'elaborazione.
    • La scheda Dettagli mostra informazioni sul job di ottimizzazione, ad esempio il metodo di ottimizzazione e il modello di base (modello di origine) utilizzato.

Passaggi successivi

• Scopri di più sull'ottimizzazione del modello in Vertex AI.

• Per scoprire di più sui parametri di ottimizzazione del modello, consulta Ottimizza i modelli Gemini utilizzando la messa a punto fine supervisionata.