Eseguire la migrazione dai modelli precedenti

Reimpostare la base di un modello

Puoi eseguire il rebase di un modello ottimizzato precedente utilizzando la console Google Cloud o programmaticamente. Questa guida spiega come eseguire il rebase, un processo che aggiorna il modello di base di un modello ottimizzato all'ultima versione.

È importante eseguire il rebase di un modello perché vengono rilasciati periodicamente modelli di base nuovi e migliorati. Spesso vengono addestrati su set di dati più grandi, hanno un'architettura migliore e includono miglioramenti delle prestazioni. La ricollocazione ti consente di usufruire di questi miglioramenti. La ricollocazione utilizza gli iperparametri consigliati per il nuovo modello di base per ottenere un rendimento ottimale.

I modelli bison models e gemini-1.0 utilizzano un formato del set di dati diverso da quello di gemini-1.5 models. Se esegui l'upgrade da una versione precedente del modello a gemini-1.5, hai due opzioni:

  1. Continua a utilizzare il set di dati esistente: il set di dati di ottimizzazione precedente può comunque funzionare con gemini-1.5, consentendo una transizione senza problemi.
  2. Crea un nuovo set di dati: per prestazioni ottimali con gemini-1.5, crea un nuovo set di dati nel bucket Cloud Storage utilizzando il formato aggiornato.

REST

Prima di utilizzare i dati della richiesta, apporta le seguenti sostituzioni:

  • LOCATION: la regione in cui viene eseguito il job di ottimizzazione. Si tratta anche della regione predefinita in cui viene caricato il modello ottimizzato.
  • PROJECT_ID: il tuo ID progetto.
  • MODEL_ID: il nome del modello ottimizzato di cui vuoi eseguire il rebase.
  • TUNING_JOB_ID: per i modelli Gemini precedenti che utilizzano tuning_job.
  • PIPELINE_JOB_NAME: la pipeline di ottimizzazione dei modelli bison legacy.

Metodo HTTP e URL: 

POST https://REGION-aiplatform.googleapis.com/ui/projects/PROJECT_ID/locations/REGION/tuningJobs:rebaseTunedModel

Corpo JSON della richiesta: 

{
  "tunedModelRef": {
    "tuned_model": "projects/PROJECT_ID/locations/REGION/models/MODEL_ID"
  }
}

Per inviare la richiesta, scegli una delle seguenti opzioni:

curl

Salva il corpo della richiesta in un file denominato request.json, quindi esegui il comando seguente: 

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://REGION-aiplatform.googleapis.com/ui/projects/PROJECT_ID/locations/REGION/tuningJobs:rebaseTunedModel"

PowerShell

Salva il corpo della richiesta in un file denominato request.json, quindi esegui il comando seguente: 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://REGION-aiplatform.googleapis.com/ui/projects/PROJECT_ID/locations/REGION/tuningJobs:rebaseTunedModel" | Select-Object -Expand Content

Dovresti ricevere una risposta JSON simile alla seguente.

Console Google Cloud

Segui queste istruzioni per eseguire la rebase di un modello ottimizzato su un modello di base più recente

  1. Nella sezione Vertex AI della console Google Cloud, vai all'ottimizzazione nella pagina Vertex AI Studio.

    Vai a Vertex AI Studio

  2. Nell'elenco dei modelli ottimizzati, nella colonna delle notifiche, i modelli obsoleti o che possono essere sottoposti a rebase hanno l'opzione Esegui nuova ottimizzazione.
  3. Seleziona Reimposta.
  4. Scegli un nome per il modello ottimizzato di nuovo.
  5. Dal menu a discesa, seleziona il nuovo modello di base da utilizzare.
  6. Seleziona la regione che vuoi utilizzare.
  7. Seleziona la posizione della directory di output, ovvero la posizione di Cloud Storage in cui sono archiviati i set di dati di ottimizzazione riformattati.
  8. Aggiorna la posizione del set di dati di ottimizzazione caricando un nuovo file su Cloud Storage o utilizza un percorso Cloud Storage esistente.
  9. (Facoltativo) Abilita la convalida del modello e connettiti al set di dati di convalida di Cloud Storage.
  10. Fai clic su Avvia ottimizzazione.

Passaggi successivi