Usare l'SDK Vertex AI per ottimizzare i modelli

Puoi utilizzare l'SDK Vertex AI per ottimizzare la maggior parte dei modelli che supportano l'ottimizzazione. Non tutti i modelli di base che supportano l'ottimizzazione possono essere ottimizzati utilizzando l'SDK Vertex AI. Per ottimizzare un modello, esegui il metodo tune_model sull'oggetto modello. Il metodo tune_model supporta l'ottimizzazione supervisionata e non supporta l'ottimizzazione dell'apprendimento per rinforzo con feedback umano (RLHF). Per maggiori dettagli sull'uso di Vertex AI per ottimizzare un modello, consulta Ottimizzare i modelli di base del linguaggio. Per un esempio più completo di come ottimizzare un modello di generazione di testo utilizzando l'SDK Vertex AI, consulta Creare un job di ottimizzazione supervisionato con modello di testo.

Ottimizza un modello di base per la generazione di testo

I passaggi seguenti dimostrano come utilizzare l'SDK Vertex AI per ottimizzare il modello di base per la generazione di testi.

  1. Chiama il metodo from_pretrained per caricare una versione del modello di base di testo. Di seguito viene caricata la versione stabile più recente del modello di base per la generazione di testi:

    my_text_generation_model = TextGenerationModel.from_pretrained("text-bison@002")

  2. Esegui il metodo tune_model per ottimizzare il modello di generazione del testo. tune_model avvia un job di ottimizzazione del modello, quindi restituisce immediatamente un oggetto del job di ottimizzazione. Per semplificare la documentazione, i parametri nel seguente snippet di codice sono sostituiti dai puntini di sospensione (...). Per informazioni sui parametri, consulta la definizione del metodo tune_model nella sezione relativa al modello linguistico della guida di riferimento dell'SDK Vertex AI.

    tuning_job = my_text_generation_model.tune_model(...)

  3. Esegui il metodo get_tuned_model sul job di ottimizzazione per ottenere il modello ottimizzato. get_tuned_model attende il completamento del job di ottimizzazione avviato da tune_model prima di restituire un modello ottimizzato.

    tuned_model = tuning_job.get_tuned_model()

  4. Dopo aver ottimizzato un modello, usa il metodo list_tuned_model_names per visualizzarli. list_tuned_model_names restituisce i modelli ottimizzati che sono dello stesso tipo di modello dell'oggetto che li ha chiamati. Ad esempio, se chiami list_tuned_model_names sull'oggetto del modello TextGenerationModel.from_pretrained("text-bison@002"), vengono restituite solo le versioni ottimizzate del modello text-bison@002. Quanto segue restituisce i nomi dei modelli ottimizzati di generazione del testo:

    text_generaton_model = TextGenerationModel.from_pretrained("text-bison@002")
text_generaton_model.list_tuned_model_names()

Passaggi successivi