Mit dem Vertex AI SDK können Sie die meisten Modelle optimieren, die die Abstimmung unterstützen. Nicht alle Basismodelle, die die Abstimmung unterstützen, können mit dem Vertex AI SDK optimiert werden. Führen Sie zum Optimieren eines Modells die Methode tune_model
für das Modellobjekt aus. Die tune_model
-Methode unterstützt die überwachte Abstimmung und unterstützt nicht die Abstimmung durch bestärkendes Lernen durch menschliches Feedback (RLHF).
Weitere Informationen zur Verwendung von Vertex AI für die Abstimmung eines Modells finden Sie unter Sprachbasismodelle optimieren. Ein vollständigeres Beispiel für die Abstimmung eines Textgenerierungsmodells mit dem Vertex AI SDK finden Sie unter Textmodell für die überwachte Abstimmung erstellen.
Basismodell für die Textgenerierung abstimmen
In den folgenden Schritten wird gezeigt, wie Sie mit dem Vertex AI SDK das Basismodell zur Textgenerierung optimieren.
Rufen Sie die Methode
from_pretrained
auf, um eine Version des Textbasismodells zu laden. Im Folgenden wird die neueste stabile Version des Textgenerierungsbasismodells geladen:my_text_generation_model = TextGenerationModel.from_pretrained("text-bison@002")
Führen Sie die Methode
tune_model
aus, um Ihr Textgenerierungsmodell zu optimieren.tune_model
startet einen Modellabstimmungsjob und gibt dann sofort ein Objekt für die Abstimmung zurück. Zur Vereinfachung dieser Dokumentation werden die Parameter im folgenden Code-Snippet durch Auslassungspunkte (...
) ersetzt. Weitere Informationen zu den Parametern finden Sie in dertune_model
-Methodendefinition im Abschnitt "Sprachmodell" des Vertex AI SDK-Referenzhandbuchs.tuning_job = my_text_generation_model.tune_model(...)
Führen Sie die Methode
get_tuned_model
für den Abstimmungsjob aus, um das feinabgestimmte Modell abzurufen.get_tuned_model
wartet auf den Abschluss des Abstimmungsjobs, der vontune_model
gestartet wurde, bevor er ein abgestimmtes Modell zurückgibt.tuned_model = tuning_job.get_tuned_model()
Nach der Abstimmung eines Modells verwenden Sie die Methode
list_tuned_model_names
, um feinabgestimmte Modelle aufzurufen.list_tuned_model_names
gibt abgestimmte Modelle zurück, die dem gleichen Modelltyp angehören wie das Objekt, das es aufgerufen hat. Wenn Sie beispielsweiselist_tuned_model_names
für das ModellobjektTextGenerationModel.from_pretrained("text-bison@002")
aufrufen, werden nur abgestimmte Versionen des Modellstext-bison@002
zurückgegeben. Im folgenden Beispiel werden die Namen von optimierten Textgenerierungsmodellen zurückgegeben:text_generaton_model = TextGenerationModel.from_pretrained("text-bison@002") text_generaton_model.list_tuned_model_names()
Nächste Schritte
- Textmodellklassen und Vertex AI SDK verwenden.
- Codemodellklassen und Vertex AI SDK verwenden.
- Informationen zu Vertex AI SDK-Klassen, die nicht mit der generativen KI zusammenhängen.