Modelle mit dem Vertex AI SDK abstimmen

Mit dem Vertex AI SDK können Sie die meisten Modelle optimieren, die die Abstimmung unterstützen. Nicht alle Basismodelle, die die Abstimmung unterstützen, können mit dem Vertex AI SDK optimiert werden. Führen Sie zum Optimieren eines Modells die Methode tune_model für das Modellobjekt aus. Die tune_model-Methode unterstützt die überwachte Abstimmung und unterstützt nicht die Abstimmung durch bestärkendes Lernen durch menschliches Feedback (RLHF). Weitere Informationen zur Verwendung von Vertex AI für die Abstimmung eines Modells finden Sie unter Sprachbasismodelle optimieren. Ein vollständigeres Beispiel für die Abstimmung eines Textgenerierungsmodells mit dem Vertex AI SDK finden Sie unter Textmodell für die überwachte Abstimmung erstellen.

Basismodell für die Textgenerierung abstimmen

In den folgenden Schritten wird gezeigt, wie Sie mit dem Vertex AI SDK das Basismodell zur Textgenerierung optimieren.

  1. Rufen Sie die Methode from_pretrained auf, um eine Version des Textbasismodells zu laden. Im Folgenden wird die neueste stabile Version des Textgenerierungsbasismodells geladen:

    my_text_generation_model = TextGenerationModel.from_pretrained("text-bison@002")

  2. Führen Sie die Methode tune_model aus, um Ihr Textgenerierungsmodell zu optimieren. tune_model startet einen Modellabstimmungsjob und gibt dann sofort ein Objekt für die Abstimmung zurück. Zur Vereinfachung dieser Dokumentation werden die Parameter im folgenden Code-Snippet durch Auslassungspunkte (...) ersetzt. Weitere Informationen zu den Parametern finden Sie in der tune_model-Methodendefinition im Abschnitt "Sprachmodell" des Vertex AI SDK-Referenzhandbuchs.

    tuning_job = my_text_generation_model.tune_model(...)

  3. Führen Sie die Methode get_tuned_model für den Abstimmungsjob aus, um das feinabgestimmte Modell abzurufen. get_tuned_model wartet auf den Abschluss des Abstimmungsjobs, der von tune_model gestartet wurde, bevor er ein abgestimmtes Modell zurückgibt.

    tuned_model = tuning_job.get_tuned_model()

  4. Nach der Abstimmung eines Modells verwenden Sie die Methode list_tuned_model_names, um feinabgestimmte Modelle aufzurufen. list_tuned_model_names gibt abgestimmte Modelle zurück, die dem gleichen Modelltyp angehören wie das Objekt, das es aufgerufen hat. Wenn Sie beispielsweise list_tuned_model_names für das Modellobjekt TextGenerationModel.from_pretrained("text-bison@002") aufrufen, werden nur abgestimmte Versionen des Modells text-bison@002 zurückgegeben. Im folgenden Beispiel werden die Namen von optimierten Textgenerierungsmodellen zurückgegeben:

    text_generaton_model = TextGenerationModel.from_pretrained("text-bison@002")
text_generaton_model.list_tuned_model_names()

Nächste Schritte