Usar o SDK da Vertex AI para ajustar modelos

É possível usar o SDK da Vertex AI para ajustar a maioria dos modelos que aceitam ajustes. Nem todos os modelos de fundação que aceitam isso podem ser ajustados usando o SDK da Vertex AI. Para ajustar um modelo, execute o método tune_model no objeto do modelo. O método tune_model permite ajustes supervisionados e não permite ajustes de aprendizado por reforço com feedback humano (RLHF). Para mais detalhes sobre como usar a Vertex AI para ajustar um modelo, consulte Ajustar modelos de fundação de linguagem. Para ver um exemplo mais completo de como ajustar um modelo de geração de texto usando o SDK da Vertex AI, consulte Criar um job de ajuste supervisionado de modelo de texto.

Ajustar um modelo de fundação de geração de texto

As etapas a seguir demonstram como usar o SDK da Vertex AI para ajustar o modelo de fundação de geração de texto.

  1. Chame o método from_pretrained para carregar uma versão do modelo de fundação de texto. O comando a seguir carrega a versão estável mais recente do modelo de fundação de geração de texto:

    my_text_generation_model = TextGenerationModel.from_pretrained("text-bison@002")

  2. Execute o método tune_model para ajustar seu modelo de geração de texto. tune_model inicia um job de ajuste de modelo e retorna imediatamente um objeto desse job. Para simplificar essa documentação, os parâmetros no snippet de código a seguir são substituídos por reticências (...). Para saber mais sobre os parâmetros, consulte a definição do método tune_model na seção de modelo de linguagem do guia de referência do SDK da Vertex AI.

    tuning_job = my_text_generation_model.tune_model(...)

  3. Execute o método get_tuned_model no job de ajuste para receber o modelo ajustado. get_tuned_model aguarda a conclusão do job de ajuste iniciado por tune_model antes de retornar um modelo ajustado.

    tuned_model = tuning_job.get_tuned_model()

  4. Depois de ajustar um modelo, use o método list_tuned_model_names para ver os modelos ajustados. list_tuned_model_names retorna modelos ajustados do mesmo tipo de modelo que o objeto que o chamou. Por exemplo, se você chamar list_tuned_model_names no objeto de modelo TextGenerationModel.from_pretrained("text-bison@002"), somente versões ajustadas do modelo text-bison@002 serão retornadas. O exemplo a seguir retorna os nomes dos modelos ajustados de geração de texto:

    text_generaton_model = TextGenerationModel.from_pretrained("text-bison@002")
text_generaton_model.list_tuned_model_names()

A seguir