Ajustar um modelo

Esta página mostra como interagir com a Vertex AI para ajustar um modelo usando o painel lateral no Colab Enterprise.

Para acessar os serviços e as APIs do Google Cloud executando o código no seu notebook do Colab Enterprise, use as credenciais associadas à sua Conta do Google. Para saber mais, consulte Acesso a APIs e serviços do Google Cloud .

O painel lateral é outra maneira de interagir com a Vertex AI para ajustar modelos sem sair da interface do Colab Enterprise.

O painel lateral aparece na página Notebooks do Colab Enterprise sempre que você tem um ou mais notebooks abertos.

Ajuste de modelos na Vertex AI

O ajuste de modelos é uma maneira eficaz de personalizar modelos grandes para suas tarefas. Essa é uma etapa fundamental para melhorar a qualidade e a eficiência do modelo. O ajuste de modelos oferece os seguintes benefícios:

  • Qualidade mais alta para suas tarefas específicas
  • Maior robustez do modelo
  • Menor latência e custo de inferência devido a comandos mais curtos

Para uma visão geral do ajuste de modelo da Vertex AI para Gemini, consulte Introdução ao ajuste.

Antes de começar

  1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.
  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  3. Make sure that billing is enabled for your Google Cloud project.

  4. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Enable the APIs

  5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  6. Make sure that billing is enabled for your Google Cloud project.

  7. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Enable the APIs

Funções exigidas

Para garantir que sua conta de usuário tenha as permissões necessárias para usar o painel lateral em um bloco do Colab Enterprise, peça para seu administrador conceder à sua conta de usuário os seguintes papéis do IAM no projeto:

Para mais informações sobre a concessão de papéis, consulte Gerenciar o acesso a projetos, pastas e organizações.

O administrador também pode conceder à sua conta de usuário as permissões necessárias via funções personalizadas ou outros papéis predefinidos.

Ajustar um modelo

É possível ajustar um modelo na Vertex AI usando o painel lateral no Colab Enterprise.

  1. No console do Google Cloud, acesse a página Notebooks do Colab Enterprise.

    Acesse o Notebooks

  2. No menu Região, selecione a região que contém o notebook.

  3. Na guia Meus notebooks, clique no notebook que você quer abrir. Crie um notebook se ainda não tiver feito isso.

  4. À direita do notebook, no painel lateral, clique no botão  Tuning (Sintonia).

    O painel lateral abre a guia Ajuste.

  5. Clique no botão Ajustar um modelo do Gemini.

    O Colab Enterprise adiciona células de código ao seu notebook para ajustar um modelo do Gemini.

  6. No seu notebook, encontre a célula de código que armazena os valores de parâmetro. Você vai usar esses parâmetros para interagir com a Vertex AI.

  7. Atualize os valores dos seguintes parâmetros:

    • PROJECT_ID: o ID do projeto em que o notebook está.
    • REGION: a região em que o notebook está.
    • TUNED_MODEL_DISPLAY_NAME: o nome do modelo ajustado.
  8. Na próxima célula de código, atualize os parâmetros de ajuste do modelo:

    • source_model: o modelo do Gemini que você quer usar, por exemplo, gemini-1.0-pro-002.
    • train_dataset: o URL do conjunto de dados de treinamento.
    • validation_dataset: o URL do conjunto de dados de validação.
    • Ajuste os outros parâmetros conforme necessário.
  9. Execute as células de código que o painel lateral adicionou ao notebook.

  10. Depois que a última célula de código for executada, clique no botão  View tuning job que aparece.

  11. O painel lateral mostra informações sobre o job de ajuste do modelo.

    • A guia Monitor mostra as métricas de ajuste quando elas estão prontas.
    • A guia Dataset mostra um resumo e métricas sobre seu conjunto de dados depois que ele é processado.
    • A guia Detalhes mostra informações sobre o job de ajuste, como o método de ajuste e o modelo base (modelo de origem) usado.
  12. Depois que o job de ajuste for concluído, você poderá acessar diretamente a guia Detalhes do ajuste para testar o modelo. Clique em Testar.

    O console do Google Cloud abre na página Chat de texto da Vertex AI, onde você pode testar seu modelo.

Conferir detalhes de um job de ajuste

É possível conferir os detalhes de um job de ajuste, mesmo que você não tenha criado e executado o job de ajuste no Colab Enterprise. É possível conferir os detalhes de um job de ajuste usando o painel lateral no Colab Enterprise.

  1. No console do Google Cloud, acesse a página Notebooks do Colab Enterprise.

    Acesse o Notebooks

  2. No menu Região, selecione a região que contém o notebook.

  3. Na guia Meus notebooks, clique no notebook que você quer abrir. Crie um notebook se ainda não tiver feito isso.

  4. À direita do notebook, no painel lateral, clique no botão  Tuning.

    O painel lateral abre a guia Ajuste.

  5. Clique no botão Ver detalhes do job de ajuste.

    O Colab Enterprise adiciona células de código ao seu notebook para conferir os detalhes de um job de ajuste.

  6. No seu notebook, encontre a célula de código que armazena os valores de parâmetro. Você vai usar esses parâmetros para interagir com a Vertex AI.

  7. Atualize os valores dos seguintes parâmetros:

    • PROJECT_ID: o ID do projeto em que o notebook está.
    • REGION: a região em que o notebook está.
    • TUNING_JOB_ID: o ID do job de ajuste da Vertex AI.
  8. Execute as células de código que o painel lateral adicionou ao notebook.

  9. Depois que a última célula de código for executada, clique no botão  View tuning job que aparece.

  10. O painel lateral mostra informações sobre o job de ajuste do modelo.

    • A guia Monitor mostra as métricas de ajuste quando elas estão prontas.
    • A guia Dataset mostra um resumo e métricas sobre seu conjunto de dados depois que ele é processado.
    • A guia Detalhes mostra informações sobre o job de ajuste, como o método de ajuste e o modelo base (modelo de origem) usado.

A seguir