O ajuste fino supervisionado é uma boa opção quando você tem uma tarefa bem definida com dados rotulados disponíveis. Ele é particularmente eficaz para aplicativos específicos de domínio em que a linguagem ou o conteúdo é significativamente diferente dos dados para os quais o modelo grande foi originalmente treinado.
O ajuste supervisionado adapta o comportamento do modelo com um conjunto de dados rotulado. Esse processo ajusta os pesos do modelo para minimizar a diferença entre as previsões e os rótulos reais. Ele pode melhorar o desempenho do modelo para os seguintes tipos de tarefas:
- Classificação
- Análise de sentimento
- Extração de entidades
- Resumo de conteúdo não complexo
- Escrever consultas específicas do domínio.
Modelos compatíveis
Os seguintes modelos do Gemini são compatíveis com ajuste supervisionado:
gemini-1.0-pro-002
Casos de uso do ajuste supervisionado em modelos de texto
Os modelos de texto base funcionam bem quando a saída ou a tarefa esperada pode ser definida de maneira clara e concisa em um prompt e ele produza a saída esperada de maneira consistente. Se você quiser que um modelo aprenda algo nichado ou específico que se desloque dos padrões gerais de linguagem, convém ajustar esse modelo. Por exemplo, é possível usar o ajuste de modelo para ensinar o modelo a seguir:
- Estruturas ou formatos específicos para gerar resultados.
- Comportamentos específicos, como quando fornecer uma resposta final ou detalhada.
- Resultados personalizados específicos para tipos específicos de entradas.
Os exemplos a seguir são casos de uso difíceis de capturar apenas com instruções imediatas:
Classificação: a resposta esperada é uma palavra ou frase específica.
Ajustar o modelo pode impedir que ele gere respostas detalhadas.
Resumo: o resumo segue um formato específico. Por exemplo, talvez seja necessário remover informações de identificação pessoal (PII, na sigla em inglês) em um resumo do chat.
Essa formatação de substituição dos nomes dos falantes por
#Person1e#Person2é difícil de descrever, e o modelo de fundação pode não produzir naturalmente essa resposta.Resposta de pergunta extrativa: a pergunta é sobre um contexto e a resposta é uma substring do contexto.
:
A resposta "Último máximo glacial" é uma frase específica do contexto.
Chat: você precisa personalizar a resposta do modelo para seguir um perfil, um papel ou um personagem.
Também é possível ajustar um modelo nas seguintes situações:
- As solicitações não produzem os resultados esperados com consistência suficiente.
- A tarefa é muito complicada de ser definida em um prompt. Por exemplo, você quer que o modelo faça clonagem de comportamento para um comportamento difícil de articular em um prompt.
- Você tem uma intuição complexa sobre uma tarefa que é fácil de provocar, mas difícil de formalizar em um prompt.
- Você quer reduzir a duração do contexto removendo os exemplos de poucas fotos.
A seguir
- Preparar um conjunto de dados de ajuste supervisionado.