O recurso de substituto generativo usa os modelos generativos de linguagem grande (LLMs, na sigla em inglês) mais recentes do Google para gerar respostas de agente virtual quando a entrada do usuário final não corresponde a uma intent ou parâmetro para preenchimento de formulário.
O recurso pode ser configurado com um comando de texto que instrui o LLM a responder. É possível usar um comando de texto predefinido ou adicionar seus próprios comandos. Com o prompt predefinido, o agente virtual é capaz de lidar com situações de conversa básicas. Exemplo:
- Cumprimentar e se despedir do usuário.
- Repetir o que o agente disse, caso o usuário não tenha entendido.
- Manter a linha quando o usuário solicitar.
- Resuma a conversa.
É possível ativar o substituto generativo nos manipuladores de eventos sem correspondência usados em fluxos, páginas ou durante o preenchimento de parâmetros. Quando o substituto generativo estiver ativado para um evento sem correspondência, sempre que esse evento for acionado, o Dialogflow tentará produzir uma resposta gerada que será dita de volta ao usuário. Se a geração de resposta não for bem-sucedida, a resposta normal do agente prescrita será emitida.
Limitações
O recurso está disponível nos idiomas compatíveis com a API PaLM da Vertex AI.
Ativar substituto generativo
É possível ativar o substituto generativo no seu agente em manipuladores de eventos sem correspondência, que podem ser usados no fulfillment de fluxo, página ou parâmetro.
Ative o substituto generativo para eventos sem correspondência de um fluxo inteiro:
- Acesse o Console do Dialogflow CX.
- Selecione um projeto.
- Selecione um agente e, em seguida, um fluxo.
- Clique na página inicial do fluxo para expandi-lo.
- Clique em sys.no-match-default em Gerenciadores de eventos.
- Marque Ativar substituto generativo em Respostas do agente.
- Clique em Salvar.
Ative o substituto generativo em eventos específicos sem correspondência:
- Navegue até o manipulador de eventos No-match de destino, que pode ser qualquer evento que comece com No-match, como No-match default, No-match 1 e assim por diante.
- Marque Ativar substituto generativo em Respostas do agente.
- Clique em Salvar.
Configurar um substituto generativo
Como mencionado acima, o recurso de substituto generativo transmite uma solicitação a um modelo de linguagem grande para produzir a resposta gerada. A solicitação tem a forma de um prompt de texto que é uma combinação de linguagem natural e informações sobre o estado atual do agente e da conversa. O comando e a resposta gerada são verificados em relação a uma lista de frases banidas. Se elas contiverem alguma frase banida ou forem consideradas inseguras, a geração não será bem-sucedida, e a resposta normal prescrita (em O agente diz no mesmo cumprimento) será emitida.
O recurso pode ser configurado de várias maneiras:
- Selecione um comando predefinido.
- Definir um comando personalizado.
- Adicione ou remova frases da lista de frases proibidas.
Ao criar um comando, além de uma descrição em linguagem natural do tipo de contexto que precisa ser gerado, os seguintes placeholders também podem ser usados:
| Termo | Definição |
|---|---|
| $conversation (em inglês) | A conversa entre o agente e o usuário, excluindo o último enunciado do usuário. |
| ${conversation USER:"<user prefix>" AI:"<agent prefix>" TURNS:<turn count>} | Uma versão parametrizada do marcador $conversation. É possível personalizar o prefixo do usuário final (USER), o prefixo do agente (AI) e o número de curvas anteriores a serem incluídas (TURNS). Todos os valores de parâmetro do marcador precisam ser especificados. Por exemplo: ${conversation USER:"Human says:" AI:"Agent says:" TURNS:4} |
| $last-user-utterance | A última fala do usuário. |
| $flow-description (link em inglês) | A descrição do fluxo ativo. |
| $route-descriptions (link em inglês) | As descrições das intents ativas. |
Certifique-se de ter boas descrições de intent e fluxo.
Escolher um comando predefinido
- Em Agent Settings, navegue até a guia Generative AI e, em seguida, a subguia Generative Fallback.
- Selecione uma das opções na lista suspensa Modelo.
- Clique em Salvar.
O recurso fornece dois modelos de solicitação: o modelo Default, que não está visível, e o modelo Exemplo, que pode servir como um guia para escrever seus próprios comandos.
Definir seu próprio comando
- Em Agent Settings, navegue até a guia Generative AI e, em seguida, a subguia Generative Fallback.
- Selecione + novo modelo na lista suspensa Modelo.
- Adicione um Nome de modelo.
- Adicione um comando de texto.
- Clique em Salvar.
Você também pode começar editando o modelo Example e salvando-o como um novo modelo:
- Selecione Exemplo na lista suspensa Modelo.
- Clique em Editar.
- Edite o Nome do modelo.
- Edite o Comando de texto.
- Clique em Salvar.
Modificar a lista de frases proibidas
- Em Configurações do agente, navegue até a guia IA generativa e, em seguida, a subguia Geral.
- Na seção Frases banidas, inspecione, adicione ou remova frases da lista.
- Clique em Salvar.
Testar substituto generativo
É possível testar o recurso de substituto generativo no simulador. Sempre que um enunciado do usuário levar a uma correspondência em um fluxo/página em que o evento sem correspondência foi configurado para produzir uma resposta generativa (e a geração for bem-sucedida), o agente produzirá a resposta gerada.
Codelab
Consulte também o Codelab generativo substituto.
Solução de problemas
Se você quiser depurar o recurso, inspecione o prompt de entrada do modelo de linguagem grande (LLM) resolvido no simulador do Console do Dialogflow:
Clique no botão resposta original:
Localize o campo "Generative Fallback Prompt". Leia esses campos como texto simples e verifique se a entrada do LLM faz sentido. Se alguma frase contiver
$, examine a entrada do simulador e esclareça se as$nas solicitações são intencionais. Por exemplo,$emprice is $10provavelmente seria intencional, enquantovisit $cityprovavelmente não seria e poderia implicar uso incorreto ou um bug. Se não tiver certeza, entre em contato com o suporte.Se você estiver usando um modelo de prompt não padrão, mas não encontrar o campo "Prompt de fallback generativo", entre em contato com o suporte.