Substituto generativo

O recurso de substituto generativo usa os modelos generativos de linguagem grande (LLMs) mais recentes do Google para gerar respostas de agente virtual quando a entrada do usuário final não corresponde a uma intent ou parâmetro de preenchimento de formulário.

O recurso pode ser configurado com um comando de texto que instrui o LLM a responder. É possível usar um comando de texto predefinido ou adicionar seus próprios comandos. Com o comando predefinido, o agente virtual é capaz de lidar com situações de conversa básicas. Exemplo:

  • Cumprimente e se despeça ao usuário.
  • Repita o que o agente disse, caso o usuário não tenha entendido.
  • Segure a linha quando o usuário pedir.
  • Resuma a conversa.

É possível ativar o substituto generativo em gerenciadores de eventos sem correspondência usados em fluxos, páginas ou durante o preenchimento de parâmetros. Quando o substituto generativo está ativado para um evento sem correspondência, sempre que ele é acionado, o Dialogflow tenta produzir uma resposta que será enviada ao usuário. Se a geração da resposta não for bem-sucedida, a resposta normal prescrita do agente será emitida.

Limitações

O recurso está disponível nos idiomas com suporte da API Gemini.

Ativar substituto generativo

É possível ativar o substituto generativo no seu agente em manipuladores de eventos sem correspondência, que podem ser usados no fulfillment de fluxo, página ou parâmetro.

Ative o substituto generativo para eventos sem correspondência de um fluxo inteiro:

  1. Acesse o Console do Dialogflow CX.
  2. Selecione um projeto.
  3. Selecione um agente e um fluxo.
  4. Clique na Página inicial do fluxo para expandi-lo.
  5. Clique em sys.no-match-default em Manipuladores de evento.
  6. Marque Ativar substituto generativo em Respostas do agente.
  7. Clique em Salvar.

Ative o substituto generativo em eventos específicos sem correspondência:

  1. Navegue até o manipulador de eventos No-match de destino (qualquer evento que comece com No-match, como No-match default, No-match 1 e assim por diante).
  2. Marque Ativar substituto generativo em Respostas do agente.
  3. Clique em Salvar.

Configurar substituto generativo

Como mencionado acima, o recurso de substituto generativo transmite uma solicitação a um modelo de linguagem grande para produzir a resposta gerada. A solicitação assume a forma de um comando de texto que é uma combinação de linguagem natural e informações sobre o estado atual do agente e da conversa. O comando e a resposta gerada são verificados em relação a uma lista de frases banidas. Se elas contiverem alguma frase banida ou forem consideradas inseguras, a geração não será bem-sucedida e a resposta normal prescrita (conforme O agente diz no mesmo cumprimento) será emitida.

O recurso pode ser configurado de várias maneiras:

  1. Selecione um comando predefinido.
  2. Defina um comando personalizado.
  3. Adicionar ou remover frases da lista de frases proibidas

Ao criar um comando, além de uma descrição em linguagem natural do tipo de contexto que precisa ser gerado, os seguintes placeholders também podem ser usados:

Termo Definição
$conversation (em inglês) a conversa entre o agente e o usuário, excluindo o último enunciado do usuário.
${conversation USER:"<prefixo do usuário>" AI:"<prefixo do agente>" TURNS:<turn count>} Uma versão parametrizada do marcador $conversation. É possível personalizar o prefixo do usuário final (USER), o prefixo do agente (AI) e o número de rodadas anteriores que serão incluídas (TURNS). Todos os valores de parâmetros dos marcadores precisam ser especificados. Por exemplo: ${conversation USER:"Human says:" AI:"Agent says:" TURNS:4}
$last-user-utterance O último enunciado do usuário.
$flow-description (link em inglês) A descrição do fluxo ativo.
$route-descriptions (em inglês) As descrições das intents ativas.

Tenha boas descrições de fluxos e intents.

Escolher um comando predefinido

  1. Em Configurações do agente, navegue até a guia IA generativa e, em seguida, para a subguia Substituto Generativo.
  2. Selecione uma das opções no menu suspenso Modelo.
  3. Clique em Salvar.

O recurso fornece dois modelos de comando, o Padrão (que não está visível) e o modelo Exemplo, que servem como guia para escrever seus próprios comandos.

Defina seu próprio comando

  1. Em Configurações do agente, navegue até a guia IA generativa e, em seguida, para a subguia Substituto Generativo.
  2. Selecione + novo modelo na lista suspensa Modelo.
  3. Adicione um Nome de modelo.
  4. Adicione um comando de texto.
  5. Clique em Salvar.

Para começar, edite o modelo Example e salve-o como um novo modelo:

  1. Selecione Exemplo no menu suspenso Modelo.
  2. Clique em Editar.
  3. Edite o Nome do modelo.
  4. Edite o Comando de texto.
  5. Clique em Salvar.

Modificar a lista de frases banidas

  1. Em Configurações do agente, navegue até a guia IA generativa e, em seguida, a subguia Geral.
  2. Na seção Frases banidas, inspecione, adicione ou remova frases da lista.
  3. Clique em Salvar.

Testar substitutos generativos

É possível testar o recurso de substituto generativo no simulador. Sempre que um enunciado do usuário não corresponder a um fluxo/página em que o evento sem correspondência foi configurado para produzir uma resposta generativa (e a geração for bem-sucedida), o agente vai gerar a resposta.

Codelab

Consulte também o Codelab de substituto generativo.

Solução de problemas

Se você quiser depurar o recurso, inspecione o prompt de entrada do modelo de linguagem grande (LLM) resolvido no simulador do Console do Dialogflow:

  1. Clique no botão Resposta original:

    Resposta original

  2. Localize o campo Comando de fallback generativo. Leia esses campos como texto simples e verifique se a entrada do LLM faz sentido. Se alguma frase contiver $, examine a entrada do simulador e esclareça se o $ nas solicitações é intencional. Por exemplo, $ em price is $10 provavelmente seria intencional, enquanto visit $city provavelmente não seria e poderia implicar uso incorreto ou um bug. Se não tiver certeza, entre em contato com o suporte.

  3. Se você estiver usando um modelo de comando não padrão, mas não encontrar o campo "Comando de substituição generativa", entre em contato com o suporte.