Os geradores usam os modelos generativos de linguagem grande (LLMs) mais recentes do Google e os prompts fornecidos para gerar comportamento e respostas do agente no momento da execução. Os modelos disponíveis são fornecidos pela Vertex AI.
Ele permite fazer uma chamada para um LLM de maneira nativa pelo Dialogflow CX, sem precisar criar seu próprio webhook externo. É possível configurar o gerador para fazer algo que você normalmente pediria a um LLM.
Eles são ótimos para tarefas como resumo, extração de parâmetros, transformações de dados e assim por diante. Confira os exemplos abaixo.
Limitações
No momento, esse recurso está disponível para agentes em qualquer idioma do Dialogflow. Os modelos disponíveis podem ter limitações de linguagem mais restritivas. Consulte a Vertex AI para saber mais.
Entenda os conceitos do gerador
A documentação da Vertex AI contém informações que são importantes de entender ao criar geradores para o Dialogflow:
Definir um gerador
Para criar um gerador:
- Acesse o Console do Dialogflow CX.
- Selecione seu projeto do Google Cloud.
- Selecione o agente.
- Clique na guia Gerenciar.
- Clique em Geradores.
- Clique em Criar novo.
- Insira um nome de exibição descritivo para o gerador.
- Insira o comando de texto, o modelo e os controles, conforme descrito em Conceitos.
- Clique em Salvar.
O comando de texto é enviado ao modelo generativo durante o fulfillment no momento da execução. Ela precisa ser uma pergunta ou solicitação clara para que o modelo gere uma resposta satisfatória.
É possível tornar o comando contextual marcando palavras como marcadores de posição adicionando um $ antes da palavra. Posteriormente, é possível associar esses marcadores de solicitação do
gerador a parâmetros de sessão no fulfillment. Eles serão substituídos pelos
valores de parâmetro da sessão durante a execução.
Há marcadores de solicitação do gerador especiais que não precisam ser associados a parâmetros de sessão. Esses marcadores de solicitação do gerador integrado são
| Termo | Definição |
|---|---|
$conversation |
A conversa entre o agente e o usuário, excluindo o último enunciado do usuário. |
$last-user-utterance |
A última fala do usuário. |
Usar um gerador no fulfillment
É possível usar geradores durante o fulfillment (em Rotas, gerenciadores de eventos, Parâmetros e muito mais).
Acesse a seção Generators do painel Fulfillment e expanda-a. Em seguida, clique em Adicionar gerador. Agora é possível selecionar um gerador predefinido ou definir um novo.
Depois de selecionar um gerador, é necessário associar os marcadores de solicitação do gerador aos parâmetros de sessão. Além disso, você precisa definir o parâmetro de saída que conterá o resultado do gerador após a execução.
É possível adicionar vários geradores a um fulfillment, que são executados em paralelo.
O parâmetro de saída pode ser usado mais tarde, por exemplo, na resposta do agente.
Testar um gerador
O recurso de gerador pode ser testado diretamente no simulador.
Examples
Nesta seção, mostramos exemplos de casos de uso para geradores.
Resumo de conteúdo
Este exemplo mostra como resumir conteúdo.
Comando:
Your goal is to summarize a given text.
Text:
$text
A concise summary of the text in 1 or 2 sentences is:
Resumo de conversas
Neste exemplo, mostramos como fornecer um resumo de conversa.
Comando:
You are an expert at summarizing conversations between a User and an Agent.
When providing the summary, always start with "Dear $email_address, the conversation summary is as follows:"
Provide a summary in a few bullet points.
Try to be as brief as possible with each bullet point,
only noting the key points of the conversation.
Output the summary in markdown format.
Conversation:
$conversation
Summary:
Comando resolvido:
Para uma conversa de exemplo, o comando resolvido que é enviado ao modelo generativo pode ser:
You are an expert at summarizing conversations between a User and an Agent.
When providing the summary, always start with "Dear joe@example.com conversation summary is as follows:"
Provide a summary in a few bullet points.
Try to be as brief as possible with each bullet point,
only noting the key points of the conversation.
Output the summary in markdown format.
Conversation:
Agent: Good day! What can I do for you today?
User: Hi, which models can I use in Dialogflow's generators?
Agent: You can use all models that Vertex AI provides!
User: Thanks, thats amazing!
Summary:
Formatação do Markdown
Este exemplo mostra como formatar o texto em markdown.
# Instructions
You are presented with a text and your goal is to apply markdown formatting to text.
**NOTE:** Do not change the meaning of the text, only the formatting.
# Example
## Text
Generators allow you to use Googles latest generative models to format text,
or to create a summaries, or even to write code. What an amazing feature.
## Text in Markdown
*Generators* allow you to use Google's latest generative models to
* format text
* create a summaries
* write code
What an amazing feature.
# Your current task
## Text
$text
## Text in Markdown
Respostas a perguntas
Esta série de exemplos mostra como usar geradores para responder a perguntas.
Primeiro, basta confiar no conhecimento interno do modelo generativo para responder à pergunta. Observe, no entanto, que o modelo simplesmente fornecerá uma resposta com base nas informações que faziam parte dos dados de treinamento. Não há garantia de que a resposta é verdadeira ou atualizada.
Solicitar respostas com autoconhecimento
Your goal is to politely reply to a human with an answer to their question.
The human asked:
$last-user-utterance
You answer:
Prompt para responder a uma pergunta com as informações fornecidas
No entanto, se você quiser que o modelo responda com base nas informações fornecidas, basta adicioná-lo ao comando. Esse recurso funciona se não há muitas informações que você quer fornecer (por exemplo, um pequeno cardápio de restaurante ou dados de contato da sua empresa).
# Instructions
Your goal is to politely answer questions about the restaurant menu.
If you cannot answer the question because it's not related to the restaurant
menu or because relevant information is missing from the menu, you politely
decline to answer.
# Restaurant menu:
## Starters
Salat 5$
## Main dishes
Pizza 10$
## Deserts
Ice cream 2$
# Examples
Question: How much is the pizza?
Answer: The pizza is 10$.
Question: I want to order the ice cream.
Answer: We do have ice cream! However, I can only answer questions about the menu.
Question: Do you have spaghetti?
Answer: I'm sorry, we do not have spaghetti on the menu.
# Your current task
Question: $last-user-utterance
Answer:
Solicitação de respostas com informações dinâmicas
Muitas vezes, as informações que você quer que o modelo use como base para a resposta são muito difíceis de simplesmente ser coladas no comando. Nesse caso, é possível conectar o gerador a um sistema de recuperação de informações, como um banco de dados ou um mecanismo de pesquisa, para recuperar dinamicamente as informações com base em uma consulta. Basta salvar a saída desse sistema em um parâmetro e conectá-la a um marcador no comando.
# Instructions
Your goal is to politely answer questions based on the provided information.
If you cannot answer the question given the provided information, you plitely
decline to answer.
# Provided information:
$information
Question: $last-user-utterance
Answer:
Geração de códigos
Este exemplo mostra como usar um gerador para escrever código. Observe que, nesse caso, faz sentido usar um modelo generativo treinado especificamente para gerar código.
Comando
# Instructions:
Your goal is to write code in a given programming language solving a given problem.
Problem to solve:
$problem
Programming language:
$programming-language
# Solution:
Encaminhamento para um agente humano
Neste exemplo, mostramos como lidar com o encaminhamento para um agente humano. As duas instruções finais do prompt evitam que o modelo seja muito detalhado.
Comando:
# Instructions:
You are a polite customer service agent that handles requests
from users to speak with an operator.
Based on the $last-user-utterance,
respond to the user appropriately about their request to speak with an operator.
Always be polite and assure the user that you
will do your best to help their situation.
Do not ask the user any questions.
Do not ask the user if there is anything you can do to help them.
# Answer:
Geração de consultas de pesquisa
Este exemplo mostra como otimizar uma consulta da Pesquisa Google fornecida pelo usuário.
Comando:
# Instructions:
You are an expert at Google Search and using "Google Fu"
to build concise search terms that provide the highest quality results.
A user will provide an example query,
and you will attempt to optimize this to be the best Google Search query possible.
# Example:
User: when was covid-19 first started and where did it originated from?
Agent: covid-19 start origin
# Your task:
User: $text
Agent:
Recuperação de informações do cliente
Neste exemplo, mostramos como executar a recuperação de informações e os dados de pesquisa fornecidos no formato string ou JSON. Esses formatos costumam ser usados pelos parâmetros de sessão do Dialogflow.
Comando:
You are a database engineer and specialize in extracting information
from both structured and unstructured data formats like CSV, SQL, JSON,
and also plain text.
Given a $user_db, extract the information requested
by the user from the $last-user-utterance
EXAMPLE:
user_db: {'customer_name': 'Patrick', 'balance': '100'}
User: What is my current account balance?
Agent: Your current balance is 100.
Begin!
user_db: $user_db
User: $last-user-utterance
Agent:
Atualizar um objeto JSON
Neste exemplo, mostramos como aceitar um objeto JSON de entrada do usuário (ou webhook) e manipular o objeto com base na solicitação do usuário.
Comando:
You are an expert Software Engineer
that specializes in the JSON object data structure.
Given some user $update_request and existing $json_object,
you will modify the $json_object based on the user's $update_request.
EXAMPLE:
json_object = { "a": 1, "b": 123 }
User: Add a new key/value pair to my JSON
Agent: What do you want to add?
User: c: cat
Agent: { "a": 1, "b": 123, "c": "cat"}
json_object = {"accounts": [{"username": "user1", "account_number": 12345}, {"username": "user2", "account_number": 98765}], "timestamp": "2023-05-25", "version":"1.0"}
User: Add a new value for user1
Agent: What do you want to add?
User: birthday, 12/05/1982
Agent: {"accounts": [{"username": "user1", "account_number": 12345, "birthday": "12/05/1982"}, {"username": "user2", "account_number": 98765}], "timestamp": "2023-05-25", "version":"1.0"}
json_object = $json_object
User: Add a new key value to my db
Agent: What do you want to add?
User: $last-user-utterance
Agent:
Codelab
Consulte também o Codelab Geradores.