生成式后备

当最终用户输入与表单填写意图或参数不匹配时,生成式后备功能使用 Google 最新的生成式大语言模型 (LLM) 来生成虚拟客服响应

该功能可以配置一个文本提示,用于指示 LLM 如何响应。您可以使用预定义的文本提示,也可以添加自己的提示。通过预定义的提示,虚拟客服可以处理基本的对话情况。例如:

  • 与用户问候和告别。
  • 重复代理的话,以免用户听不明白。
  • 当用户要求输入时按住该栏。
  • 总结对话。

您可以为流程、页面或参数填充期间使用的无匹配事件处理脚本启用生成式回退。为非匹配事件启用生成式回退后,每当该事件触发时,Dialogflow 都会尝试生成生成的响应,该响应会回复给用户。如果响应生成失败,系统会改为发出常规的预设代理响应。

限制

此功能目前以 Vertex AI PaLM API 支持的语言提供。

启用生成式后备

您可以在代理中为无匹配事件处理脚本启用生成式回退,这些处理脚本可用于流程、页面或参数执行方式。

为整个流的无匹配事件启用生成式回退:

  1. 转到 Dialogflow CX 控制台
  2. 选择一个项目。
  3. 选择代理和流。
  4. 展开流的初始页。
  5. 点击事件处理程序下的 sys.no-match-default
  6. 代理响应下勾选启用生成式回退
  7. 点击保存

针对特定非匹配事件启用生成式后备:

  1. 前往目标 No-match 事件处理脚本(任何以 No-match 开头的事件,例如 No-match defaultNo-match 1 等)。
  2. 代理响应下,勾选启用生成式回退
  3. 点击保存

配置生成式回退

如上所述,生成式回退功能会将请求传递给大型语言模型,以便生成生成的响应。请求采用文本提示的形式,其中混合了自然语言和有关代理和对话的当前状态的信息。系统会根据禁止短语列表检查提示和生成的响应。如果它们包含任何禁止的短语或被认为不安全,生成操作将失败,并且系统会改为发出常规的预设响应(在 Agent 所说下在同一执行方式下)。

您可以通过多种方式配置该功能:

  1. 选择预定义的提示。
  2. 定义自定义提示。
  3. 向禁用词组列表中添加词组或从中移除词组。

创建提示时,除了自然语言描述应生成哪种类型的上下文外,还可以使用以下占位符placeholders

期限 定义
$conversation 代理与用户之间的对话,不包括用户最后的话语。
$last-user-utterance 上一条用户话语。
$flow-description 活动流的流说明
$route-descriptions 活跃 intent 的 intent 说明

确保使用良好的流程和意图描述。

选择预定义的提示

  1. 代理设置中,转到机器学习标签页,然后找到生成式 AI 子标签页。
  2. 选择模板下拉菜单中的一个选项。
  3. 点击保存

该功能提供两种模板提示:默认模板(不显示)和示例模板(可作为编写您自己的提示的指南)。请注意,如果您选择默认模板,并且在生成式 AI 子标签页上看到数据存储区提示,您可以添加影响代理响应的代理的相关信息。

定义您自己的提示

  1. 代理设置中,转到机器学习标签页,然后找到生成式 AI 子标签页。
  2. 模板下拉菜单中,选择 + 新模板
  3. 添加模板名称
  4. 添加文本提示
  5. 保存

首先,您也可以修改 Example 模板并将其另存为新模板:

  1. 模板下拉列表中选择示例
  2. 点击修改
  3. 修改模板名称
  4. 修改文本提示
  5. 保存

修改禁用词组列表

  1. 代理设置中,转到机器学习标签页,然后找到生成式 AI 子标签页。
  2. 被禁短语部分,检查、向列表中添加或从中移除。
  3. 点击保存

测试生成式回退

您可以直接在模拟器中测试生成式回退功能。每当用户话语导致某个流程/页面上出现不匹配的情况时,在该流程/页面上,不匹配事件已配置为生成生成式响应(并且生成操作成功),代理就会输出生成的响应。

Codelab

另请参阅生成式回退 Codelab