生成式回退

生成式后备功能使用 Google 最新的生成式大语言 模型 (LLM) 来生成虚拟客服的响应,但最终用户的输入 匹配 intent 或参数以进行表单填充。

该功能可以配置为文本提示,用于指示 LLM 如何 。您可以使用预定义的文本提示,也可以添加自己的提示。使用 预定义提示,虚拟客服能够处理基本对话式对话, 情况。例如:

  • 向用户致以问候和告别。
  • 重复客服人员所说的话,以防用户无法理解。
  • 在用户要求时,保持竖线。
  • 总结对话。

您可以为数据流中使用的非匹配事件处理脚本启用生成式回退, 或填充参数期间。针对 不匹配事件,那么每当该事件触发时,Dialogflow 都会尝试生成 系统生成的回复将会对用户进行回复如果响应 生成失败,系统会发出常规的指定代理响应 。

限制

此功能在 Gemini API 支持的语言

启用生成式回退

您可以在代理中针对非匹配事件处理脚本启用生成式回退, 可在 flow、page 或参数 fulfillment 中使用。

为整个流的不匹配事件启用生成式回退:

  1. 转到 Dialogflow CX 控制台
  2. 选择一个项目。
  3. 选择代理,然后选择流。
  4. 点击流的初始页以将其展开。
  5. 点击事件处理脚本下的 sys.no-match-default
  6. 选中代理响应下的启用生成式回退
  7. 点击保存

针对特定非匹配事件启用生成式回退:

  1. 前往目标无匹配事件处理脚本(任何以 非匹配(例如,默认无匹配无匹配 1 等)。
  2. 选中代理响应下的启用生成式回退
  3. 点击保存

配置生成式回退

如上所述,生成式回退功能会将请求传递给 以便生成生成的回答。请求 采用文本提示,提示将自然语言和 有关客服人员和对话的当前状态的信息。通过 系统会对照已禁止 词组。如果它们包含任何禁用的词组或被认为不安全, 生成失败,则常规规定的响应( 客服人员说)将改而发出。

您可以通过多种方式配置此功能:

  1. 选择预定义的提示。
  2. 定义自定义提示。
  3. 在被禁词组列表中添加或移除词组。

在创建提示时,除了以自然语言描述什么 上下文,也可以将以下placeholders 已使用:

期限 定义
$conversation 代理与用户之间的对话,不包括用户最后一条话语。
${conversation USER:"<user prefix>"AI:"<代理前缀>TURNS:<转弯计数>} $conversation 占位符的参数化版本。您可以自定义最终用户前缀 (USER)、代理前缀 (AI) 以及要包含的先前转弯次数 (TURNS)。必须指定所有占位符参数值。例如:${conversation USER:"Human says:" AI:"Agent says:" TURNS:4}
$last-user-utterance 用户上一次话语。
$flow-description 活跃流的流说明
$route-descriptions 活跃 intent 的 intent 说明

务必提供恰当的流程和意图描述。

选择预定义的提示

  1. 代理设置中,前往生成式 AI 标签页,然后找到 生成式回退子标签页。
  2. 选择模板下拉菜单中的一个选项。
  3. 点击保存

该功能提供了两个模板提示,即默认模板( 以及可用作撰写指南的示例模板 自己的提示。

定义您自己的提示

  1. 代理设置中,前往生成式 AI 标签页,然后找到 生成式回退子标签页。
  2. 模板下拉菜单中选择 + 新模板
  3. 添加模板名称
  4. 添加文本提示
  5. 点击保存

您也可以先修改 Example 模板,然后将其另存为新模板 模板:

  1. 模板下拉菜单中选择示例
  2. 点击修改
  3. 修改模板名称
  4. 修改文本提示
  5. 点击保存

修改禁止的词组列表

  1. 代理设置中,前往生成式 AI 标签页,然后找到 常规子标签中。
  2. 已禁止的词组部分,检查相应词组、向以下词组添加或从中移除词组 列表。
  3. 点击保存

测试生成式回退

您可以在模拟器中测试生成式回退功能。每当用户 导致出现不匹配事件的流/网页 配置为生成生成式响应(生成成功), 将输出生成的响应。

Codelab

另请参阅生成式回退 Codelab

问题排查

如果您想调试该功能,可以检查已解析的大语言 Dialogflow 控制台模拟器中的 LLM 输入提示:

  1. 点击原始回答按钮:

    原始回复

  2. 找到“生成式回退提示”(Generative Fallback Prompt) 字段。请将这些字段简单明了 并检查 LLM 输入是否合理。如果任何词组包含 $,请检查模拟器输入,并阐明$ 提示是有意为之(例如,price is $10 中的 $ 可能是 是有意为之,而 visit $city 可能不具有且可能暗示 使用不当或 bug)。如果您不确定,请与支持团队联系

  3. 如果您使用的是非默认提示模板,但看不到“Generative AI Studio”, 回退提示”字段, 与支持团队联系