这是与 Recommendations AI、Retail Search 和新的 Retail 控制台相关的文档。如需在受限 GA 阶段使用 Retail Search,请与 Cloud 销售人员联系

如果您仅使用 Recommendations AI,请保留在 Recommendations 控制台上并参阅 Recommendations AI 文档

A/B 实验

本页介绍如何使用 A/B 实验来了解 Retail 对您的业务有何影响。

概览

A/B 实验是针对两个组(实验组和对照组)的随机实验。实验组会接收一些不同的处理结果(在这种情况下,来自 Retail API 的预测或搜索结果),而对照组则不接收。

当您使用 Retail API 运行 A/B 实验时,您需要包括当您记录用户事件时用户所在群组的相关信息。Retail API 会使用该信息来优化模型和提供指标。

应用的两个版本必须相同,但实验组中的用户会看到 Retail API 生成的结果,而对照组无法看到。您可以记录两个组的用户事件。

如需详细了解流量拆分,请参阅 App Engine 文档中的拆分流量

实验平台

使用第三方实验平台(如 Google 优化工具Optimizely)来设置实验。对照组和实验组均会从平台获得一个唯一的实验 ID。记录用户事件时,请在 experimentIds 字段中添加实验 ID,以指定用户属于哪个组。通过提供实验 ID,Retail API 可以比较对照组和实验组中各个应用版本的指标。

A/B 实验最佳做法

A/B 实验的目标是准确地确定更新网站(在本例中是使用 Retail)的影响。如需准确衡量影响,您必须正确设计并实施实验,这样其他差异就不会混入并影响实验结果。

如需设计有意义的 A/B 实验,请参考以下提示:

  • 在设置 A/B 实验之前,请使用预测或搜索预览来确保模型的行为符合预期。

  • 请确保实验组网站和对照组网站的行为相同。

    网站行为包括延迟时间、显示格式、文本格式、页面布局、图片质量、图片大小。在对照组和实验组的实验之间,上述任何特性应该没有明显的差异。

  • 接受并显示从 Retail 返回的结果,并按照返回结果的顺序显示。

    您可以过滤掉缺货的商品。但是,您应该避免根据业务规则过滤结果或对建议结果进行排序。

  • 请确保正确地添加归因令牌和您的用户事件。了解详情

  • 您在请求推荐或搜索结果时提供的投放配置应与此建议或搜索结果的意图以及显示结果的位置相匹配。

    当您使用 Recommendations AI 时,投放配置会影响模型的训练方式,从而推荐哪些产品。了解详情

  • 如果要将现有解决方案与 Retail API 进行比较,请将对照组的体验与实验组的体验严格隔离。

    如果控制解决方案未提供建议或搜索结果,请不要在控制页面中提供 Retail API 中的建议或搜索结果。这样做会导致测试结果出现偏差。