用于生成 Veo on Vertex AI 视频的 Responsible AI

Veo on Vertex AI 在设计时考虑到了 Google 的 AI 原则。不过，开发者必须了解如何以负责任的方式安全测试和部署 Google 的模型。为了帮助开发者，Veo on Vertex AI 具有内置的安全功能，可帮助客户在其使用场景中阻止潜在的有害输出。如需了解详情，请参阅安全过滤器。

我们建议客户在开发 AI 应用时，采用公平性、可解释性、隐私保护和安全性方面的最佳实践。如需了解详情，请参阅《人与 AI 指南》。

安全过滤器

Veo on Vertex AI 提供多种输入提示的方式来生成视频，包括文本、视频和图片。系统会根据一系列安全过滤条件（包括有害类别，例如 violence、sexual、derogatory 和 toxic）评估提供给 Veo 的提示。这些安全过滤条件旨在过滤掉违反Google Cloud《平台使用政策》《生成式 AI 使用限制政策》或《Google AI 原则》的输入图片和视频。

如果模型响应请求并显示错误消息（例如 The prompt couldn't be submitted 或 it might violate our policies），则表示输入内容触发了安全过滤器。如果返回的视频少于请求的视频数，则由于不符合安全要求，某些生成的输出会被阻止。

安全过滤器代码类别

根据您配置的安全过滤器，您的输出可能包含类似于以下内容的安全代码：“Veo 无法生成视频，因为输入图片违反了 Vertex AI 的使用准则。如果您认为我们的处置结果有误，请发送反馈。支持代码：15236754”

输出中列出的代码对应于特定的有害类别。

下表显示了支持代码与安全类别之间的映射关系：

支持代码 安全类别 说明
58061214
17301594 		子女 如果 personGeneration 未设置为 "allow_all"，或者项目不在此功能的许可名单中，则拒绝生成描绘儿童的内容的请求。
29310472
15236754 		名人 拒绝生成知名人士的逼真表示的请求，或者拒绝项目不在此功能的许可名单中的请求。
64151117
42237218 		视频安全违规 检测违反安全政策的内容。
62263041 危险内容 检测本质上具有潜在危险的内容。
57734940
22137204 		讨厌的 检测与仇恨相关的主题或内容。
74803281
29578790
42876398 		其他 检测请求中的其他各种安全问题
92201652 个人信息 检测文本中的个人身份信息 (PII)，例如提及信用卡号、住址或其他此类信息。
89371032
49114662
72817394 		禁止的内容 检测请求中的禁止的内容。
90789179
63429089
43188360 		色情内容 检测色情性内容。
78610348 有害内容 检测文本中的有害主题或内容。
61493863
56562880 		暴力 检测视频或文本中与暴力相关的内容。
32635315 粗俗 检测文本中的粗俗主题或内容。

后续步骤