滥用行为监控

如 Google Cloud Platform 服务条款第 4.3 节“生成式 AI 安全和滥用行为”中所述，在向客户提供生成式 AI 服务时，Google 会采用以下流程来检测可能的滥用行为以及违反其可接受的使用政策和使用限制政策的情况。

  • 自动检测：Google 使用自动安全分类器来检测潜在的滥用行为和违规行为。如需详细了解安全分类器的运作方式，请参阅配置安全过滤器。
  • 提示日志记录：如果自动安全分类器检测到可疑活动，需要进一步调查客户是否违反了我们的政策，Google 可能会记录客户提示，但仅出于检查是否违反了《广告合作规范》或《禁止使用政策》的目的。这些数据不会用于训练或微调任何 AI/机器学习模型。这些数据会安全地存储在客户为其项目选择的同一区域或多区域中，最长可存储 30 天，并遵守 Google Cloud 保证，例如数据驻留、Access Transparency 和 VPC Service Controls。客户还可以选择停用滥用行为日志记录功能（见下文）。
  • 措施：获授权的 Google 员工可能会评估被标记的提示，并可能会与客户联系以寻求澄清。如果未解决此类行为，或者出现反复或严重滥用行为，我们可能会暂停或终止客户对 Vertex AI 或 Google Cloud 服务的访问权限。
  • 受影响的服务：Vertex AI API（与 Google 的大型语言模型搭配使用时）。
  • 受影响的客户：只有使用 Google Cloud 的行为受 Google Cloud Platform 服务条款约束且没有账单结算型 Cloud Billing 账号的客户才会被要求立即记录日志以便进行滥用行为监控。
  • 客户选择停用：客户可以通过填写此表单申请例外处理。如果获得批准，Google 不会存储与已获批准的 Google Cloud 账号关联的任何提示。

后续步骤