濫用行為監控

如《Google Cloud Platform 服務條款》第 4.3 節「生成式 AI 安全和濫用」所述,Google 會在為客戶提供生成式 AI 服務時,透過下列程序偵測潛在的濫用行為,以及違反《使用限制政策》和《使用限制政策》的行為。

  • 自動偵測:Google 會使用自動安全分類器偵測潛在的濫用和違規行為。如要瞭解安全分類器的運作方式,請參閱「設定安全篩選機制」。
  • 提示記錄:如果自動安全分類器偵測到可疑活動,需要進一步調查顧客是否違反政策,Google 可能會記錄顧客提示,僅用於檢查是否違反使用限制政策或禁止用途政策。這些資料不會用於訓練或微調任何 AI/機器學習模型。這類資料會在客戶為專案選取的相同區域或多區域中安全儲存最多 30 天,並遵守 Google Cloud 保證,例如資料落地、資料存取透明化控管機制和 VPC 服務控管。客戶也可以選擇要求停用濫用記錄功能 (詳情請參閱下文)。
  • 動作:獲得授權的 Google 員工可能會評估已標記的提示,並與客戶聯絡以釐清問題。如果未處理這類行為,或這類行為一再發生或十分嚴重,客戶的 Vertex AI 或 Google Cloud 服務存取權可能會遭到停權或終止。
  • 適用服務:搭配 Google 大型語言模型使用的 Vertex AI API。
  • 適用對象:只有使用 Google Cloud 時受《Google Cloud Platform 服務條款》規範,且沒有月結 (離線) Cloud Billing 帳戶的客戶,才會受到提示記錄功能影響,以利監控濫用情形。
  • 客戶選擇停用:客戶可以填寫這份表單申請豁免。如果獲得核准,Google 就不會儲存與核准的Google Cloud 帳戶相關聯的任何提示。

後續步驟