Veo 的負責任 AI 和使用指南

Vertex AI 版 Veo 是按照 Google 的 AI 原則設計，不過，開發人員務必瞭解如何安全且負責任地測試及部署 Google 的模型。為協助開發人員，Vertex AI 上的 Veo 內建安全防護功能，可協助客戶在用途範圍內封鎖可能有害的輸出內容。詳情請參閱安全篩選器。

我們建議客戶在開發 AI 應用程式時，採用公平性、可解釋性、隱私權和安全性最佳做法。詳情請參閱《People + AI Guidebook》。

安全篩選機制

在 Vertex AI 運用 Veo 時，可以透過多種方式輸入提示詞來生成影片，包括文字、影片和圖片。系統會根據安全篩選器清單評估提供給 Veo 的提示，包括有害類別 (例如 violence、sexual、derogatory 和 toxic)。這些安全篩選器旨在濾除違反Google Cloud平台使用限制政策、生成式 AI 禁用政策或我們的 AI 原則的輸入圖片和影片。

如果模型對要求的回覆是錯誤訊息 (例如 The prompt couldn't be submitted 或 it might violate our policies)，表示輸入內容觸發了安全防護篩選器。如果系統傳回的影片數量少於要求，表示部分生成的輸出內容因不符合安全規定而遭到封鎖。

安全篩選器代碼類別

視您設定的安全篩選器而定，輸出內容可能包含類似以下的安全代碼：「Veo 無法生成影片，因為輸入圖片違反 Vertex AI 的使用規範。如果您認為這項處置有誤，請傳送意見回饋。支援代碼：15236754

輸出內容中列出的代碼對應至特定有害類別。

下表顯示支援代碼與安全類別的對應關係：

支援代碼	安全類別	說明
58061214 17301594	子項	如果 personGeneration 未設為 "allow_all"，或專案不在這項功能的允許清單中，系統會拒絕生成描繪兒童的內容。
29310472 15236754	名人	如果專案不在這項功能的許可清單中，或是要求生成知名人士的擬真圖像，系統就會拒絕要求。
64151117 42237218	違反影片安全規定	偵測違反安全規定的內容。
62263041	危險內容	偵測可能具有危險性的內容。
57734940 22137204	仇恨	偵測仇恨相關主題或內容。
74803281 29578790 42876398	其他	偵測要求中的其他雜項安全問題
92201652	個人資訊	偵測文字中的個人識別資訊 (PII)，例如提及信用卡號碼、住家地址或其他這類資訊。
89371032 49114662 72817394	禁止宣傳的內容	偵測要求中是否含有違禁內容。
90789179 63429089 43188360	色情內容	偵測色情內容。
78610348	惡意言論	偵測文字中的惡意主題或內容。
61493863 56562880	暴力	偵測影片或文字中與暴力相關的內容。
32635315	粗俗	從文字中偵測粗俗的主題或內容。

後續步驟

• 瞭解大型語言模型 (LLM) 的負責任 AI

• 進一步瞭解 Google 的負責任的 AI 做法建議

• 請參閱我們的網誌文章「在發展負責任的 AI 技術方面達成共識」