負責任的 AI 技術

開發人員可透過 AI 應用程式，運用 Google 的基礎模型、搜尋專業知識和對話式 AI 技術，打造企業級生成式 AI 應用程式。這項技術仍處於早期階段，功能和用途仍在演進中，因此可能遭到誤用、濫用，並產生意料之外或無法預測的後果。舉例來說，AI 應用程式可能會生成預期外的輸出內容，包括令人反感、未顧及感受或與事實不符的文字。

考量到這些風險和複雜性，AI 應用程式的設計依據是 Google 的 AI 原則。不過，開發人員必須瞭解及測試模型，才能安全且負責任地部署。為協助開發人員，AI Applications 內建安全篩選器，可協助客戶在用途中封鎖潛在有害的輸出內容。詳情請參閱「Vertex AI Search 的安全設定」。

將 AI 應用程式整合至客戶的專屬用途和情境時，可能需要考量其他負責任的 AI 考量事項和模型限制。我們建議客戶採用公平性、可解釋性、隱私權和安全性建議做法。

Vertex AI Search 的安全設定

Vertex AI Search 提供安全搜尋篩選器，可過濾情色露骨的網站搜尋結果。包括色情、暴力與血腥內容。安全搜尋過濾功能不適用於私人內容。

摘要功能 (適用於網站搜尋和私人內容) 會過濾掉貶損、情色露骨、有害或暴力等資訊。此外，摘要回應會包含安全屬性，包括「有害類別」和可能較敏感的主題。

網站搜尋

安全搜尋功能可套用至 Vertex AI Search 建立索引的公開內容，例如網站。開啟安全搜尋功能後，無論顧客是查詢圖片、影片還是網站，Vertex AI Search 都會將煽情露骨內容從顧客的 Vertex AI Search 結果中過濾掉。雖然這些篩選器無法百分之百準確，但我們會持續評估及更新篩選功能。

在特定情境和用途中，客戶可能需要存取各種資訊 (包括露骨內容)，才能從 Vertex AI Search 收集全面深入的洞察資料和結果。客戶可以透過 API 將 safe_search 設為「true」或「false」，啟用及停用安全篩選器。

如要為 Vertex AI Search 啟用安全搜尋，請使用下列 API 呼叫：

curl -X POST\
 -H "Authorization: Bearer $(gcloud auth application-default print-access-token)"
 -H "Content-Type: application/json"\
"https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/servingConfigs/default_config:search"
     -d '{
      "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

如要在 Vertex AI Search 中啟用「搜尋並追問」的 SafeSearch，請使用下列 API 呼叫：

curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/conversations/CONVERSATION_ID:converse" \
-d '{
  "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

safe_search 設定會套用至搜尋結果，以及 Vertex AI Search 輸出內容，例如摘要 (摘要內容會根據搜尋結果產生)。

系統會根據一份安全屬性清單，評估 Vertex AI Search 的輸出內容 (例如摘要)，即使 safe_search 處於關閉狀態，也會篩除可能有害的內容。

私人內容摘要和網站搜尋

系統會根據一系列安全屬性評估 Vertex AI Search 的輸出內容 (例如摘要)，篩除可能有害的內容，例如貶抑、情色露骨、惡意或暴力資訊，即使關閉網站搜尋的 safe_search 也是如此。此外，您也可以在 Vertex AI Search API 回應中使用 safetyAttributes，篩除包含「有害類別」的回覆，以及可能被視為敏感的主題。

備用回覆

如果摘要模型對要求的回覆是空白字串或一般回覆，表示輸入內容或輸出內容觸發了安全防護篩選器。在 Vertex AI Search API 回應中，如果偵測到可能違反政策的情況，SummarySkippedReason 會設為 BLOCKED_DUE_TO_POTENTIAL_POLICY_VIOLATION。

如果認為安全篩選器觸發不當，請透過Google Cloud 控制台回報這個問題。

其他資源

• 進一步瞭解 Google 對負責任的 AI 做法的建議
• 請參閱「在發展負責任的 AI 技術方面達成共識」網誌