AI Protection 可偵測威脅，並協助您降低 AI 資產清單的風險，進而管理 AI 工作負載的安全防護機制。本文將概略介紹 AI 保護功能，包括優點和幾個重要概念。
AI Protection 總覽
AI Protection 提供多項功能，協助您管理 AI 系統的威脅和風險，包括：
- 評估 AI 資產：評估及瞭解 AI 系統和 AI 資產，包括模型和資料集。
- 管理風險和法規遵循：主動管理 AI 資產的風險，並確認 AI 部署作業符合相關安全標準。
- 降低法律和財務風險：減少與安全漏洞和法規不符相關的財務、聲譽和法律風險。
- 偵測及管理威脅：及時偵測並因應 AI 系統和資產的潛在威脅。
- 查看單一資訊主頁：透過單一資訊主頁集中管理所有 AI 相關風險和威脅。
用途
AI Protection 可識別及減輕與 AI 系統和機密資料相關的威脅和風險，協助機構強化安全防護機制。以下用例說明 AI 保護功能在不同機構的用途：
金融服務機構：客戶財務資料
某大型金融服務機構使用 AI 模型處理機密財務資料。
- 挑戰：使用 AI 模型處理高度敏感的財務資料會帶來多種風險，包括資料外洩、訓練或推論期間資料遭竊，以及基礎 AI 基礎架構中的安全漏洞。
- 用途：AI 保護功能會持續監控 AI 工作流程中的可疑活動，偵測未經授權的資料存取和異常模型行為，執行機密資料分類，並協助您提升 PCI DSS 和 GDPR 等法規的合規程度。
醫療服務提供者：病患隱私權和法規遵循
某大型醫療服務供應商管理電子健康記錄，並使用 AI 進行診斷和治療規劃，處理受保護的健康資訊 (PHI)。
- 挑戰：AI 模型分析的 PHI 受到《健康保險流通與責任法案》等嚴格法規的約束。風險包括因設定錯誤或惡意攻擊，導致受保護的健康資訊外洩，這類攻擊會以 AI 系統中的病患資料為目標。
- 用途：AI 保護功能會識別並警示潛在的《健康保險流通與責任法案》違規行為，偵測模型或使用者未經授權存取受保護健康資訊的行為，標記可能設定錯誤的 AI 服務，以及監控資料外洩情形。
製造和機器人公司：專屬智慧財產
這家製造公司專門生產先進的機器人和自動化設備，因此非常依賴 AI 技術來提升生產線和機器人控制的效率，而重要的智慧財產權 (IP) 則嵌入在 AI 演算法和製造資料中。
- 挑戰：專屬 AI 演算法和機密營運資料容易遭到內部威脅或外部敵人竊取，可能導致競爭劣勢或營運中斷。
- 用途：AI 保護功能會監控 AI 模型和程式碼存放區的未授權存取行為、偵測訓練模型的外洩嘗試和異常資料存取模式，並標記 AI 開發環境中的安全漏洞，以防範智慧財產遭竊。
Event Threat Detection 規則
下列 Event Threat Detection 規則會對 Vertex AI 資產執行偵測：
- 持續性：新 AI API 方法
- 持續性：AI 服務的新地理區域
- 權限提升：AI 管理員活動出現異常服務帳戶模擬者
- 權限提升：AI 資料存取出現異常服務帳戶模擬者
- 權限提升：AI 管理員活動出現異常多步驟服務帳戶委派情況
- 權限提升：AI 資料存取出現異常多步驟服務帳戶委派情況
- 權限提升：AI 管理員活動出現異常服務帳戶模擬者
- 初始存取權：AI 服務中的休眠服務帳戶活動
如要進一步瞭解 Event Threat Detection，請參閱 Event Threat Detection 簡介。
AI 保護架構
AI Protection 是一套架構，內含特定雲端控制項，會以偵測模式自動部署。偵測模式：雲端控管機制會套用至定義的資源，以進行監控。系統偵測到任何違規行為並產生快訊。您可以使用架構和雲端控制項定義 AI 保護需求，並將這些需求套用至 Google Cloud 環境。AI Protection 包含預設架構，其中定義了 AI Protection 的建議基準控制項。啟用 AI 保護功能後，系統會自動將預設架構套用至偵測模式下的機構 Google Cloud 。
如有需要，您可以複製架構，建立自訂 AI 保護架構。您可以將雲端控管機制新增至自訂架構，並將自訂架構套用至機構、資料夾或專案。舉例來說，您可以建立自訂架構，對特定資料夾套用特定管轄區的控管措施，確保這些資料夾中的資料留在特定地理區域。
預設 AI 保護框架中的雲端控制項
下列雲端控制項是預設 AI 保護架構的一部分。
| 雲端控管機制名稱 | 說明 |
|---|---|
封鎖 Vertex AI Workbench 執行個體的預設虛擬私有雲網路 |
請勿在預設虛擬私有雲網路中建立 Workbench 執行個體，以免使用權限過於寬鬆的預設防火牆規則。 |
在 JupyterLab 控制台中禁止下載檔案 |
請勿允許從 Workbench 執行個體中的 JupyterLab 控制台下載檔案，以降低資料竊取風險，並防範惡意軟體散播。 |
禁止 Vertex AI 執行階段範本存取網際網路 |
請勿在 Colab Enterprise 執行階段範本中允許網際網路存取權，以減少外部受攻擊面，並防範潛在的資料竊取行為。 |
封鎖 Vertex AI Workbench 執行個體的公開 IP 位址 |
請勿允許 Workbench 執行個體使用外部 IP 位址，以減少網際網路曝光度，並降低未經授權存取的風險。 |
封鎖 Vertex AI Workbench 執行個體的 Root 存取權 |
請勿允許 Workbench 執行個體取得根層級存取權，以免重要系統檔案遭到未經授權的修改，或安裝惡意軟體。 |
啟用 Vertex AI Workbench 執行個體的自動升級功能 |
啟用 Workbench 執行個體的自動升級功能，確保能使用最新功能、架構更新和安全修補程式。 |
為 Vertex AI 自訂工作啟用 CMEK |
在 Vertex AI 自訂訓練作業中要求使用客戶自行管理的加密金鑰 (CMEK)，進一步控管作業輸入和輸出內容的加密作業。 |
為 Vertex AI 資料集啟用 CMEK |
為 Vertex AI 資料集啟用客戶自行管理的加密金鑰 (CMEK)，進一步控管資料加密和金鑰管理作業。 |
為 Vertex AI 端點啟用 CMEK |
為 Vertex AI 端點啟用客戶自行管理的加密金鑰 (CMEK)，進一步控管已部署模型的加密作業，以及控管資料存取權。 |
為 Vertex AI Featurestore 啟用 CMEK |
為 Vertex AI 特徵商店啟用客戶自行管理的加密金鑰 (CMEK)，進一步控管資料加密和存取權。 |
為 Vertex AI 超參數調整工作啟用 CMEK |
在超參數調整作業中，要求使用客戶自行管理的加密金鑰 (CMEK)，進一步控管模型訓練資料和作業設定的加密作業。 |
為 Vertex AI 中繼資料儲存庫啟用 CMEK |
為 Vertex AI 中繼資料存放區啟用客戶自行管理的加密金鑰 (CMEK)，進一步控管中繼資料加密作業和存取權。 |
為 Vertex AI Models 啟用 CMEK |
為 Vertex AI 模型啟用客戶自行管理的加密金鑰 (CMEK)，進一步控管資料加密和金鑰管理作業。 |
為 Vertex AI Notebook 執行階段範本啟用 CMEK |
為 Colab Enterprise 執行階段範本啟用客戶自行管理的加密金鑰 (CMEK)，確保執行階段環境和相關資料安全無虞。 |
為 Vertex AI TensorBoard 啟用 CMEK |
為 Vertex AI TensorBoard 啟用客戶自行管理的加密金鑰 (CMEK)，進一步控管實驗資料和模型視覺化內容的加密作業。 |
為 Vertex AI 訓練 pipeline 啟用 CMEK |
在 Vertex AI 訓練管道中要求使用客戶自行管理的加密金鑰 (CMEK)，進一步控管訓練資料和產生的構件加密作業。 |
為 Vertex AI Workbench 執行個體啟用 CMEK |
為 Vertex AI Workbench 執行個體啟用客戶自行管理的加密金鑰 (CMEK)，進一步控管資料加密事宜。 |
為 Vertex AI Workbench 執行個體啟用「刪除到垃圾桶」功能 |
為 Workbench 執行個體啟用「刪除至垃圾桶」中繼資料功能，提供重要的復原安全網，防止資料遭意外刪除。 |
為 Vertex AI 執行階段範本啟用閒置關機功能 |
在 Colab Enterprise 執行階段範本中啟用自動閒置關機功能，即可最佳化雲端成本、改善資源管理，並提升安全性。 |
為 Vertex AI Workbench 執行個體啟用完整性監控功能 |
在 Workbench 執行個體上啟用完整性監控功能，持續根據可信的基準驗證 VM 的啟動完整性。 |
為 Vertex AI 執行階段範本啟用安全啟動功能 |
在 Colab Enterprise 執行階段範本中啟用安全啟動，有助於防止未經授權的程式碼執行，並保護作業系統完整性。 |
為 Vertex AI Workbench 執行個體啟用安全啟動功能 |
為 Workbench 執行個體啟用安全啟動功能，有助於防止未經授權或惡意的軟體在啟動程序中執行。 |
在 Vertex AI Workbench 執行個體上啟用 vTPM |
在 Workbench 執行個體上啟用虛擬信任平台模組 (vTPM)，保護啟動程序並進一步控管加密作業。 |
限制 Vertex AI Workbench 執行個體使用預設服務帳戶 |
限制 Workbench 執行個體使用權限寬鬆的預設服務帳戶，降低未經授權存取服務的風險。 Google Cloud |
支援的功能領域
本節定義 AI 保護功能可協助保護的功能領域。
- AI 工作負載：AI 應用程式工作負載的範圍很廣，從旨在提升員工生產力的內部工具，到為改善使用者體驗及推動業務而設計的消費者導向解決方案，都屬於此類。例如 AI 代理程式、虛擬助理、對話式 AI 聊天機器人和個人化推薦內容。
- AI 模型：AI 模型分為基礎 AI 模型、微調 AI 模型、標準第一方 AI 模型和自訂 AI 模型。例如 Gemini、Llama、翻譯模型，以及用於特定工作的自訂模型。
- AI 資產：AI 資產有助於機器學習作業管道，並供 AI 工作負載使用。AI 素材資源類型包括：
- 宣告式 AI 資產：Vertex AI 等 AI 生命週期管理工具會追蹤這些資產。
- 推斷的 AI 資產：用於處理 AI 資料或工作負載的一般用途資產，例如運算和儲存空間資產。
- 模型即服務 (僅限 API)：可程式輔助呼叫第一方或第三方 AI 模型的素材資源。
使用 AI 安全性資訊主頁
AI 安全性資訊主頁會全面顯示貴機構的 AI 資產清單，並建議可行的風險和威脅管理措施。
存取資訊主頁
如要存取 AI 安全性資訊主頁，請在 Google Cloud 控制台中，依序前往「風險總覽」>「AI 安全性」。
詳情請參閱「AI 安全性資訊主頁」。
瞭解風險資訊
本節提供與 AI 系統相關的潛在風險資訊。您可以查看 AI 資產中的主要風險。
按一下任一問題，即可開啟詳細資料窗格，查看問題的視覺化呈現方式。
查看 AI 威脅
本節提供與 AI 系統相關聯的威脅洞察資訊。您可以查看與 AI 資源相關的近期前 5 大威脅。
你可以在這個頁面進行下列操作：
- 按一下「查看全部」，即可查看與 AI 資源相關的威脅。
- 按一下任何威脅，即可查看威脅的詳細資料。
以視覺化方式呈現廣告空間
您可以在資訊主頁上查看 AI 資源的視覺化呈現方式，瞭解涉及生成式 AI 的專案摘要、目前使用的第一方和第三方模型，以及用於訓練第三方模型的資料集。
你可以在這個頁面進行下列操作：
- 如要查看商品目錄詳細資料頁面，請按一下視覺化圖表中的任一節點。
- 如要查看個別資產的詳細清單 (例如基礎模型和自建模型)，請按一下工具提示。
- 如要開啟模型的詳細資料檢視畫面，請按一下模型。這個檢視畫面會顯示詳細資料，例如模型代管的端點，以及用於訓練模型的資料集。如果啟用 Sensitive Data Protection，資料集檢視畫面也會顯示資料集是否含有任何機密資料。
查看發現項目摘要
本節說明如何評估及管理 AI 架構和資料安全性政策產生的發現項目。這個部分包含以下項目：
- 發現項目：這個部分會顯示 AI 安全性政策和資料安全性政策生成的發現項目摘要。按一下「查看所有發現項目」，或按一下各發現項目類別的計數，即可查看發現項目詳細資料頁面。按一下調查結果，即可顯示該調查結果的其他資訊。
- Vertex AI 資料集內的私密/機密資料：這個部分會顯示 Sensitive Data Protection 根據資料集內的私密/機密資料所回報的發現項目摘要。
檢查 Model Armor 發現項目
圖表會顯示 Model Armor 掃描的提示或回覆總數，以及 Model Armor 偵測到的問題數。此外，還會顯示偵測到的各種問題摘要統計資料，例如提示注入、越獄偵測和機密資料偵測。
這項資訊會根據 Model Armor 發布至 Cloud Monitoring 的指標填入。
後續步驟
- 瞭解如何設定 AI 保護功能。
- 如要評估風險，請存取資訊主頁資料。