AI Protection 通过检测威胁，并帮助您降低 AI 资产清单的风险，来帮助您管理 AI 工作负载的安全状况。本文档简要介绍了 AI Protection，包括其优势和几个关键概念。
AI Protection 概览
AI Protection 提供多项功能来帮助您管理 AI 系统的威胁和风险，包括：
- 评估 AI 清单：评估并了解您的 AI 系统和 AI 资产，包括模型和数据集。
- 管理风险和合规性：主动管理 AI 资产的风险，并验证 AI 部署是否符合相关的安全标准。
- 降低法律和财务风险：降低与安全事故和监管不合规关联的财务、声誉和法律风险。
- 检测和管理威胁：及时检测和应对 AI 系统和资产面临的潜在威胁。
- 查看一个信息中心：在一个集中式信息中心内管理所有与 AI 相关的风险和威胁。
使用场景
AI Protection 可帮助组织识别并减轻与 AI 系统和敏感数据相关的威胁和风险，从而增强安全性。以下应用场景示例展示了 AI Protection 在不同组织中的应用：
金融服务机构：客户财务数据
一家大型金融服务机构使用可处理敏感财务数据的 AI 模型。
- 挑战：使用 AI 模型处理高度敏感的财务数据会带来多种风险，包括数据泄露风险、训练或推理期间的数据渗漏风险，以及底层 AI 基础设施中的漏洞。
- 应用场景：AI Protection 会持续监控 AI 工作流中的可疑活动，检测未经授权的数据访问和异常模型行为，执行敏感数据分类，并帮助您更好地遵守 PCI DSS 和 GDPR 等法规。
医疗服务提供方：患者隐私权和合规性
一家大型医疗服务提供方管理电子健康记录，并使用 AI 进行诊断和治疗规划，处理受保护健康信息 (PHI)。
- 挑战：AI 模型分析的 PHI 必须遵守 HIPAA 等严格法规。风险包括因配置不当或针对 AI 系统（旨在获取患者数据）的恶意攻击而意外泄露 PHI。
- 应用场景：AI Protection 可识别并提醒潜在的 HIPAA 违规行为，检测模型或用户对 PHI 的未经授权访问，标记存在漏洞且可能配置错误的 AI 服务，并监控数据泄露情况。
制造和机器人公司：专有知识产权
一家专注于先进机器人技术和自动化技术的制造公司非常依赖 AI 来优化生产线和机器人控制，其 AI 算法和制造数据中嵌入了重要的知识产权 (IP)。
- 挑战：专有 AI 算法和敏感的运营数据容易受到内部威胁或外部对手的盗窃，可能会导致竞争劣势或运营中断。
- 应用场景：AI Protection 可监控对 AI 模型和代码库的未经授权的访问，检测渗漏已训练模型的尝试和异常数据访问模式，并标记 AI 开发环境中的漏洞，以防止 IP 盗窃。
Event Threat Detection 规则
以下 Event Threat Detection 规则可对 Vertex AI 资产运行检测：
- 持久性：新的 AI API 方法
- 持久性：AI 服务的新地理位置
- 提升权限：针对 AI 管理员活动的服务账号异常模拟
- 提升权限：针对 AI 数据访问的异常服务账号模拟者
- 提升权限：针对 AI 管理员活动的异常多步服务账号委托
- 提升权限：针对 AI 数据访问的异常多步服务账号委托
- 提升权限：针对 AI 管理员活动的异常服务账号模拟者
- 初始访问：AI 服务中的休眠服务账号活动
如需详细了解 Event Threat Detection，请参阅 Event Threat Detection 概览。
AI Protection 框架
AI Protection 由一个框架组成，该框架包含以检测模式自动部署的特定云控制措施。检测模式是指将云控制措施应用于定义的资源，以便进行监控。系统会检测所有违规行为并生成提醒。您可以使用框架和云控制措施来定义 AI Protection 要求，并将这些要求应用于您的 Google Cloud 环境。AI Protection 包含默认框架，该框架定义了 AI Protection 的建议基准控制措施。启用 AI Protection 后，系统会自动以检测模式将默认框架应用于 Google Cloud 组织。
如果需要，您可以复制该框架，以创建自定义 AI Protection 框架。您可以将云控制措施添加到自定义框架，并将自定义框架应用于组织、文件夹或项目。例如，您可以创建自定义框架，以将特定管辖区控制措施应用于特定文件夹，从而确保这些文件夹中的数据保留在特定地理区域内。
默认 AI Protection 框架中的云控制措施
以下云控制措施是默认 AI Protection 框架的一部分。
| 云控制措施名称 | 说明 |
|---|---|
阻止 Vertex AI Workbench 实例使用默认 VPC 网络 |
请勿在默认 VPC 网络中创建 Workbench 实例，以帮助防止使用其过于宽松的默认防火墙规则。 |
在 JupyterLab 控制台中禁止下载文件 |
不允许从 Workbench 实例中的 JupyterLab 控制台下载文件，以降低数据渗漏风险并帮助防止恶意软件传播。 |
阻止对 Vertex AI 运行时模板的互联网访问 |
请勿在 Colab Enterprise 运行时模板中允许互联网访问，以减少外部攻击面并帮助防止潜在的数据渗漏。 |
阻止 Vertex AI Workbench 实例的公共 IP 地址 |
不允许为 Workbench 实例使用外部 IP 地址，以减少互联网暴露面并最大限度地降低未经授权的访问风险。 |
阻止对 Vertex AI Workbench 实例的根访问 |
不允许对 Workbench 实例的根访问，以帮助防止未经授权修改关键系统文件或安装恶意软件。 |
为 Vertex AI Workbench 实例启用自动升级 |
为 Workbench 实例启用自动升级，以确保能够访问最新的功能、框架更新和安全补丁。 |
为 Vertex AI 自定义作业启用 CMEK |
要求在 Vertex AI 自定义训练作业中使用客户管理的加密密钥 (CMEK)，以便更好地控制作业输入和输出的加密。 |
为 Vertex AI 数据集启用 CMEK |
要求为 Vertex AI 数据集使用客户管理的加密密钥 (CMEK)，以便更好地控制数据加密和密钥管理。 |
为 Vertex AI 端点启用 CMEK |
要求为 Vertex AI 端点使用客户管理的加密密钥 (CMEK)，以便更好地控制已部署模型的加密和数据访问。 |
为 Vertex AI 特征存储区启用 CMEK |
要求为 Vertex AI 特征存储区使用客户管理的加密密钥 (CMEK)，以便更好地控制数据加密和访问。 |
为 Vertex AI 超参数调优作业启用 CMEK |
要求在超参数调优作业中使用客户管理的加密密钥 (CMEK)，以便更好地控制模型训练数据和作业配置的加密。 |
为 Vertex AI 元数据存储区启用 CMEK |
要求为 Vertex AI 元数据存储区使用客户管理的加密密钥 (CMEK)，以便更好地控制元数据加密和访问。 |
为 Vertex AI 模型启用 CMEK |
要求为 Vertex AI 模型使用客户管理的加密密钥 (CMEK)，以便更好地控制数据加密和密钥管理。 |
为 Vertex AI Notebook 运行时模板启用 CMEK |
要求为 Colab Enterprise 运行时模板使用客户管理的加密密钥 (CMEK)，以帮助保护运行时环境和关联的数据。 |
为 Vertex AI TensorBoard 启用 CMEK |
要求为 Vertex AI TensorBoard 使用客户管理的加密密钥 (CMEK)，以便更好地控制实验数据和模型可视化的加密。 |
为 Vertex AI Training 流水线启用 CMEK |
在 Vertex AI Training 流水线上要求使用客户管理的加密密钥 (CMEK)，以便更好地控制训练数据和生成的制品的加密。 |
为 Vertex AI Workbench 实例启用 CMEK |
要求为 Vertex AI Workbench 实例使用客户管理的加密密钥 (CMEK)，以便更好地控制数据加密。 |
为 Vertex AI Workbench 实例启用“删除至回收站”功能 |
为 Workbench 实例启用“删除至回收站”元数据功能，以提供至关重要的恢复安全网，并帮助防止意外丢失数据。 |
为 Vertex AI 运行时模板启用空闲关停 |
在 Colab Enterprise 运行时模板中启用自动空闲关停，以优化云费用、改进资源管理并增强安全性。 |
为 Vertex AI Workbench 实例启用完整性监控 |
在 Workbench 实例上启用完整性监控，以针对可信基准持续证明虚拟机的启动完整性。 |
为 Vertex AI 运行时模板启用安全启动 |
在 Colab Enterprise 运行时模板中启用安全启动，有助于防止未经授权的代码执行，并有助于保护操作系统完整性。 |
为 Vertex AI Workbench 实例启用安全启动 |
为 Workbench 实例启用安全启动，有助于防止未经授权或恶意软件在启动过程中运行。 |
在 Vertex AI Workbench 实例上启用 vTPM |
在 Workbench 实例上启用虚拟可信平台模块 (vTPM)，以保护启动流程并更好地控制加密。 |
限制 Vertex AI Workbench 实例对默认服务账号的使用 |
限制对 Workbench 实例使用高度宽松的默认服务账号，以降低未经授权访问 Google Cloud服务的风险。 |
支持的功能区域
本部分定义了 AI Protection 可帮助保护的功能区域。
- AI 工作负载：AI 应用工作负载范围从旨在提高员工工作效率的内部工具到旨在增强用户体验和推动业务发展的面向消费者的解决方案。例如，AI 智能体、虚拟助理、对话式 AI 聊天机器人和个性化推荐。
- AI 模型：AI 模型分为基础 AI 模型、微调 AI 模型、标准第一方 AI 模型和自定义 AI 模型。例如 Gemini、Llama、翻译模型和用于特定任务的自定义模型。
- AI 资产：AI 资产有助于机器学习操作流水线，并由 AI 工作负载使用。AI 资产类型包括以下内容：
- 声明性 AI 资产：Vertex AI 等 AI 生命周期管理工具会跟踪这些资产。
- 推理 AI 资产：用于处理 AI 数据或工作负载的通用资产，例如计算和存储资产。
- Model-as-a-Service（仅限 API）：通过程序化调用第一方或第三方 AI 模型的资产。
使用 AI Security 信息中心
AI Security 信息中心可全面展示组织的 AI 资产清单，并提出潜在的缓解措施，以增强风险和威胁管理。
访问信息中心
如需访问 AI Security 信息中心，请在 Google Cloud 控制台中依次前往风险概览 > AI Security。
如需了解详情，请参阅 AI Security 信息中心。
了解风险信息
本部分介绍了与 AI 系统关联的潜在风险。您可以查看 AI 清单中的最高风险。
您可以点击任意问题，打开一个详细信息窗格，其中会直观呈现相应问题。
查看 AI 威胁
本部分深入分析了与 AI 系统关联的威胁。您可以查看与您的 AI 资源关联的最新 5 项威胁。
在此页面上，您可以执行以下操作：
- 点击查看全部，即可查看与 AI 资源关联的威胁。
- 点击任意威胁即可查看有关该威胁的更多详细信息。
直观呈现清单
您可以在信息中心内查看 AI 清单的可视化图表，其中汇总了涉及生成式 AI 的项目、正在使用的第一方和第三方模型，以及用于训练第三方模型的数据集。
在此页面上，您可以执行以下操作：
- 如需查看清单详情页面，请点击可视化图表中的任意节点。
- 如需查看各个资产（例如基础模型和自定义构建的模型）的详细列表，请点击相应提示。
- 如需打开模型的详细视图，请点击相应模型。此视图会显示详细信息，例如模型托管的端点以及用于训练模型的数据集。如果启用了 Sensitive Data Protection，数据集视图还会显示数据集是否包含任何敏感数据。
审核发现结果摘要
本部分可帮助您评估和管理由 AI 框架和数据安全政策生成的发现结果。此部分包括以下内容：
- 发现结果：此部分会显示 AI Security 政策和数据安全政策生成的发现结果摘要。点击查看所有发现结果或点击每个发现结果类别旁边的数量，可查看发现结果详情页面。点击某个发现结果可显示有关该发现结果的其他信息。
- Vertex AI 数据集中的敏感数据：此部分会显示 Sensitive Data Protection 报告的基于数据集中的敏感数据的发现结果摘要。
检查 Model Armor 发现结果
图表显示了 Model Armor 扫描的提示或回答总数，以及 Model Armor 检测到的问题数量。此外，它还会显示检测到的各种问题的汇总统计信息，例如提示注入、越狱检测和敏感数据检测。
此信息是根据 Model Armor 发布到 Cloud Monitoring 的指标填充的。
后续步骤
- 了解如何配置 AI Protection。
- 如需评估风险，请访问信息中心数据。