您可以使用 Model Armor 模板来配置针对 AI 应用的提示和回答进行筛选的过滤选项。可通过模板为多个安全类别提供自定义的过滤条件及阈值。本文档介绍了如何创建和管理 Model Armor 模板。如需了解详情，请参阅 Model Armor 模板。
准备工作
在开始之前，请完成以下任务。
获取所需的权限
如需获得管理 Model Armor 模板所需的权限，请让您的管理员为您授予 Model Armor 模板的 Model Armor Admin (roles/modelarmor.admin) IAM 角色。
如需详细了解如何授予角色，请参阅管理对项目、文件夹和组织的访问权限。
启用 API
您必须先启用 Model Armor API，然后才能使用 Model Armor。
控制台
Enable the Model Armor API.
Roles required to enable APIs
To enable APIs, you need the Service Usage Admin IAM role (
roles/serviceusage.serviceUsageAdmin), which contains theserviceusage.services.enablepermission. Learn how to grant roles.选择要启用 Model Armor 的项目。
gcloud
在开始之前，请使用 Google Cloud CLI 和 Model Armor API 按照以下步骤操作：
In the Google Cloud console, activate Cloud Shell.
At the bottom of the Google Cloud console, a Cloud Shell session starts and displays a command-line prompt. Cloud Shell is a shell environment with the Google Cloud CLI already installed and with values already set for your current project. It can take a few seconds for the session to initialize.
运行以下命令，为 Model Armor 服务设置 API 端点。
gcloud config set api_endpoint_overrides/modelarmor "https://modelarmor.LOCATION.rep.googleapis.com/"
将
LOCATION替换为您要使用 Model Armor 的区域。在 Google Cloud 控制台中，前往 Model Armor 页面。
确认您正在查看的是已启用 Model Armor 的项目。
在 Model Armor 页面上，点击创建模板。 系统会显示创建模板页面。
指定模板 ID。模板 ID 可以包含字母、数字或连字符；不得超过 63 个字符；不能包含空格，也不能以连字符开头。
选择一个将运行 Model Armor 模板的区域。您以后无法更改该区域。
（可选）添加标签。标签采用键值对形式，可用于对相关模板进行分组。
在检测部分，配置检测设置。
可选：如果您选择 Sensitive Data Protection 检测，则需要配置 Sensitive Data Protection 设置。
在 Responsible AI 部分，为每个内容过滤条件设置置信度
可选：在配置日志记录部分，选择要为其配置日志记录的操作。
可选：选择启用多语言支持，以使用多语言检测设置。
点击创建。
LOCATION：模板的位置。TEMPLATE_ID：模板的 ID。PROJECT_ID：模板所属项目的 ID。FILTER_CONFIG：模板的过滤条件配置。PROJECT_ID：模板所属项目的 ID。TEMPLATE_ID：要创建的模板的 ID。LOCATION：模板的位置。恶意网址检测：识别旨在危害用户或系统的网址 (URL)。这些网址可能会导致您访问钓鱼式攻击网站、下载恶意软件或遭受其他网络攻击。如需了解详情，请参阅恶意网址检测。
提示注入和越狱检测：检测提示中的恶意内容和越狱尝试。若要更严格地执行，请将置信度设置为“低”及以上，以便能够检测到大部分可能属于提示注入和越狱尝试的内容。如需了解详情，请参阅提示注入和越狱检测。
Sensitive Data Protection：检测敏感数据，并帮助防止其因提示注入等攻击而意外泄露。如需了解详情，请参阅 Sensitive Data Protection。
基本：该方法更为简单，使用预定义的 infoType 来检测敏感数据。如需详细了解预定义的 infoType，请参阅 Sensitive Data Protection 基本配置。
高级：该方法可提供更灵活的配置，使用 Sensitive Data Protection 服务中定义的检查模板作为敏感数据 infoType 的单一来源。
检查模板：用于保存检查扫描作业配置信息的模板，包括要使用的预定义或自定义检测器。 请按以下格式输入模板名称：
projects/projectName/locations/locationID/inspectTemplates/templateName可选：去标识化模板：此类模板用于保存去标识化作业的配置信息，包括 infoType 和结构化数据集转换。按以下格式输入去标识化模板的标识符：
projects/projectName/locations/locationID/deidentifyTemplates/templateName- 无：不检测任何内容类型。
- “低”及以上：检测置信度为“低”“中等”或“高”的内容。
- “中等”及以上：检测置信度为“中等”或“高”的内容。
- “高”：检测置信度为“高”的内容。
在 Google Cloud 控制台中，前往 Model Armor 页面。
确认您正在查看的是已启用 Model Armor 的项目。系统会显示 Model Armor 页面，其中列出了为您的项目创建的模板。
点击列表中的任意模板即可查看其详细信息。
LOCATION：模板的位置。TEMPLATE_ID：模板的 ID。PROJECT_ID：模板所属项目的 ID。PROJECT_ID：模板所属项目的 ID。TEMPLATE_ID：要查看的模板的 ID。LOCATION：模板的位置。在 Google Cloud 控制台中，前往 Model Armor 页面。
确认您正在查看的是已启用 Model Armor 的项目。系统会显示 Model Armor 页面，其中列出了为您的组织创建的模板。
点击要从列表中更新的模板。系统会显示模板详细信息页面。
点击修改。
更新必需参数，然后点击保存。
LOCATION：模板的位置。TEMPLATE_ID：模板的 ID。PROJECT_ID：模板所属项目的 ID。PROJECT_ID：模板所属项目的 ID。LOCATION：模板的位置。TEMPLATE_ID：模板的 ID。UPDATE_MASK：要更新的字段，例如filterConfig和filterConfig.piAndJailbreakFilterSettings。如果将此字段留空，则系统会更新整个过滤条件配置。在 Google Cloud 控制台中，前往 Model Armor 页面。
确认您正在查看的是已启用 Model Armor 的项目。系统会显示 Model Armor 页面，其中列出了为您的组织创建的模板。
点击要从列表中删除的模板。系统会显示模板详细信息页面。
点击删除。此时会显示一个确认对话框。
输入模板名称以确认删除，然后点击删除。
LOCATION：模板的位置。TEMPLATE_ID：模板的 ID。PROJECT_ID：模板所属项目的 ID。PROJECT_ID：模板所属项目的 ID。LOCATION：模板的位置。TEMPLATE_ID：模板的 ID。INSPECT_ONLY：检查违反配置设置的请求，但不阻止这些请求。INSPECT_AND_BLOCK：它会阻止违反配置设置的请求。
运行以下命令以启用 Model Armor。
gcloud services enable modelarmor.googleapis.com --project=PROJECT_ID
将 PROJECT_ID 替换为相应项目的 ID。
创建 Model Armor 模板
Model Armor 模板定义了 Model Armor 用于针对各类安全风险对提示和回答进行筛选的特定过滤条件及阈值。如需创建 Model Armor 模板，请按以下步骤操作：
控制台
gcloud
运行以下命令：
gcloud model-armor templates create TEMPLATE_ID --project=PROJECT_ID --location=LOCATION \
--rai-settings-filters='[{ "filterType": "HATE_SPEECH", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "HARASSMENT", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "SEXUALLY_EXPLICIT", "confidenceLevel": "MEDIUM_AND_ABOVE" }]' \
--basic-config-filter-enforcement=enabled \
--pi-and-jailbreak-filter-settings-enforcement=enabled \
--pi-and-jailbreak-filter-settings-confidence-level=LOW_AND_ABOVE \
--malicious-uri-filter-settings-enforcement=enabled \
--template-metadata-custom-llm-response-safety-error-code=798 \
--template-metadata-custom-llm-response-safety-error-message="test template llm response evaluation failed" \
--template-metadata-custom-prompt-safety-error-code=799 \
--template-metadata-custom-prompt-safety-error-message="test template prompt evaluation failed" \
--template-metadata-ignore-partial-invocation-failures \
--template-metadata-log-operations \
--template-metadata-log-sanitize-operations
替换以下内容：
REST
使用以下命令创建新的 Model Armor 模板。
curl -X POST \
-d "{'FILTER_CONFIG': {} }" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"
替换以下内容：
以下示例展示了一个 Model Armor 模板配置。在此示例中，Responsible AI 过滤条件针对仇恨言论、骚扰、危险内容和露骨色情内容配置了不同的置信度。此外，启用了提示注入和越狱检测过滤条件并将其置信度配置为 LOW_AND_ABOVE，这意味着，任何可能性为“低”“中等”或“高”的内容都将被标记。还启用了恶意 URI 过滤条件。
export FILTER_CONFIG='{
"filterConfig": {
"raiSettings": {
"raiFilters": [{
"filterType": "HATE_SPEECH",
"confidenceLevel": "MEDIUM_AND_ABOVE"
}, {
"filterType": "HARASSMENT",
"confidenceLevel": "HIGH"
}, {
"filterType": "DANGEROUS",
"confidenceLevel": "MEDIUM_AND_ABOVE"
},{
"filterType": "SEXUALLY_EXPLICIT",
"confidenceLevel": "MEDIUM_AND_ABOVE"
}]
},
"piAndJailbreakFilterSettings": {
"filterEnforcement": "ENABLED",
"confidenceLevel": "LOW_AND_ABOVE"
},
"maliciousUriFilterSettings": {
"filterEnforcement": "ENABLED"
}
}
}'
curl -X POST \
-d "$FILTER_CONFIG" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION_ID/templates?template_id=TEMPLATE_ID"
如需创建启用了多语言检测的 Model Armor 模板，您需要在命令中传递 TEMPLATE_CONFIG 参数。
此参数定义了语言检测设置的配置。
使用以下命令创建新的 Model Armor 模板，并启用多语言检测。
curl -X POST \
-d "{'TEMPLATE_CONFIG': {} }" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"
以下示例展示了一个启用了多语言检测的 Model Armor 模板配置。
export TEMPLATE_CONFIG='{
"filterConfig": {
"raiSettings": {
"raiFilters": [{
"filterType": "HATE_SPEECH",
"confidenceLevel": "MEDIUM_AND_ABOVE"
}, {
"filterType": "HARASSMENT",
"confidenceLevel": "HIGH"
}, {
"filterType": "DANGEROUS",
"confidenceLevel": "MEDIUM_AND_ABOVE"
},{
"filterType": "SEXUALLY_EXPLICIT",
"confidenceLevel": "MEDIUM_AND_ABOVE"
}]
},
"piAndJailbreakFilterSettings": {
"filterEnforcement": "ENABLED",
"confidenceLevel": "LOW_AND_ABOVE"
},
"maliciousUriFilterSettings": {
"filterEnforcement": "ENABLED"
}
},
"templateMetadata": {
"multiLanguageDetection": {
"enableMultiLanguageDetection": true
}
}
}'
curl -X POST \
-d "$TEMPLATE_CONFIG" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION_ID/templates?template_id=TEMPLATE_ID"
Go
如需运行此代码，请先设置 Go 开发环境并安装 Model Armor Go SDK。
Java
如需运行此代码，请先设置 Java 开发环境并安装 Model Armor Java SDK。
Node.js
如需运行此代码，请先设置 Node.js 开发环境并安装 Model Armor Node.js SDK。
PHP
如需运行此代码，请先设置 PHP 开发环境并安装 Model Armor PHP SDK。
Python
如需运行此代码，请先设置 Python 开发环境并安装 Model Armor Python SDK。
配置检测
检测是指 Model Armor 对提示和回答执行的具体检查。Model Armor 提供了一个灵活的检测配置系统，可让您根据需要调整针对 AI 应用设置的保护级别。您可以在创建模板时配置检测。Model Armor 会对提示和回答执行以下检测检查：
配置 Sensitive Data Protection 设置
Model Armor 利用 Sensitive Data Protection 来识别和防止 LLM 互动中敏感信息的泄露。如需了解详情，请参阅 Sensitive Data Protection。
Model Armor 提供了两种模式来配置 Sensitive Data Protection：
如果您选择高级模式，则需要指定以下参数：
验证 Sensitive Data Protection 中是否存在检查模板和去标识化模板。如果模板位于其他项目中，则必须为 Model Armor 服务代理授予该项目的 DLP User 角色 (roles/dlp.user) 和 DLP Reader 角色 (roles/dlp.reader)。
设置置信度
置信度表示发现结果与内容过滤条件类型匹配的可能性。您可以为每个内容过滤条件设置置信度。可能的值如下：
若要更严格地执行，请将置信度设置为“低”及以上，以检测大部分属于某种内容过滤器类型的内容。您还可以选择置信度
如需针对模板启用全面的日志记录，请参阅 Model Armor 审核和平台日志记录。
查看 Model Armor 模板
查看现有模板，了解可用的配置，以及排查和解决针对提示和回答进行筛选时出现的问题。
控制台
gcloud
运行以下命令：
gcloud model-armor templates describe TEMPLATE_ID --project=PROJECT_ID --location=LOCATION
替换以下内容：
REST
运行以下命令：
curl -X GET \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ "https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID"
替换以下内容：
Go
如需运行此代码，请先设置 Go 开发环境并安装 Model Armor Go SDK。
Java
如需运行此代码，请先设置 Java 开发环境并安装 Model Armor Java SDK。
Node.js
如需运行此代码，请先设置 Node.js 开发环境并安装 Model Armor Node.js SDK。
PHP
如需运行此代码，请先设置 PHP 开发环境并安装 Model Armor PHP SDK。
Python
如需运行此代码，请先设置 Python 开发环境并安装 Model Armor Python SDK。
更新 Model Armor 模板
定期更新模板，以确保 AI 应用的安全状况始终可靠、有效。
控制台
gcloud
运行以下命令：
gcloud model-armor templates update TEMPLATE_ID --project=PROJECT_ID --location=LOCATION
替换以下内容：
REST
运行以下命令：
curl -X PATCH \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -d "$FILTER_CONFIG" \ "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID?updateMask=UPDATE_MASK"
替换以下内容：
所有其他字段都是不可变的。尝试更新其他字段（例如，尝试更新模板名称）会导致错误。
Go
如需运行此代码，请先设置 Go 开发环境并安装 Model Armor Go SDK。
Java
如需运行此代码，请先设置 Java 开发环境并安装 Model Armor Java SDK。
Node.js
如需运行此代码，请先设置 Node.js 开发环境并安装 Model Armor Node.js SDK。
PHP
如需运行此代码，请先设置 PHP 开发环境并安装 Model Armor PHP SDK。
Python
如需运行此代码，请先设置 Python 开发环境并安装 Model Armor Python SDK。
删除 Model Armor 模板
如果模板不再使用、被新模板取代或安全政策发生变化，请删除该模板。
控制台
gcloud
运行以下命令：
gcloud model-armor templates delete TEMPLATE_ID --project=PROJECT_ID --location=LOCATION
替换以下内容：
REST
运行以下命令：
curl -X DELETE \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ "https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID"
替换以下内容：
Go
如需运行此代码，请先设置 Go 开发环境并安装 Model Armor Go SDK。
Java
如需运行此代码，请先设置 Java 开发环境并安装 Model Armor Java SDK。
Node.js
如需运行此代码，请先设置 Node.js 开发环境并安装 Model Armor Node.js SDK。
PHP
如需运行此代码，请先设置 PHP 开发环境并安装 Model Armor PHP SDK。
Python
如需运行此代码，请先设置 Python 开发环境并安装 Model Armor Python SDK。
模板元数据
Model Armor 模板元数据有助于您配置 Model Armor 的行为，包括安全检查处理、错误处理以及日志记录行为。
Model Armor 模板元数据包括以下字段：
| 元数据 | 类型 | 说明 |
|---|---|---|
| multiLanguageDetection | 布尔值 | 启用多语言检测。 |
| enforcement_type | 枚举 |
定义强制执行类型。请使用以下某个值： |
| log_template_operations | 布尔值 | 启用模板操作的日志记录。 |
| log_sanitize_operations | 布尔值 | 启用清理操作的日志记录。 |
后续步骤
如未另行说明，那么本页面中的内容已根据知识共享署名 4.0 许可获得了许可，并且代码示例已根据 Apache 2.0 许可获得了许可。有关详情，请参阅 Google 开发者网站政策。Java 是 Oracle 和/或其关联公司的注册商标。
最后更新时间 (UTC)：2025-10-02。