此页面由 Cloud Translation API 翻译。

Model Armor 楼层设置

模型 Armor 底板设置定义了规则，这些规则规定了在资源层次结构的特定位置（即组织、文件夹或项目级别）创建的所有模型 Armor 模板的最低要求。 Google Cloud如果有多个楼层设置相互冲突，则资源层次结构中较低级别的设置优先。例如，如果在文件夹级别和项目级别创建了底价设置政策，系统会应用项目级政策。

以下示例展示了“模型装甲”下限设置政策的运作方式。在启用了恶意网址过滤器的文件夹中设置了底板政策 X。在该文件夹中的项目上设置了底限政策 Y，以便使用置信度阈值为中等的提示注入和越狱检测过滤器。最终结果是，在项目中创建的每个 Model Armor 模板都必须至少设置提示注入和越狱检测过滤器，并将置信度阈值设为中等，但恶意网址过滤器不是必需的。

最低要求设置可帮助首席信息安全官 (CISO) 和安全架构师在其组织内的所有 Model Armor 模板中强制执行最低安全状态，防止个别开发者意外或故意将安全标准降低到可接受的水平以下。对于订阅 Security Command Center 高级层级或企业层级的客户，如果违反了下限设置，系统会触发发现结果。也就是说，如果模板是在最低设置之前创建的，并且模板具有任何限制较少的设置，Security Command Center 中就会显示相应问题，以帮助您识别和修复不太安全的 Model Armor 模板。

启用和停用 Model Armor 地板设置

如需启用 Model Armor 底价设置，请将 enable_floor_setting_enforcement 标志设置为 true。以下示例展示了如何执行此操作。

curl -X PATCH
-d '{"enable_floor_setting_enforcement" : "true"}'
-H "Content-Type: application/json"
-H "Authorization: Bearer $(gcloud auth print-access-token)" "https://modelarmor.googleapis.com/v1/projects/$PROJECT_ID/locations/global/floorSetting?update_mask=enable_floor_setting_enforcement"

将 PROJECT_ID 替换为模板的项目 ID。

如果您不想使用 Model Armor 下限设置，请将 filter_config 标志设置为 empty 或将 enable_floor_setting_enforcement 标志设置为 false。以下示例展示了如何执行此操作。

curl -X PATCH \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-d '{"filterConfig" :{},"enable_floor_setting_enforcement":"false"}' \
"https://modelarmor.googleapis.com/v1/projects/PROJECT_ID/locations/global/floorSetting"

将 PROJECT_ID 替换为模板的项目 ID。

查看 Model Armor 底价设置

运行以下命令可查看 Model Armor 地板设置。

查看给定项目的 Model Armor 下限设置。

curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://modelarmor.googleapis.com/v1/projects/PROJECT_ID/locations/global/floorSetting"

查看给定文件夹的 Model Armor 下限设置。

curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://modelarmor.googleapis.com/v1/folders/FOLDER_ID/locations/global/floorSetting"

查看给定组织的 Model Armor 下限设置。

curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://modelarmor.googleapis.com/v1/organizations/ORGANIZATION_ID/locations/global/floorSetting"

替换以下值：

PROJECT_ID：模板所属项目的 ID。
FOLDER_ID：模板的文件夹 ID。
ORGANIZATION_ID：模板所属组织的 ID。

更新 Model Armor 底价设置

运行以下命令以更新 Model Armor 地板设置。

更新给定项目的“模型装甲”下限设置。

curl -X PATCH -d '{"filterConfig" :{"piAndJailbreakFilterSettings": { "filterEnforcement": "ENABLED"}, "maliciousUriFilterSettings": { "filterEnforcement": "ENABLED" }, "rai_settings":{"rai_filters":{"filter_type":"DANGEROUS", "confidence_level":"LOW_AND_ABOVE" },
"rai_filters":{"filter_type":"HATE_SPEECH", "confidence_level":"LOW_AND_ABOVE" }, "rai_filters":{"filter_type":"HARASSMENT", "confidence_level":"LOW_AND_ABOVE" }, "rai_filters":{"filter_type":"SEXUALLY_EXPLICIT", "confidence_level":"LOW_AND_ABOVE" }}},"enable_floor_setting_enforcement":"true"}' -H "Content-Type: application/json" -H "Authorization: Bearer $(gcloud auth print-access-token) "https://modelarmor.googleapis.com/v1/projects/PROJECT_ID/locations/global/floorSetting"

更新给定文件夹的 Model Armor 底板设置。

curl -X PATCH \
-d '{"filterConfig" :{"piAndJailbreakFilterSettings": { "filterEnforcement": "ENABLED"}, "maliciousUriFilterSettings": { "filterEnforcement": "ENABLED" }},"enable_floor_setting_enforcement":"true"}' \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://modelarmor.googleapis.com/v1/folders/FOLDER_ID/locations/global/floorSetting"

更新给定组织的“模型装甲”下限设置。

curl -X PATCH \
-d '{"filterConfig" :{"piAndJailbreakFilterSettings": { "filterEnforcement": "ENABLED"}, "maliciousUriFilterSettings": { "filterEnforcement": "ENABLED" }},"enable_floor_setting_enforcement":"true"}' \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://modelarmor.googleapis.com/v1/organizations/ORGANIZATION_ID/locations/global/floorSetting"

替换以下值：

PROJECT_ID：模板所属项目的 ID。
FOLDER_ID：模板的文件夹 ID。
ORGANIZATION_ID：模板所属组织的 ID。

update 命令会返回以下响应：

  {
  "name": "projects/$PROJECT_ID/locations/global/floorSetting",
  "updateTime": "2024-12-19T15:36:21.318191Z",
  "filterConfig": {
  "piAndJailbreakFilterSettings": {
  "filterEnforcement": "ENABLED"
   },
    "maliciousUriFilterSettings": {
    "filterEnforcement": "ENABLED"
      }
      }
  }

违反了楼层设置政策

每个 Model Armor 服务发现结果都会指出 Model Armor 模板未达到资源层次结构下限设置定义的最低安全标准时发生的下限设置违规问题。下限设置决定了模板中每个过滤器允许的最宽松级别。底价设置违规可能涉及模板不包含必需的过滤条件，或者不符合这些过滤条件的最低置信度水平。检测到违规行为后，Security Command Center 中会发布高严重性发现结果。该发现会指明违反的底价设置、不合规的模板以及违规详情。如需了解详情，请参阅 Model Armor 服务发现。

这是地板设置违规问题发现结果的 source_properties 字段示例。

{
  "filterConfig": {
    "raiSettings": {
      "raiFilters": [
        {
          "filterType": "HATE_SPEECH",
          "confidenceLevel": {
            "floorSettings": "LOW_AND_ABOVE",
            "template": "MEDIUM_AND_ABOVE"
          }
        },
        {
          "filterType": "HARASSMENT",
          "confidenceLevel": {
            "floorSettings": "MEDIUM_AND_ABOVE",
            "template": "HIGH"
          }
        }
      ]
    },
    "piAndJailbreakFilterSettings": {
      "confidenceLevel": {
        "floorSettings": "LOW_AND_ABOVE",
        "template": "HIGH"
      }
    },
    "maliciousUriFilterSettings": {
      "floorSettings": "ENABLED",
      "template": "DISABLED"
    }
  }
}