Model Armor 与 Google Cloud 服务的集成

Model Armor 可与各种 Google Cloud 服务集成：

  • Google Kubernetes Engine (GKE) 和 Service Extensions
  • Vertex AI

GKE 和 Service Extensions

Model Armor 可通过 Service Extensions 与 GKE 集成。借助 Service Extensions，您可以集成内部（Google Cloud 服务）或外部（用户管理的）服务来处理流量。您可以在应用负载均衡器（包括 GKE 推理网关）上配置服务扩展程序，以筛查进出 GKE 集群的流量。这可验证与 AI 模型的所有互动都受 Model Armor 保护。如需了解详情，请参阅与 GKE 集成。

Vertex AI

Model Armor 可以使用下限设置或模板直接集成到 Vertex AI 中。此集成会过滤 Gemini 模型请求和回答，并阻止违反下限设置的请求和回答。此集成功能可为 generateContent 方法提供 Vertex AI 中的 Gemini API 中的提示和回答保护。您需要启用 Cloud Logging，才能查看提示和回答的清理结果。如需了解详情，请参阅与 Vertex AI 集成。

准备工作

启用 Model Armor。

集成 Model Armor 时的选项

Model Armor 提供以下集成选项。每种方案都提供不同的特性和功能。

集成选项 政策实施程序/检测器 配置检测 仅检查 检查并屏蔽 模型和云覆盖范围
REST API 检测器 仅使用模板 是 是 所有模型和所有云
Vertex AI（预览版） 内嵌强制执行 使用下限设置或模板 是 是 Google Cloud上的 Gemini（非流式传输）
Google Kubernetes Engine（预览版） 内嵌强制执行 仅使用模板 是 是 Google Cloud上采用 Open AI 格式的模型

对于 REST API 集成选项，Model Armor 仅使用模板作为检测器。这意味着，它主要根据预定义的模板识别和报告潜在的违规行为，而不是主动阻止这些行为。

借助 Vertex AI 集成选项，Model Armor 可使用下限设置或模板提供内嵌强制执行。这意味着，Model Armor 会直接介入流程来主动执行政策，而无需修改应用代码。

与 Vertex AI 类似，GKE 集成选项也仅使用模板提供内嵌强制执行。这表明 Model Armor 可以在推理网关中直接强制执行政策，而无需修改应用代码。