Cloud Run functions 在生成式 AI 用例中的控制

本文档包含在 Google Cloud上运行生成式 AI 工作负载时使用 Cloud Run functions 的最佳实践和指南。将 Cloud Run 函数与 Vertex AI 搭配使用,以自动执行任务、提供预测、触发训练作业、与其他服务集成,以及构建事件驱动型机器学习流水线。

不妨考虑以下 Cloud Run functions 与 Vertex AI 搭配使用的应用场景:

  • 能够预处理和后处理数据:Cloud Run 函数可以在将数据发送到 Vertex AI 模型以进行训练或预测之前对其进行预处理。例如,函数可以清理和归一化数据,或从中提取特征。同样,Cloud Run 函数可以对 Vertex AI 模型的输出进行后处理。例如,函数可以格式化输出数据,或将其发送到其他服务以供进一步分析。
  • Vertex AI 训练作业的自动触发器:如需自动训练 Vertex AI 模型,您可以使用来自各种 Google Cloud 服务(例如 Cloud Storage、Pub/Sub 和 Cloud Scheduler)的事件来触发 Cloud Run 函数。例如,您可以创建一个函数,该函数在将新文件上传到 Cloud Storage 时触发。此函数可以启动 Vertex AI 训练作业,以使用新数据训练模型。
  • 能够提供预测:Cloud Run 函数可以提供 Vertex AI 模型的预测,让您无需管理任何基础架构即可为模型创建 API 端点。例如,您可以编写一个以图片为输入并输出 Vertex AI 图片分类模型预测结果的函数。然后,您可以将此函数部署为 HTTP API 端点。
  • 事件驱动型机器学习工作流:您可以使用 Cloud Run functions 构建事件驱动型机器学习工作流。例如,当向 Pub/Sub 主题添加新记录时,函数可以触发 Vertex AI 预测作业。借助此函数,您可以实时处理数据,并根据模型预测结果采取行动。
  • 与其他服务集成:您可以将 Cloud Run functions 函数与其他 Google Cloud 服务(例如 Cloud Storage、BigQuery 和 Cloud Firestore)集成。通过集成,您可以构建将不同服务连接在一起的复杂机器学习流水线。
  • 费用扩缩:Cloud Run functions 可让您仅为函数在运行时使用的资源付费。此外,Cloud Run functions 会自动扩缩以满足需求,因此您可以在流量高峰期保持适当的资源。

必需的 Cloud Run functions 控制措施

使用 Cloud Run functions 时,强烈建议您采取以下控制措施。

要求使用适用于 Cloud Run functions 的 VPC 连接器

Google 控制 ID CF-CO-4.4
类别 必需
说明

cloudfunctions.requireVPCConnector 布尔值限制条件要求管理员在部署 Cloud Run 函数时指定无服务器 VPC 访问通道连接器。如果强制执行此限制条件,函数必须指定连接器。

适用的产品
  • 组织政策服务
  • Cloud Run functions
路径 constraints/cloudfunctions.requireVPCConnector
运算符 =
  • True
类型 布尔值
相关 NIST-800-53 控制措施
  • SC-7
  • SC-8
相关 CRI 配置文件控制
  • PR.AC-5.1
  • PR.AC-5.2
  • PR.DS-2.1
  • PR.DS-2.2
  • PR.DS-5.1
  • PR.PT-4.1
  • DE.CM-1.1
  • DE.CM-1.2
  • DE.CM-1.3
  • DE.CM-1.4
相关信息

后续步骤