本文档包含在 Google Cloud上运行生成式 AI 工作负载时使用 Cloud Run functions 的最佳实践和指南。将 Cloud Run 函数与 Vertex AI 搭配使用,以自动执行任务、提供预测、触发训练作业、与其他服务集成,以及构建事件驱动型机器学习流水线。
不妨考虑以下 Cloud Run functions 与 Vertex AI 搭配使用的应用场景:
- 能够预处理和后处理数据:Cloud Run 函数可以在将数据发送到 Vertex AI 模型以进行训练或预测之前对其进行预处理。例如,函数可以清理和归一化数据,或从中提取特征。同样,Cloud Run 函数可以对 Vertex AI 模型的输出进行后处理。例如,函数可以格式化输出数据,或将其发送到其他服务以供进一步分析。
- Vertex AI 训练作业的自动触发器:如需自动训练 Vertex AI 模型,您可以使用来自各种 Google Cloud 服务(例如 Cloud Storage、Pub/Sub 和 Cloud Scheduler)的事件来触发 Cloud Run 函数。例如,您可以创建一个函数,该函数在将新文件上传到 Cloud Storage 时触发。此函数可以启动 Vertex AI 训练作业,以使用新数据训练模型。
- 能够提供预测:Cloud Run 函数可以提供 Vertex AI 模型的预测,让您无需管理任何基础架构即可为模型创建 API 端点。例如,您可以编写一个以图片为输入并输出 Vertex AI 图片分类模型预测结果的函数。然后,您可以将此函数部署为 HTTP API 端点。
- 事件驱动型机器学习工作流:您可以使用 Cloud Run functions 构建事件驱动型机器学习工作流。例如,当向 Pub/Sub 主题添加新记录时,函数可以触发 Vertex AI 预测作业。借助此函数,您可以实时处理数据,并根据模型预测结果采取行动。
- 与其他服务集成:您可以将 Cloud Run functions 函数与其他 Google Cloud 服务(例如 Cloud Storage、BigQuery 和 Cloud Firestore)集成。通过集成,您可以构建将不同服务连接在一起的复杂机器学习流水线。
- 费用扩缩:Cloud Run functions 可让您仅为函数在运行时使用的资源付费。此外,Cloud Run functions 会自动扩缩以满足需求,因此您可以在流量高峰期保持适当的资源。
必需的 Cloud Run functions 控制措施
使用 Cloud Run functions 时,强烈建议您采取以下控制措施。
要求使用适用于 Cloud Run functions 的 VPC 连接器
| Google 控制 ID | CF-CO-4.4 |
|---|---|
| 类别 | 必需 |
| 说明 |
|
| 适用的产品 |
|
| 路径 | constraints/cloudfunctions.requireVPCConnector |
| 运算符 | = |
| 值 |
|
| 类型 | 布尔值 |
| 相关 NIST-800-53 控制措施 |
|
| 相关 CRI 配置文件控制 |
|
| 相关信息 |