用于预测的预构建容器

Vertex AI 提供作为预构建容器运行的 Docker 容器映像,用于在经过训练的模型工件上执行预测。您可以使用这些容器提供的 HTTP 预测服务器以最少的配置执行预测。这些容器按机器学习框架和框架版本组织。在许多情况下,使用预构建容器比创建用于预测的自定义容器要简单。

本文档列出了用于预测的预构建容器,并介绍如何将它们与使用 Vertex AI 的自定义训练功能创建的模型工件或在 Vertex AI 之外创建的模型工件搭配使用。

可用容器映像

以下每个容器映像都可通过多个 Artifact Registry 代码库提供,这些代码库将数据存储在不同的位置。执行自定义训练时,您可以使用映像的任何 URI;每个 URI 都提供相同的容器映像。如果您使用 Google Cloud Console 创建 Model 资源,Cloud Console 会选择与您使用 Vertex AI 的位置最匹配的 URI,以减少延迟时间。

TensorFlow

机器学习框架版本 是否使用 GPU URI(选择任意一个)
2.5
  • us-docker.pkg.dev/vertex-ai/prediction/tf2-cpu.2-5:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/tf2-cpu.2-5:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/tf2-cpu.2-5:latest
2.5
  • us-docker.pkg.dev/vertex-ai/prediction/tf2-gpu.2-5:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/tf2-gpu.2-5:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/tf2-gpu.2-5:latest
2.4
  • us-docker.pkg.dev/vertex-ai/prediction/tf2-cpu.2-4:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/tf2-cpu.2-4:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/tf2-cpu.2-4:latest
2.4
  • us-docker.pkg.dev/vertex-ai/prediction/tf2-gpu.2-4:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/tf2-gpu.2-4:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/tf2-gpu.2-4:latest
2.3
  • us-docker.pkg.dev/vertex-ai/prediction/tf2-cpu.2-3:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/tf2-cpu.2-3:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/tf2-cpu.2-3:latest
2.3
  • us-docker.pkg.dev/vertex-ai/prediction/tf2-gpu.2-3:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/tf2-gpu.2-3:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/tf2-gpu.2-3:latest
2.2
  • us-docker.pkg.dev/vertex-ai/prediction/tf2-cpu.2-2:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/tf2-cpu.2-2:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/tf2-cpu.2-2:latest
2.2
  • us-docker.pkg.dev/vertex-ai/prediction/tf2-gpu.2-2:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/tf2-gpu.2-2:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/tf2-gpu.2-2:latest
2.1
  • us-docker.pkg.dev/vertex-ai/prediction/tf2-cpu.2-1:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/tf2-cpu.2-1:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/tf2-cpu.2-1:latest
2.1
  • us-docker.pkg.dev/vertex-ai/prediction/tf2-gpu.2-2:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/tf2-gpu.2-2:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/tf2-gpu.2-2:latest
1.15
  • us-docker.pkg.dev/vertex-ai/prediction/tf-cpu.1-15:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/tf-cpu.1-15:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/tf-cpu.1-15:latest
1.15
  • us-docker.pkg.dev/vertex-ai/prediction/tf-gpu.1-15:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/tf-gpu.1-15:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/tf-gpu.1-15:latest

scikit-learn

机器学习框架版本 是否使用 GPU URI(选择任意一个)
0.24
  • us-docker.pkg.dev/vertex-ai/prediction/sklearn-cpu.0-24:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/sklearn-cpu.0-24:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/sklearn-cpu.0-24:latest
0.23
  • us-docker.pkg.dev/vertex-ai/prediction/sklearn-cpu.0-23:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/sklearn-cpu.0-23:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/sklearn-cpu.0-23:latest
0.22
  • us-docker.pkg.dev/vertex-ai/prediction/sklearn-cpu.0-22:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/sklearn-cpu.0-22:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/sklearn-cpu.0-22:latest
0.20
  • us-docker.pkg.dev/vertex-ai/prediction/sklearn-cpu.0-20:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/sklearn-cpu.0-20:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/sklearn-cpu.0-20:latest

XGBoost

机器学习框架版本 是否使用 GPU URI(选择任意一个)
1.4
  • us-docker.pkg.dev/vertex-ai/prediction/xgboost-cpu.1-4:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/xgboost-cpu.1-4:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/xgboost-cpu.1-4:latest
1.3
  • us-docker.pkg.dev/vertex-ai/prediction/xgboost-cpu.1-3:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/xgboost-cpu.1-3:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/xgboost-cpu.1-3:latest
1.2
  • us-docker.pkg.dev/vertex-ai/prediction/xgboost-cpu.1-2:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/xgboost-cpu.1-2:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/xgboost-cpu.1-2:latest
1.1
  • us-docker.pkg.dev/vertex-ai/prediction/xgboost-cpu.1-1:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/xgboost-cpu.1-1:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/xgboost-cpu.1-1:latest
0.90
  • us-docker.pkg.dev/vertex-ai/prediction/xgboost-cpu.0-90:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/xgboost-cpu.0-90:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/xgboost-cpu.0-90:latest
0.82
  • us-docker.pkg.dev/vertex-ai/prediction/xgboost-cpu.0-82:latest
  • europe-docker.pkg.dev/vertex-ai/prediction/xgboost-cpu.0-82:latest
  • asia-docker.pkg.dev/vertex-ai/prediction/xgboost-cpu.0-82:latest

使用预构建容器

要使用预建容器,请指定 Model 的以下 API 字段:

如果您使用 TrainingPipeline 资源执行自定义训练并从经过训练的工件创建 Model,则在 TrainingPipeline.modelToUpload 中指定此 Model。否则,请了解如何将模型工件作为 Model 资源导入

后续步骤