跳转到

AI 基础架构

可伸缩、性能出色且经济实惠的基础架构,适合所有机器学习工作负载。

  • AI 加速器适用于从高性能训练到低成本推断的各种使用场景

  • 借助专为 AI 工作负载打造的 Vertex AI 全代管式基础架构更快地扩大规模

  • 采用 Google 研究团队和合作伙伴构建的优化基础架构的突破性算法

优势

大规模优化效果和费用

在 Google Cloud 中,您可以从 GPU、TPU 或 CPU 中进行选择,以支持各种使用场景,包括高性能训练、低成本推断和大规模数据处理。

利用代管式基础架构更快地交付成果

利用 Vertex AI 提供的代管式基础架构,更快、更高效地进行扩缩。快速设置机器学习环境,自动执行编排,管理大型集群并设置低延迟应用。

利用先进的 AI 技术加快创新速度

利用 Google 研究团队、DeepMind 和合作伙伴提供的先进 AI 技术,从机器学习中挖掘更多价值。

主要特性

主要特性

灵活且可扩缩的硬件,适合任何使用场景

在 Google Cloud 中,您可以从 GPU、TPU 或 CPU 中进行选择,以支持各种使用场景,包括高性能训练、低成本推断和大规模数据处理。使用张量处理单元 (TPU) 提高大规模训练和执行深度神经网络的速度,同时优化费用和训练时间。

您可以从一系列 NVIDIA GPU 中进行选择,以进行经济高效的推断,或纵向扩容/横向扩容训练。并非所有机器学习模型都相同,不同的模型会获得不同级别的硬件加速。最后,在 Compute Engine 上启动虚拟机实例时访问 CPU 平台。Compute Engine 为虚拟机提供了一系列 Intel 和 AMD 处理器。

短延迟时间服务

Vertex AI 提供了自动管理机器学习流程所需的专用基础架构。部署到可自动扩缩的全代管式端点、专用端点以及多种 CPU 和 GPU 选项。

优化的 Tensorflow 运行时可在 GPU 和 CPU 上实现模型预压缩,而表格模型的吞吐量最多可提高 8 倍,延迟时间最多可缩短到六分之一。

大规模训练

Vertex AI 提供代管式网络功能,可帮助客户扩容多节点训练并减少训练时间。

代管式训练作业:使用队列管理、NVIDIA GPU 和 TPU 以及内置超参数优化提交和忽略训练作业。

归约服务器:针对同步数据并行算法优化分布式 GPU 训练,训练时间和费用最多可减少 30%-40%。

Cloud Storage FUSE 和 NFS:借助支持 Cloud Storage AutoClass 的 Vertex AI 中的内置文件和对象存储选项,简化机器学习训练作业并加快其速度。

先进的 AI 算法

使用 Google 研究团队开发的先进 AI 算法,通过内置的优化基础架构简化复杂的 AI 用例。借助 NAS、TabNet、Alphafold 和 NVIDIA Merlin 等算法降低复杂性并加快实现价值的速度。

高度灵活且开放的平台

我们致力于为客户提供自由的平台,让其选择较适合自己的机器学习框架或基础架构服务。

从单个统一数据和 AI 云平台轻松访问和使用任何工具、API 或框架来处理您的 ML 工作负载,让您的团队能够选择合适的框架来适应他们的偏好和开发效率。

访问丰富的构建块,例如深度学习虚拟机和容器,以及精选的 ISV 产品市场,以帮助在虚拟机和/或 Google Kubernetes Engine (GKE) 上构建您自己的自定义软件堆栈。

文档

文档

Google Cloud 基础知识
在云端使用 GPU 训练模型

GPU 可加速深度学习模型的训练过程,以便执行图片分类、视频分析和自然语言处理等任务。

Google Cloud 基础知识
使用 TPU 训练模型

TPU 是 Google 定制开发的 ASIC,用于加速机器学习工作负载。您可以使用 Cloud TPU 在 AI Platform Training 上运行训练作业。

教程
是什么让 TPU 成为深度学习的完美硬件?

了解深度学习在计算方面的要求以及 CPU、GPU 和 TPU 如何处理任务。

Google Cloud 基础知识
Deep Learning VM

Deep Learning VM Image 针对数据科学和机器学习任务进行了优化。此类映像附带预安装的主要机器学习框架和工具,可与 GPU 配合使用。

Google Cloud 基础知识
AI Platform Deep Learning Containers

AI Platform Deep Learning Containers 是性能更出色的一致环境,可帮助您快速为工作流设计原型并加以实施。它们可与 GPU 配合使用。

价格

价格

AI Infrastructure 的价格取决于您选择的产品。您可以免费试用 AI Infrastructure。

Cloud TPU Cloud GPU
如需了解各类单设备 TPU 和 TPU Pod 的 TPU 价格,请参阅 TPU 价格 如需了解 Compute Engine 上适用的各类 GPU 的价格和区域,请参阅 GPU 价格