教程

图片分类

• 在 Cloud TPU (PyTorch) 上训练 ResNet

  一个使用 PyTorch 的 ResNet 图片分类模型，针对在 Cloud TPU 上运行进行了优化。

Pod 上的分布式处理

• 在 Cloud TPU Pod 上训练模型 (PyTorch)

  一个使用 PyTorch 的 ResNet-50 图片分类模型，针对在 Cloud TPU Pod 上运行进行了优化。

大语言模型

• 使用 Pax 在单设备 TPU 上训练

  在单设备 Cloud TPU 上使用 Pax 训练 SPMD 模型的指南。

• 在 v5e 上进行 JetStream MaxText 推理

  关于如何设置和使用 JetStream 与 MaxText 进行推理的指南。

• 在 v5e 上进行 JetStream PyTorch 推理

  有关如何设置和使用 JetStream 与 PyTorch 进行推理的指南。

• 使用 vLLM 在 GKE 上使用 TPU 提供 LLM

  本指南介绍了如何使用 vLLM 在 Google Kubernetes Engine (GKE) 上使用张量处理单元 (TPU) 部署大语言模型 (LLM)。