Compatibilidad de Dataflow con GPUs

En esta página se proporciona información general sobre cómo funcionan las GPUs con Dataflow, incluidos los requisitos previos y los tipos de GPU admitidos.

Usar GPUs en tareas de Dataflow te permite agilizar algunas tareas de procesamiento de datos. Las GPUs pueden realizar determinados cálculos más rápido que las CPUs. Estos cálculos suelen ser numéricos o de álgebra lineal, y se utilizan a menudo en casos prácticos de procesamiento de imágenes y aprendizaje automático. El grado de mejora del rendimiento varía en función del caso práctico, el tipo de cálculo y la cantidad de datos procesados.

Requisitos previos para usar GPUs en Dataflow

Precios

Las tareas que usan GPUs generan cargos según lo especificado en la página de precios de Dataflow.

Disponibilidad

Dataflow admite los siguientes tipos de GPU:

Tipo de GPU Cadena de worker_accelerator
NVIDIA® L4 nvidia-l4
NVIDIA® A100 40 GB nvidia-tesla-a100
NVIDIA® A100 80 GB nvidia-a100-80gb
NVIDIA® Tesla® T4 nvidia-tesla-t4
NVIDIA® Tesla® P4 nvidia-tesla-p4
NVIDIA® Tesla® V100 nvidia-tesla-v100
NVIDIA® Tesla® P100 nvidia-tesla-p100
NVIDIA® H100 nvidia-h100-80gb
NVIDIA® H100 Mega nvidia-h100-mega-80gb

Para obtener más información sobre cada tipo de GPU, incluidos los datos de rendimiento, consulta Plataformas de GPU de Compute Engine.

Para obtener información sobre las regiones y zonas en las que están disponibles las GPUs, consulta el artículo Disponibilidad de regiones y zonas de GPUs en la documentación de Compute Engine.

Cargas de trabajo recomendadas

En la siguiente tabla se ofrecen recomendaciones sobre el tipo de GPU que se debe usar para diferentes cargas de trabajo. Los ejemplos de la tabla son solo sugerencias y debes hacer pruebas en tu propio entorno para determinar el tipo de GPU adecuado para tu carga de trabajo.

Para obtener información más detallada sobre el tamaño de la memoria de la GPU, la disponibilidad de las funciones y los tipos de cargas de trabajo ideales para los distintos modelos de GPU, consulta la tabla comparativa general de la página de plataformas de GPU.

Carga de trabajo A100, H100 L4 T4
Ajuste fino del modelo Recomendado
Inferencia de modelos grandes Recomendado Recomendado
Inferencia de modelos medianos Recomendado Recomendado
Inferencia de modelos pequeños Recomendado Recomendado

Siguientes pasos