Familia de máquinas con optimización de acelerador

La familia de máquinas optimizadas para aceleradores está diseñada por Google Cloud para ofrecer el rendimiento y la eficiencia necesarios para cargas de trabajo aceleradas por GPU como la inteligencia artificial (IA), el aprendizaje automático (AA) y la computación de alto rendimiento (HPC).

La familia de máquinas optimizadas para aceleradores está disponible en la siguiente serie de máquinas: A3, A2 y G2. Cada tipo de máquina de una serie tiene un modelo específico y una cantidad de GPU NVIDIA conectadas. También puedes conectar algunos modelos de GPU a los tipos de máquinas de uso general N1.

Recomendación de serie de máquinas por tipo de carga de trabajo

En la siguiente sección, se proporciona la serie de máquinas recomendada en función de las cargas de trabajo de GPU.

Modelos de IA grandes

Tipo de carga de trabajo	Uso adecuado	Buena alternativa
Entrenamiento de servidores múltiples (distribuidos)	A3	A2
Inferencia	A3, A2

Modelos generales

Tipo de carga de trabajo	Uso adecuado	Buena alternativa (en orden recomendado)
Entrenamiento de servidores múltiples (distribuidos)	A3	A2 G2 N1+V100
Entrenamiento de servidor único	A3, A2	G2 N1+V100
Inferencia	G2	N1+T4 N1+V100

Cargas de trabajo de alto contenido gráfico

Tipo de carga de trabajo	Uso adecuado (en orden recomendado)
Transcodificación y transmisión de video, estaciones de trabajo de visualización remota, gemelos digitales	G2 N1+T4

Computación de alto rendimiento

Para cargas de trabajo de computación de alto rendimiento, cualquier serie de máquinas optimizadas para aceleradores funciona bien. La mejor opción depende de la cantidad de procesamiento que se debe descargar en la GPU.

Precios y descuentos

Todos los tipos de máquinas optimizadas para aceleradores admiten las siguientes opciones de descuento y consumo:

Los tipos de máquinas optimizadas para aceleradores se facturan por las GPU conectadas, las CPU virtuales predefinidas, la memoria y las SSD locales agrupadas (si corresponde). Si deseas obtener más información sobre los precios de las VMs optimizadas para aceleradores, consulta la sección Familia de tipos de máquinas optimizadas para aceleradores en la página de precios de la instancia de VM.

La serie de máquinas A3

La serie de máquinas A3 está disponible en un tipo de máquina estándar y tiene 208 CPU virtuales y hasta 1,872 GB de memoria. Esta serie de máquinas está optimizada para cargas de trabajo que usan mucho procesamiento intensivo y memoria, que dependen del entrenamiento de AA y las cargas de trabajo de HPC.

La serie de máquinas A3 también tiene las siguientes características:

Hardware de nueva generación: Cada tipo de máquina A3 tiene GPU NVIDIA H100, que ofrecen 80 GB de memoria de GPU por GPU y es ideal para modelos de lenguaje grandes basados en transformadores, bases de datos y HPC.

Esta serie de máquinas se basa en el procesador escalable Intel Xeon de 4ª generación (Sapphire Rapids) y ofrece frecuencia turbo de núcleo máximo continuo de hasta 3.3 GHz.
Escalamiento de NVLink líder de la industria: Las GPU NVIDIA H100 proporcionan un ancho de banda de NVLink máximo de 450 GB/s, de forma unidireccional. Con la topología completa de NVLink entre 8 GPU en un sistema, el ancho de banda agregado de NVLink es de hasta 7.2 TB/s. Estas GPU se pueden usar como un único acelerador de alto rendimiento con espacio de memoria unificado para entregar hasta 25 petaFLOPS de capacidad de procesamiento de IA/DL/AA y hasta 50 petaFLOPS de capacidad de procesamiento de inferencia.
Velocidad de procesamiento y herramientas de redes mejoradas: Las GPU NVIDIA H100 ofrecen una mejora de hasta 2.5 veces en la velocidad de procesamiento y 10 veces más ancho de banda de máquina virtual (VM) en comparación con las GPU de NVIDIA A100 de la generación anterior.
Cada VM a3-highgpu-8g tiene cinco tarjetas de interfaz de red (NIC) físicas, cuatro de las cuales comparten el mismo bus de interconexión de componentes periféricos (PCIe) y tienen una alineación de acceso de memoria no uniforme (NUMA) de una NIC por dos GPU NVIDIA H100 de 80 GB. Estas cuatro NIC físicas son ideales para la comunicación dedicada de GPU de alto ancho de banda a GPU. La otra NIC física reside en un bus PCIe distinto y es ideal para otras necesidades de red. Cada NIC tiene un ancho de banda máximo de 200 Gbps, que equivale a un ancho de banda máximo de 1,000 Gbps (1 Tbps) por VM.
Rendimiento mejorado del clúster de GPU con GPUDirect-TCPX: GPUDirect-TCPX aumenta el rendimiento de la red, ya que permite que las cargas útiles del paquete de datos se transfieran directamente de la memoria de GPU a la interfaz de red.

Como aprovechan las GPU GPUDirect-TCPX, las VMs A3 ofrecen la mayor capacidad de procesamiento entre las VMs en un clúster frente a los tipos de máquinas optimizados para aceleradores A2 o G2.

Para maximizar el rendimiento del clúster de GPU con GPUDirect-TCPX, revisa los siguientes documentos:
- Para Compute Engine, consulta Maximiza el rendimiento de la red de GPU con GPUDirect-TCPX.
- Para Google Kubernetes Engine, consulta Maximiza el ancho de banda de red de la GPU con GPUDirect-TCPX y varias redes
Optimizaciones de virtualización: La topología de interconexión de componentes periféricos (PCIe) de las VMs A3 proporciona información de localidad más precisa que las cargas de trabajo pueden usar para optimizar las transferencias de datos.

Las GPU NVIDIA H100 también exponen el restablecimiento de nivel de función (FLR) para una recuperación ordenada de fallas y compatibilidad con operaciones atómicas para mejoras de simultaneidad en ciertas situaciones.
Almacenamiento: Se agregan de forma automática 6 TB de SSD local a las VMs creadas con el tipo de máquina A3. La SSD local puede usarse como disco rápido para instalación nueva o para ingresar datos a las GPU y evitar los cuellos de botella de E/S.

También puedes conectar hasta 257 TB de almacenamiento en discos persistentes a los tipos de máquinas de esta serie para aplicaciones que requieran mayor rendimiento de almacenamiento.
Compatibilidad de políticas de posición de compactación: te proporciona más control sobre la posición física de las VMs dentro de los centros de datos. Esto permite una latencia más baja y un ancho de banda mayor para la posición de la VM dentro de una zona de disponibilidad única. La política de posición de compactación admite hasta 96 VMs en un subconjunto de latencia más bajo de la red, dentro de una zona determinada.

Tipos de discos compatibles con A3

Las VMs A3 pueden usar los siguientes tipos de almacenamiento en bloque:

Disco persistente balanceado (pd-balanced)
Persistent Disk SSD (rendimiento) (pd-ssd)
Hiperdisco extremo (hyperdisk-extreme)
Hyperdisk Throughput (hyperdisk-throughput)
SSD local, que se agrega de forma automática a las VMs que se crean mediante el tipo de máquina A3

Límites de disco y capacidad

Puedes usar una combinación de volúmenes de Persistent Disk y de Hyperdisk con una VM, pero se aplican las siguientes restricciones:

La cantidad combinada de volúmenes de Hyperdisk y Persistent Disk no puede exceder los 128 por VM.
La capacidad total máxima del disco (en TiB) en todos los tipos de discos no puede exceder lo siguiente:
- Para tipos de máquinas con menos de 32 CPUs virtuales:
  - 257 TiB para todos los Hyperdisk o todos los Persistent Disk
  - 257 TiB para una mezcla de Hyperdisk y Persistent Disk
- Para tipos de máquinas con 32 CPUs virtuales o más:
  - 512 TiB para todos los Hyperdisk
  - 512 TiB para una mezcla de Hyperdisk y Persistent Disk
  - 257 TiB para todos los Persistent Disk

Para obtener detalles sobre los límites de capacidad, consulta Límites de capacidad de Hyperdisk por VM y Capacidad máxima de Persistent Disk.

Tipos de máquinas estándar A3

Este tipo de máquina tiene una cantidad fija de GPU H100.

Tipos de máquina	Recuento de GPU	CPU virtuales^*	Memoria (GB)	Cantidad máxima de discos por VM, en todos los discos^†	Volúmenes máximos totales de Hyperdisk por VM	Tamaño máximo total de disco en todos los discos (TB)^#	SSD local	Ancho de banda de salida máximo (Gbps)^‡
`a3-highgpu-8g`	8	208	1872	128	Hyperdisk Throughput: 64 Hyperdisk Extreme: 8	512, incluidos hasta 257 TiB de Persistent Disk	Sí	1000

^* Una CPU virtual se implementa como un solo hipersubproceso de hardware en una de las plataformas de CPU disponibles.
^†El uso de Hyperdisk y de Persistent Disk se cobra aparte del precio del tipo de máquina.
^‡El ancho de banda de salida máximo no puede ser superior al número especificado. El ancho de banda de salida real depende de la dirección IP de destino y de otros factores. Consulta Ancho de banda de red.
^#Para Hyperdisk Throughput, el tamaño máximo por volumen es de 32 TiB. Para todos los demás volúmenes de Persistent Disk o Hyperdisk, el tamaño máximo es de 64 TiB.

Limitaciones de A3 estándar

No recibirás descuentos por uso continuo ni descuentos por compromiso de uso flexibles para las VMs que usan tipos de máquinas A3 estándar.
Solo puedes usar los tipos de máquinas A3 estándar en ciertas regiones y zonas.
No puedes usar discos persistentes regionales en VMs que usan tipos de máquinas A3 estándar.
El tipo de máquina A3 estándar solo está disponible en la plataforma Sapphire Rapids.
Si tu VM usa un tipo de máquina A3 estándar, no puedes cambiar el tipo de máquina. Si necesitas usar otro tipo de máquina, debes crear una VM nueva.
No puedes cambiar ningún otro tipo de máquina a uno A3 estándar. Si necesitas crear una VM que use un tipo de máquina A3 estándar, debes crear una VM nueva.
Los tipos de máquinas A3 estándar no admiten usuarios únicos.
No puedes ejecutar tipos de máquinas A3 estándar en los sistemas operativos Windows.

La serie de máquinas A2

La serie de máquinas A2 está disponible en los tipos de máquinas A2 estándar y A2 ultra. Estos tipos de máquinas tienen entre 12 y 96 CPU virtuales, y hasta 1,360 GB de memoria.

La serie de máquinas A2 también proporciona las siguientes características:

GPU de NVIDIA conectadas: cada tipo de máquina A2 tiene GPU A100 de NVIDIA. Están disponibles en las opciones A100 de 40 GB y A100 de 80 GB.
Escala de NVLink líder de la industria, que proporciona una GPU máxima a un ancho de banda de NVLink de GPU de 600 GBps. Por ejemplo, los sistemas con 16 GPU tienen un ancho de banda global de NVLink de hasta 9.6 TBps. Estas 16 GPU se pueden usar como un único acelerador de alto rendimiento con espacio de memoria unificado para entregar hasta 10 petaFLOPS de potencia de procesamiento y hasta 20 petaFLOPS de potencia de inferencia que se pueden usar para cargas de trabajo de inteligencia artificial, aprendizaje automático y aprendizaje profundo.
Velocidad de procesamiento mejorada: las GPU NVIDIA A100 conectadas ofrecen hasta 10 veces más velocidad de procesamiento en comparación con las GPU NVIDIA V100 de generación anterior.

Con la serie de máquinas A2, puedes obtener hasta 100 Gbps de ancho de banda de red.
Almacenamiento: para discos rápidos para instalación nueva o para ingresar datos a las GPU y, a la vez, evitar los cuellos de botella de E/S, los tipos de máquinas A2 admiten una SSD local de la siguiente manera:
- Para los tipos de máquinas A2 estándar, puedes agregar hasta 3 TB de SSD local.
- En los tipos de máquina A2 ultra, la SSD local se conecta automáticamente cuando creas la VM.
También puedes conectar hasta 257 TB de almacenamiento en disco persistente a las VMs A2 para las aplicaciones que requieran este mayor rendimiento de almacenamiento.
Compatibilidad de políticas de posición de compactación: te proporciona más control sobre la posición física de las VMs dentro de los centros de datos. Esto permite una latencia más baja y un ancho de banda mayor para la posición de la VM dentro de una zona de disponibilidad única. Para obtener más información, consulta Reduce la latencia con las políticas de colocación compacta.

Tipos de discos compatibles para A2

Las VMs A2 pueden usar los siguientes tipos de almacenamiento en bloque:

Disco persistente balanceado (pd-balanced)
Persistent Disk SSD (rendimiento) (pd-ssd)
Disco persistente estándar (pd-standard)
SSD local: se conecta automáticamente a las VMs creadas con los tipos de máquinas A2 ultra.

Tipos de máquinas estándar A2

Estos tipos de máquinas tienen una cantidad fija de GPU A100 de 40 GB.

Tipos de máquina	Recuento de GPU	CPU virtuales^*	Memoria (GB)	Cantidad máxima de volúmenes de discos persistentes^†	Disco persistente máx. total (TB)	SSD local	Ancho de banda de salida máximo (Gbps)^‡
`a2-highgpu-1g`	1	12	85	128	257	Sí	24
`a2-highgpu-2g`	2	24	170	128	257	Sí	32
`a2-highgpu-4g`	4	48	340	128	257	Sí	50
`a2-highgpu-8g`	8	96	680	128	257	Sí	100
`a2-megagpu-16g`	16	96	1,360	128	257	Sí	100

Limitaciones de A2 estándar

No recibirás descuentos por uso continuo ni descuentos por compromiso de uso flexibles para las VMs que usan tipos de máquinas A2 estándar.
Solo puedes usar los tipos de máquinas A2 estándar en ciertas regiones y zonas.
No puedes usar discos persistentes regionales en VMs que usan tipos de máquinas A2 estándar.
Los tipos de máquinas A2 estándar solo están disponibles en la plataforma Cascade Lake.
Si tu VM usa un tipo de máquina estándar A2, solo puedes cambiar de un tipo de máquina estándar A2 a otro. No puedes cambiar a ningún otro tipo de máquina. Para obtener más información, consulta Modifica las VMs optimizadas para aceleradores.
No puedes usar el tipo de máquina A2 estándar a2-megagpu-16g en los sistemas operativos Windows. Cuando uses sistemas operativos Windows, elige un tipo de máquina A2 estándar diferente.
No puedes realizar un formateo rápido de las SSD locales conectados en las VMs de Windows que usan los tipos de máquinas A2 estándar. Para formatear estos SSD locales, debes realizar un formateo completo mediante el uso de la utilidad diskpart y la especificación de format fs=ntfs label=tmpfs.
Los tipos de máquinas estándar A2 no admiten usuarios únicos.

Tipos de máquinas ultra A2

Estos tipos de máquinas tienen una cantidad fija de GPU A100 de 80 GB. Las SSD locales se conectan automáticamente a las VMs creadas con los tipos de máquinas A2 ultra.

Tipos de máquina	Recuento de GPU	CPU virtuales^*	Memoria (GB)	Cantidad máxima de volúmenes de discos persistentes^†	Disco persistente máx. total (TB)	SSD local en paquetes	Ancho de banda de salida máximo (Gbps)^‡
`a2-ultragpu-1g`	1	12	170	128	257	375 GB	24
`a2-ultragpu-2g`	2	24	340	128	257	750 GB	32
`a2-ultragpu-4g`	4	48	680	128	257	1.5 TB	50
`a2-ultragpu-8g`	8	96	1,360	128	257	3 TB	100

Limitaciones de A2 ultra

No recibirás descuentos por uso continuo ni descuentos flexibles por compromiso de uso para las VMs que usan tipos de máquinas A2 ultra.
Solo puedes usar los tipos de máquinas A2 ultra en ciertas regiones y zonas.
No puedes usar discos persistentes regionales en VMs que usan tipos de máquinas A2 ultra.
Los tipos de máquinas A2 ultra solo están disponibles en la plataforma Cascade Lake.
Si tu VM usa un tipo de máquina A2 ultra, no puedes cambiar el tipo de máquina. Si necesitas usar un tipo de máquina A2 ultra diferente o cualquier otro tipo de máquinas, debes crear una VM nueva.
No puedes cambiar ningún otro tipo de máquina a uno A2 ultra. Si necesitas crear una VM que use un tipo de máquina A2 ultra, debes crear una VM nueva.
No puedes realizar un formateo rápido de las SSD locales conectados en las VMs de Windows que usan los tipos de máquinas A2 ultra. Para formatear estos SSD locales, debes realizar un formateo completo mediante el uso de la utilidad diskpart y la especificación de format fs=ntfs label=tmpfs.

La serie de máquinas G2

La serie de máquinas G2 está disponible en los tipos de máquinas estándar y tiene entre 4 y 96 CPU virtuales, y hasta 432 GB de memoria. Esta serie de máquinas está optimizada para cargas de trabajo de inferencia y gráficos.

La serie de máquinas G2 también proporciona las siguientes características:

GPU de NVIDIA conectadas: cada tipo de máquina G2 tiene GPU L4 de NVIDIA.
Tasas de inferencia mejoradas: los tipos de máquinas G2 proporcionan asistencia para el tipo de datos FP8 (punto flotante de 8 bits) que acelera las tasas de inferencia del AA y reduce los requisitos de memoria.
Rendimiento de gráficos de nueva generación: Las GPU L4 de NVIDIA brindan una mejora de hasta tres veces en el rendimiento de los gráficos con los núcleos RT de tercera generación y la tecnología NVIDIA DLSS 3 (supermuestreo de aprendizaje profundo).
Ancho de banda de red de alto rendimiento: con la serie de máquinas G2, puedes obtener hasta 100 Gbps de ancho de banda de red.
Almacenamiento: puedes agregar hasta 3 TB de SSD local a las VMs G2. Puede usarse como discos rápidos para instalación nueva o para ingresar datos a las GPU y evitar los cuellos de botella de E/S.

También puedes conectar volúmenes de Hyperdisk y Persistent Disk a las VMs de G2 para aplicaciones que requieran más almacenamiento persistente. La capacidad máxima de almacenamiento depende de la cantidad de CPU virtuales que tenga la VM. Para obtener más información, consulta los Tipos de discos compatibles.
Compatibilidad de políticas de posición de compactación: te proporciona más control sobre la posición física de las VMs dentro de los centros de datos. Esto permite una latencia más baja y un ancho de banda mayor para la posición de la VM dentro de una zona de disponibilidad única. Para obtener más información, consulta Reduce la latencia con las políticas de colocación compacta.

Tipos de discos compatibles con G2

Las VMs G2 pueden usar los siguientes tipos de almacenamiento en bloque:

Disco persistente balanceado (pd-balanced)
Persistent Disk SSD (rendimiento) (pd-ssd)
Hyperdisk Throughput (hyperdisk-throughput)
SSD local