La familia de máquinas optimizadas para aceleradores está diseñada por Google Cloud para ofrecer el rendimiento y la eficiencia necesarios para cargas de trabajo aceleradas por GPU, como la inteligencia artificial (IA), el aprendizaje automático (AA) y la computación de alto rendimiento (HPC).
La familia de máquinas optimizadas para aceleradores está disponible en la siguiente serie de máquinas: A3, A2 y G2. Cada tipo de máquina de una serie tiene un modelo específico y una cantidad de GPU NVIDIA conectadas. También puedes conectar algunos modelos de GPU a los tipos de máquinas de uso general N1.
Recomendación de serie de máquinas por tipo de carga de trabajo
En la siguiente sección, se proporciona la serie de máquinas recomendada en función de las cargas de trabajo de GPU.
Tipo de carga de trabajo | Tipo o serie de máquina recomendada |
---|---|
Modelos de entrenamiento previo | A3 Ultra, A3 Mega, A3 High, A2 Para identificar la mejor opción, consulta Recomendaciones para modelos de entrenamiento previo en la documentación de Hypercomputer de IA. |
Ajuste de modelos | A3 Mega, A3 High, A2 Para identificar la mejor opción, consulta Recomendaciones para ajustar modelos en la documentación de AI Hypercomputer. |
Inferencia de entrega | A3 Ultra, A3 Mega, A3 High, A2 Para identificar la mejor opción, consulta Recomendaciones para publicar inferencias en la documentación de Hypercomputer de IA. |
Cargas de trabajo de alto contenido gráfico | G2, N1+T4 |
Computación de alto rendimiento | Para cargas de trabajo de computación de alto rendimiento, cualquier serie de máquinas optimizadas para aceleradores funciona bien. La mejor opción depende de la cantidad de procesamiento que se debe descargar en la GPU. Para obtener más información, consulta Recomendaciones para HPC en la documentación de hipercomputadoras de IA. |
Precios y descuentos
Todos los tipos de máquinas optimizadas para aceleradores admiten las siguientes opciones de descuento y consumo:
- Descuentos por compromiso de uso basados en recursos (CUD)
- VMs Spot
- Reservas: Las reservas se pueden obtener con uno de los siguientes métodos:
- Directamente a través de la API de reservas
- Solicita capacidad con el clúster de Hypercompute. Hypercompute Cluster está disponible en versión beta y solo admite tipos de máquinas A3 Ultra. Este método aprovisiona bloques de capacidad asignada de forma densa que son ideales para ejecutar cargas de trabajo a gran escala.
Los tipos de máquinas optimizadas para aceleradores se facturan por las GPU conectadas, las CPU virtuales predefinidas, la memoria y las SSD locales agrupadas (si corresponde). Si deseas obtener más información sobre los precios de las VMs optimizadas para aceleradores, consulta la sección Familia de tipos de máquinas optimizadas para aceleradores en la página de precios de la instancia de VM.
La serie de máquinas A3
La serie de máquinas A3 tiene hasta 224 CPU virtuales y 2,944 GB de memoria. Esta serie de máquinas está optimizada para cargas de trabajo que usan mucho procesamiento intensivo y memoria, que dependen del entrenamiento de AA y las cargas de trabajo de HPC.
La serie de máquinas A3 también tiene las siguientes características:
Función | A3 Ultra | A3 Mega, High y Edge |
---|---|---|
GPU conectadas | GPUs NVIDIA H200 SXM, que ofrecen 141 GB de memoria de GPU por GPU y proporcionan una memoria más grande y rápida para admitir modelos de lenguaje grandes y cargas de trabajo de HPC. |
GPUs NVIDIA H100 SXM, que ofrecen 80 GB de memoria de GPU por GPU y es ideal para modelos de lenguaje grandes basados en transformadores, bases de datos y HPC. |
Plataforma de CPU | procesador escalable Intel Xeon de 5ª generación (Emerald Rapids) y ofrece una frecuencia turbo máxima de un solo núcleo de hasta 4.0 GHz. Para obtener más información sobre este procesador, consulta Plataforma de CPU. |
procesador escalable Intel Xeon de 4ª generación (Sapphire Rapids) y ofrece frecuencia turbo de núcleo máximo continuo de hasta 3.3 GHz. Para obtener más información sobre este procesador, consulta Plataforma de CPU. |
Escala de NVLink líder en la industria | Las GPU NVIDIA H200 proporcionan un ancho de banda de NVLink de GPU máximo de 900 GB/s, de forma unidireccional. Con la topología completa de NVLink entre 8 GPU en un sistema, el ancho de banda agregado de NVLink es de hasta 7.2 TB/s. |
Las GPU NVIDIA H100 proporcionan un ancho de banda de NVLink máximo de 450 GB/s, de forma unidireccional. Con la topología completa de NVLink entre 8 GPU en un sistema, el ancho de banda agregado de NVLink es de hasta 7.2 TB/s. |
Protocolos de red | En este tipo de máquina, RDMA sobre Ethernet convergente (RoCE) aumenta el rendimiento de la red combinando tarjetas de interfaz de red (NIC) NVIDIA ConnectX-7 con nuestra red alineada con rieles de cuatro vías en todo el centro de datos. Aprovechando RDMA sobre Ethernet convergente (RoCE),
el tipo de máquina a3-ultragpu-8g logra una capacidad de procesamiento mucho más alta
entre las VMs en un clúster en comparación con otros
tipos de máquinas A3 optimizados para aceleradores.
|
|
Velocidad de procesamiento y redes mejoradas | Ofrece hasta 4 veces más velocidad de red en comparación con la serie de máquinas A2 de la generación anterior. Para obtener más información sobre las redes, consulta Anchos de banda de red y GPUs. |
Ofrece hasta 2.5 veces más velocidad de red en comparación con la serie de máquinas A2 de la generación anterior. Para obtener más información sobre las redes, consulta Anchos de banda de red y GPUs. |
Optimizaciones de virtualización | La topología de interconexión de componentes periféricos (PCIe) de las VMs A3 proporciona información de localidad más precisa que las cargas de trabajo pueden usar para optimizar las transferencias de datos. Las GPUs también exponen el restablecimiento de nivel de función (FLR) para una recuperación ordenada de fallas y compatibilidad con operaciones atómicas para mejoras de simultaneidad en ciertas situaciones. |
|
Almacenamiento |
La SSD local puede usarse como disco rápido para instalación nueva o para ingresar datos a las GPUs y evitar los cuellos de botella de E/S. La SSD local se conecta de la siguiente manera:
También puedes conectar hasta 512 TiB de Persistent Disk y Hyperdisk a los tipos de máquinas de estas series para aplicaciones que requieran mayor rendimiento de almacenamiento. |
|
Compatibilidad con la política de posición compacta | Te proporciona más control sobre la ubicación física de las VMs dentro de los centros de datos. Esto permite una latencia más baja y un ancho de banda mayor para la posición de la VM dentro de una zona de disponibilidad única. Para obtener más información, consulta Acerca de las políticas de posición compacta. |
Los siguientes tipos de máquinas están disponibles para la serie de máquinas A3.
Tipo de máquina A3 Ultra
Tipo de máquina | Recuento de GPU | Memoria de GPU* (GB HBM3e) |
Recuento de CPU virtuales† | Memoria de VM (GB) | SSD local conectado (GiB) | Cantidad de NICs físicas | Ancho de banda de red máximo (Gbps)‡ |
---|---|---|---|---|---|---|---|
a3-ultragpu-8g |
8 | 1128 | 224 | 2,952 | 12,000 | 10 | 3,600 |
*La memoria de GPU es la memoria de un dispositivo GPU que se puede usar para el almacenamiento temporal de datos. Es independiente de la memoria de la VM y está diseñado de forma específica para manejar las demandas más altas de ancho de banda de tus cargas de trabajo de alto contenido gráfico.
†Una CPU virtual se implementa como un solo hipersubproceso de hardware en una de las plataformas de CPU disponibles.
‡El ancho de banda de salida máximo no puede ser superior al número especificado. El ancho de banda de salida real depende de la dirección IP de destino y de otros factores.
Consulta Ancho de banda de red.
Limitaciones de A3 Ultra
- No recibirás descuentos por uso continuo ni descuentos por compromiso de uso flexible para las VMs que usan un tipo de máquina A3 ultra.
- Solo puedes usar un tipo de máquina A3 Ultra en ciertas regiones y zonas.
- No puedes usar discos persistentes (regionales o zonales) en una VM que use el tipo de máquina A3 ultra.
- El tipo de máquina A3 Ultra solo está disponible en la plataforma de CPU Emerald Rapids.
- Si tu VM usa un tipo de máquina A3 ultra, no puedes cambiar el tipo de máquina. Si necesitas cambiar el tipo de máquina, debes crear una VM nueva.
- No puedes cambiar el tipo de máquina de una VM a uno A3 ultra. Si necesitas crear una VM que use un tipo de máquina A3 ultra, debes crear una VM nueva.
- Los tipos de máquinas A3 Ultra no admiten usuarios únicos.
- No puedes ejecutar sistemas operativos Windows en un tipo de máquina A3 Ultra.
- Solo puedes reservar capacidad con el clúster de Hypercompute.
Tipo de máquina Mega A3
Tipo de máquina | Recuento de GPU | Memoria de GPU* (GB HBM3) |
Recuento de CPU virtuales† | Memoria de VM (GB) | SSD local conectado (GiB) | Cantidad de NICs físicas | Ancho de banda de red máximo (Gbps)‡ |
---|---|---|---|---|---|---|---|
a3-megagpu-8g |
8 | 640 | 208 | 1,872 | 6,000 | 9 | 1,800 |
*La memoria de GPU es la memoria de un dispositivo GPU que se puede usar para el almacenamiento temporal de datos. Es independiente de la memoria de la VM y está diseñado de forma específica para manejar las demandas más altas de ancho de banda de tus cargas de trabajo de alto contenido gráfico.
†Una CPU virtual se implementa como un solo hipersubproceso de hardware en una de las plataformas de CPU disponibles.
‡El ancho de banda de salida máximo no puede ser superior al número especificado. El ancho de banda de salida real depende de la dirección IP de destino y de otros factores.
Consulta Ancho de banda de red.
Limitaciones de A3 Mega
- No recibirás descuentos por uso continuo ni descuentos por compromiso de uso flexible para las VMs que usan un tipo de máquina A3 Mega.
- Solo puedes usar un tipo de máquina A3 Mega en ciertas regiones y zonas.
- No puedes usar discos persistentes regionales en una VM que use el tipo de máquina A3 Mega.
- El tipo de máquina A3 Mega solo está disponible en la plataforma de CPU Sapphire Rapids.
- Si tu VM usa un tipo de máquina A3 Mega, no puedes cambiar el tipo de máquina. Si necesitas cambiar el tipo de máquina, debes crear una VM nueva.
- No puedes cambiar el tipo de máquina de una VM a uno A3 Mega. Si necesitas una VM que use un tipo de máquina A3 Mega, debes crear una VM nueva.
- Los tipos de máquinas Mega A3 no admiten usuarios únicos.
- No puedes ejecutar sistemas operativos Windows en un tipo de máquina A3 Mega.
Tipo de máquina A3 High
Tipo de máquina | Recuento de GPU | Memoria de GPU* (GB HBM3) |
Recuento de CPU virtuales† | Memoria de VM (GB) | SSD local conectado (GiB) | Cantidad de NICs físicas | Ancho de banda de red máximo (Gbps)‡ |
---|---|---|---|---|---|---|---|
a3-highgpu-1g |
1 | 80 | 26 | 234 | 750 | 1 | 25 |
a3-highgpu-2g |
2 | 160 | 52 | 468 | 1,500 | 1 | 50 |
a3-highgpu-4g |
4 | 320 | 104 | 936 | 3,000 | 1 | 100 |
a3-highgpu-8g |
8 | 640 | 208 | 1,872 | 6,000 | 5 | 1,000 |
*La memoria de GPU es la memoria de un dispositivo GPU que se puede usar para el almacenamiento temporal de datos. Es independiente de la memoria de la VM y está diseñado de forma específica para manejar las demandas más altas de ancho de banda de tus cargas de trabajo de alto contenido gráfico.
†Una CPU virtual se implementa como un solo hipersubproceso de hardware en una de las plataformas de CPU disponibles.
‡El ancho de banda de salida máximo no puede ser superior al número especificado. El ancho de banda de salida real depende de la dirección IP de destino y de otros factores.
Consulta Ancho de banda de red.
Limitaciones de A3 alto
- No recibirás descuentos por uso continuo ni descuentos por compromiso de uso flexible para las VMs que usan un tipo de máquina A3 High.
- Solo puedes usar un tipo de máquina A3 High en ciertas regiones y zonas.
- No puedes usar discos persistentes regionales en una VM que usa el tipo de máquina A3 alto.
- El tipo de máquina A3 alto solo está disponible en la plataforma de CPU Sapphire Rapids.
- Si tu VM usa un tipo de máquina A3 alto, no puedes cambiar el tipo de máquina. Si necesitas cambiar el tipo de máquina, debes crear una VM nueva.
- No puedes cambiar el tipo de máquina de una VM a uno A3 alto. Si necesitas una VM que use un tipo de máquina A3 High, debes crear una VM nueva.
- Los tipos de máquinas A3 High no admiten usuarios únicos.
- No puedes ejecutar sistemas operativos Windows en un tipo de máquina A3 High.
- Para los tipos de máquinas
a3-highgpu-1g
,a3-highgpu-2g
ya3-highgpu-4g
, se aplican las siguientes limitaciones:-
Para estos tipos de máquinas, debes usar VMs Spot o una función que use el programador de cargas de trabajo dinámico (DWS), como las solicitudes de cambio de tamaño en un MIG. Para obtener instrucciones detalladas sobre cualquiera de estas opciones, consulta lo siguiente:
- Para crear VMs Spot, consulta Crea una VM optimizada para aceleradores y recuerda configurar el modelo de aprovisionamiento en
SPOT
. - Para crear una solicitud de cambio de tamaño en un MIG, que usa el programador de cargas de trabajo dinámico, consulta Crea un MIG con VMs de GPU.
- Para crear VMs Spot, consulta Crea una VM optimizada para aceleradores y recuerda configurar el modelo de aprovisionamiento en
- No puedes usar Hyperdisk Balanced con estos tipos de máquinas.
- No puedes crear reservas.
-
Para estos tipos de máquinas, debes usar VMs Spot o una función que use el programador de cargas de trabajo dinámico (DWS), como las solicitudes de cambio de tamaño en un MIG. Para obtener instrucciones detalladas sobre cualquiera de estas opciones, consulta lo siguiente:
Tipo de máquina A3 Edge
Tipo de máquina | Recuento de GPU | Memoria de GPU* (GB HBM3) |
Recuento de CPU virtuales† | Memoria de VM (GB) | SSD local conectado (GiB) | Cantidad de NICs físicas | Ancho de banda de red máximo (Gbps)‡ |
---|---|---|---|---|---|---|---|
a3-edgegpu-8g |
8 | 640 | 208 | 1,872 | 6,000 | 5 |
|
*La memoria de GPU es la memoria de un dispositivo GPU que se puede usar para el almacenamiento temporal de datos. Es independiente de la memoria de la VM y está diseñado de forma específica para manejar las demandas más altas de ancho de banda de tus cargas de trabajo de alto contenido gráfico.
†Una CPU virtual se implementa como un solo hipersubproceso de hardware en una de las plataformas de CPU disponibles.
‡El ancho de banda de salida máximo no puede ser superior al número especificado. El ancho de banda de salida real depende de la dirección IP de destino y de otros factores.
Consulta Ancho de banda de red.
Limitaciones de A3 Edge
- No recibirás descuentos por uso continuo ni descuentos por compromiso de uso flexible para las VMs que usan un tipo de máquina A3 Edge.
- Solo puedes usar un tipo de máquina A3 Edge en ciertas regiones y zonas.
- No puedes usar discos persistentes regionales en una VM que use el tipo de máquina A3 Edge.
- El tipo de máquina A3 Edge solo está disponible en la plataforma de CPU Sapphire Rapids.
- Si tu VM usa un tipo de máquina A3 Edge, no puedes cambiar el tipo de máquina. Si necesitas cambiar el tipo de máquina, debes crear una VM nueva.
- No puedes cambiar el tipo de máquina de una VM a uno A3 Edge. Si necesitas una VM que use un tipo de máquina A3 Edge, debes crear una VM nueva.
- Los tipos de máquinas A3 Edge no admiten usuarios únicos.
- No puedes ejecutar sistemas operativos Windows en un tipo de máquina A3 Edge.
Tipos de discos compatibles con la serie A3
Las VMs A3 Ultra pueden usar los siguientes tipos de almacenamiento en bloque:
- Hiperdisco balanceado (
hyperdisk-balanced
): Este es el único tipo de disco que se admite para el disco de arranque. - Hiperdisco extremo (
hyperdisk-extreme
) - SSD local, que se agrega de forma automática a las VMs que se crean con cualquiera de los tipos de máquinas A3
Cantidad máxima de discos por VM* | ||||||
---|---|---|---|---|---|---|
Tipos de máquinas |
Todos los discos† | Hiperdisco balanceado | Capacidad de procesamiento del hiperdisco | Hyperdisk ML | Hiperdisco extremo | Discos SSD locales conectados |
a3-ultragpu-8g |
128 | 128 | N/A | N/A | 8 | 32 |
*El uso de Hyperdisk se cobra aparte del precio del tipo de máquina. Para obtener información sobre los precios de los discos, consulta Precios de Hyperdisk.
†Este límite se aplica a Hyperdisk, pero no incluye los discos SSD locales.
Las VMs A3 Mega pueden usar los siguientes tipos de almacenamiento en bloque:
- Disco persistente balanceado (
pd-balanced
) - Persistent Disk SSD (rendimiento) (
pd-ssd
) - Hyperdisk Balanced (
hyperdisk-balanced
) - Hyperdisk ML (
hyperdisk-ml
) - Hiperdisco extremo (
hyperdisk-extreme
) - Hyperdisk Throughput (
hyperdisk-throughput
) - SSD local, que se agrega de forma automática a las VMs que se crean con cualquiera de los tipos de máquinas A3
Cantidad máxima de discos por VM* | ||||||
---|---|---|---|---|---|---|
Tipos de máquinas |
Todos los discos† | Hiperdisco balanceado | Capacidad de procesamiento del hiperdisco | Hyperdisk ML | Hiperdisco extremo | Discos SSD locales conectados |
a3-megagpu-8g |
128 | 32 | 64 | 64 | 8 | 16 |
* El uso del Hyperdisk y el Persistent Disk se cobra independientemente del precio del tipo de máquina. Para conocer los precios de los discos, consulta Precios de discos persistentes y Hyperdisk.
†Este límite se aplica a Persistent Disk y a Hyperdisk, pero no incluye los discos SSD locales.
Las VMs A3 High pueden usar los siguientes tipos de almacenamiento en bloque:
- Disco persistente balanceado (
pd-balanced
) - Persistent Disk SSD (rendimiento) (
pd-ssd
) - Hyperdisk Balanced (
hyperdisk-balanced
): Solo es compatible cona3-highgpu-8g
. - Hyperdisk ML (
hyperdisk-ml
) - Hiperdisco extremo (
hyperdisk-extreme
) - Hyperdisk Throughput (
hyperdisk-throughput
) - SSD local, que se agrega de forma automática a las VMs que se crean con cualquiera de los tipos de máquinas A3
Cantidad máxima de discos por VM* | ||||||
---|---|---|---|---|---|---|
Tipos de máquinas |
Todos los discos† | Hiperdisco balanceado | Capacidad de procesamiento del hiperdisco | Hyperdisk ML | Hiperdisco extremo | Discos SSD locales conectados |
a3-highgpu-1g |
128 | N/A | 64 | 64 | N/A | 2 |
a3-highgpu-2g |
128 | N/A | 64 | 64 | N/A | 4 |
a3-highgpu-4g |
128 | N/A | 64 | 64 | 8 | 8 |
a3-highgpu-8g |
128 | 32 | 64 | 64 | 8 | 16 |
* El uso del Hyperdisk y el Persistent Disk se cobra independientemente del precio del tipo de máquina. Para conocer los precios de los discos, consulta Precios de discos persistentes y Hyperdisk.
†Este límite se aplica a Persistent Disk y a Hyperdisk, pero no incluye los discos SSD locales.
Las VMs A3 Edge pueden usar los siguientes tipos de almacenamiento en bloque:
- Disco persistente balanceado (
pd-balanced
) - Persistent Disk SSD (rendimiento) (
pd-ssd
) - Hyperdisk Balanced (
hyperdisk-balanced
) - Hyperdisk ML (
hyperdisk-ml
) - Hiperdisco extremo (
hyperdisk-extreme
) - Hyperdisk Throughput (
hyperdisk-throughput
) - SSD local, que se agrega de forma automática a las VMs que se crean con cualquiera de los tipos de máquinas A3
Cantidad máxima de discos por VM* | ||||||
---|---|---|---|---|---|---|
Tipos de máquina | Todos los discos† | Hiperdisco balanceado | Capacidad de procesamiento del hiperdisco | Hyperdisk ML | Hyperdisk extremo | SSD local conectado |
a3-edgegpu-8g |
128 | 32 | 64 | 64 | 8 | 16 |
* El uso del Hyperdisk y el Persistent Disk se cobra independientemente del precio del tipo de máquina. Para conocer los precios de los discos, consulta Precios de discos persistentes y Hyperdisk.
†Este límite se aplica a Persistent Disk y a Hyperdisk, pero no incluye los discos SSD locales.
Límites de disco y capacidad
Si el tipo de máquina es compatible, puedes usar una combinación de volúmenes de Hyperdisk y Persistent Disk en una VM, pero se aplican las siguientes restricciones:
- La cantidad combinada de volúmenes de Hyperdisk y Persistent Disk no puede exceder los 128 por VM.
La capacidad total máxima del disco (en TiB) en todos los tipos de discos no puede exceder lo siguiente:
Para tipos de máquinas con menos de 32 CPUs virtuales:
- 257 TiB para todos los Hyperdisk o todos los Persistent Disk
- 257 TiB para una mezcla de Hyperdisk y Persistent Disk
Para tipos de máquinas con 32 CPUs virtuales o más:
- 512 TiB para todos los Hyperdisk
- 512 TiB para una mezcla de Hyperdisk y Persistent Disk
- 257 TiB para todos los Persistent Disk
Para obtener detalles sobre los límites de capacidad, consulta Límites de capacidad de Hyperdisk por VM y Capacidad máxima de Persistent Disk.
La serie de máquinas A2
La serie de máquinas A2 está disponible en los tipos de máquinas A2 estándar y A2 ultra. Estos tipos de máquinas tienen entre 12 y 96 CPU virtuales, y hasta 1,360 GB de memoria.
La serie de máquinas A2 también proporciona las siguientes características:
GPU de NVIDIA conectadas: cada tipo de máquina A2 tiene GPU A100 de NVIDIA. Están disponibles en las opciones A100 de 40 GB y A100 de 80 GB.
Escala de NVLink líder de la industria, que proporciona una GPU máxima a un ancho de banda de NVLink de GPU de 600 GBps. Por ejemplo, los sistemas con 16 GPU tienen un ancho de banda global de NVLink de hasta 9.6 TBps. Estas 16 GPU se pueden usar como un único acelerador de alto rendimiento con espacio de memoria unificado para entregar hasta 10 petaFLOPS de potencia de procesamiento y hasta 20 petaFLOPS de potencia de inferencia que se pueden usar para cargas de trabajo de inteligencia artificial, aprendizaje automático y aprendizaje profundo.
Velocidad de procesamiento mejorada: las GPU NVIDIA A100 conectadas ofrecen hasta 10 veces más velocidad de procesamiento en comparación con las GPU NVIDIA V100 de generación anterior.
Con la serie de máquinas A2, puedes obtener hasta 100 Gbps de ancho de banda de red.
Almacenamiento: para discos rápidos para instalación nueva o para ingresar datos a las GPU y, a la vez, evitar los cuellos de botella de E/S, los tipos de máquinas A2 admiten una SSD local de la siguiente manera:
- Para los tipos de máquinas A2 estándar, puedes agregar hasta 3,000 GiB de SSD local.
- En los tipos de máquina A2 ultra, la SSD local se conecta automáticamente cuando creas la VM.
También puedes conectar hasta 257 TB de almacenamiento en disco persistente a las VMs A2 para las aplicaciones que requieran este mayor rendimiento de almacenamiento.
Compatibilidad de políticas de posición compacta: te proporciona más control sobre la posición física de las VMs dentro de los centros de datos. Esto permite una latencia más baja y un ancho de banda mayor para la posición de la VM dentro de una zona de disponibilidad única. Para obtener más información, consulta Reduce la latencia con las políticas de colocación compacta.
Tipos de máquinas Ultra A2
Estos tipos de máquinas tienen una cantidad fija de GPU A100 de 80 GB. Las SSD locales se conectan automáticamente a las VMs creadas con los tipos de máquinas A2 ultra.
Tipo de máquina | Recuento de GPU | Memoria de GPU* (GB HBM3) |
Recuento de CPU virtuales† | Memoria de VM (GB) | SSD local conectado (GiB) | Ancho de banda de red máximo (Gbps)‡ |
---|---|---|---|---|---|---|
a2-ultragpu-1g |
1 | 80 | 12 | 170 | 375 | 24 |
a2-ultragpu-2g |
2 | 160 | 24 | 340 | 750 | 32 |
a2-ultragpu-4g |
4 | 320 | 48 | 680 | 1,500 | 50 |
a2-ultragpu-8g |
8 | 640 | 96 | 1,360 | 3,000 | 100 |
*La memoria de GPU es la memoria de un dispositivo GPU que se puede usar para el almacenamiento temporal de datos. Es independiente de la memoria de la VM y está diseñado de forma específica para manejar las demandas más altas de ancho de banda de tus cargas de trabajo de alto contenido gráfico.
†Una CPU virtual se implementa como un solo hipersubproceso de hardware en una de las plataformas de CPU disponibles.
‡El ancho de banda de salida máximo no puede ser superior al número especificado. El ancho de banda de salida real depende de la dirección IP de destino y de otros factores.
Consulta Ancho de banda de red.
Limitaciones de A2 ultra
- No recibirás descuentos por uso continuo ni descuentos por compromiso de uso flexible para las VMs que usan tipos de máquinas A2 ultra.
- Solo puedes usar los tipos de máquinas A2 ultra en ciertas regiones y zonas.
- Los tipos de máquinas A2 ultra solo están disponibles en la plataforma Cascade Lake.
- Si tu VM usa un tipo de máquina A2 ultra, no puedes cambiar el tipo de máquina. Si necesitas usar un tipo de máquina A2 ultra diferente o cualquier otro tipo de máquinas, debes crear una VM nueva.
- No puedes cambiar ningún otro tipo de máquina a uno A2 ultra. Si necesitas crear una VM que use un tipo de máquina A2 ultra, debes crear una VM nueva.
- No puedes realizar un formateo rápido de las SSD locales conectados en las VMs de Windows que usan los tipos de máquinas A2 ultra. Para formatear estos SSD locales, debes realizar un formateo completo mediante el uso de la utilidad diskpart y la especificación de
format fs=ntfs label=tmpfs
.
Tipos de máquinas estándar A2
Estos tipos de máquinas tienen una cantidad fija de GPU A100 de 40 GB.
Tipo de máquina | Recuento de GPU | Memoria de GPU* (GB HBM3) |
Recuento de CPU virtuales† | Memoria de VM (GB) | SSD local conectado (GiB) | Ancho de banda de red máximo (Gbps)‡ |
---|---|---|---|---|---|---|
a2-highgpu-1g |
1 | 40 | 12 | 85 | Sí | 24 |
a2-highgpu-2g |
2 | 80 | 24 | 170 | Sí | 32 |
a2-highgpu-4g |
4 | 160 | 48 | 340 | Sí | 50 |
a2-highgpu-8g |
8 | 320 | 96 | 680 | Sí | 100 |
a2-megagpu-16g |
16 | 640 | 96 | 1,360 | Sí | 100 |
*La memoria de GPU es la memoria de un dispositivo GPU que se puede usar para el almacenamiento temporal de datos. Es independiente de la memoria de la VM y está diseñado de forma específica para manejar las demandas más altas de ancho de banda de tus cargas de trabajo de alto contenido gráfico.
†Una CPU virtual se implementa como un solo hipersubproceso de hardware en una de las plataformas de CPU disponibles.
‡El ancho de banda de salida máximo no puede ser superior al número especificado. El ancho de banda de salida real depende de la dirección IP de destino y de otros factores.
Consulta Ancho de banda de red.
Limitaciones de A2 Standard
- No recibirás descuentos por uso continuo ni descuentos por compromiso de uso flexible para las VMs que usan tipos de máquinas A2 estándar.
- Solo puedes usar los tipos de máquinas A2 estándar en ciertas regiones y zonas.
- Los tipos de máquinas A2 estándar solo están disponibles en la plataforma Cascade Lake.
- Si tu VM usa un tipo de máquina estándar A2, solo puedes cambiar de un tipo de máquina estándar A2 a otro. No puedes cambiar a ningún otro tipo de máquina. Para obtener más información, consulta Modifica las VMs optimizadas para aceleradores.
- No puedes usar el sistema operativo Windows con <codea2-megagpu-16g< código="" dir="ltr" translate="no"> los tipos de máquinas estándar A2. Cuando uses los sistemas operativos Windows, elige otro tipo de máquina A2 estándar.</codea2-megagpu-16g<>
- No puedes realizar un formateo rápido de los SSD locales conectados en las VMs de Windows que usan los tipos de máquinas A2 estándar. Para formatear estos SSD locales, debes realizar un formateo completo mediante el uso de la utilidad diskpart y la especificación de
format fs=ntfs label=tmpfs
. - Los tipos de máquinas A2 estándar no admiten usuarios únicos.
Tipos de discos compatibles con la serie A2
Las VMs A2 pueden usar los siguientes tipos de almacenamiento en bloque:
- Hyperdisk ML (
hyperdisk-ml
) - Disco persistente balanceado (
pd-balanced
) - Persistent Disk SSD (rendimiento) (
pd-ssd
) - Disco persistente estándar (
pd-standard
) - SSD local: se conecta automáticamente a las VMs creadas con los tipos de máquinas A2 ultra.
Si el tipo de máquina es compatible, puedes usar una combinación de volúmenes de Hyperdisk y Persistent Disk en una VM, pero se aplican las siguientes restricciones:
- La cantidad combinada de volúmenes de Hyperdisk y Persistent Disk no puede exceder los 128 por VM.
La capacidad total máxima del disco (en TiB) en todos los tipos de discos no puede exceder lo siguiente:
Para tipos de máquinas con menos de 32 CPUs virtuales:
- 257 TiB para todos los Hyperdisk o todos los Persistent Disk
- 257 TiB para una mezcla de Hyperdisk y Persistent Disk
Para tipos de máquinas con 32 CPUs virtuales o más:
- 512 TiB para todos los Hyperdisk
- 512 TiB para una mezcla de Hyperdisk y Persistent Disk
- 257 TiB para todos los Persistent Disk
Para obtener detalles sobre los límites de capacidad, consulta Límites de capacidad de Hyperdisk por VM y Capacidad máxima de Persistent Disk.
La serie de máquinas G2
La serie de máquinas G2 está disponible en los tipos de máquinas estándar y tiene entre 4 y 96 CPU virtuales, y hasta 432 GB de memoria. Esta serie de máquinas está optimizada para cargas de trabajo de inferencia y gráficos.
La serie de máquinas G2 también proporciona las siguientes características:
GPU de NVIDIA conectadas: cada tipo de máquina G2 tiene GPU L4 de NVIDIA.
Tasas de inferencia mejoradas: los tipos de máquinas G2 proporcionan asistencia para el tipo de datos FP8 (punto flotante de 8 bits) que acelera las tasas de inferencia del AA y reduce los requisitos de memoria.
Rendimiento de gráficos de nueva generación: Las GPU L4 de NVIDIA brindan una mejora de hasta tres veces en el rendimiento de los gráficos con los núcleos RT de tercera generación y la tecnología NVIDIA DLSS 3 (supermuestreo de aprendizaje profundo).
Ancho de banda de red de alto rendimiento: con la serie de máquinas G2, puedes obtener hasta 100 Gbps de ancho de banda de red.
Almacenamiento: Puedes agregar hasta 3,000 GiB de SSD local a las VMs G2. Puede usarse como discos rápidos para instalación nueva o para ingresar datos a las GPU y evitar los cuellos de botella de E/S.
También puedes conectar volúmenes de Hyperdisk y Persistent Disk a las VMs de G2 para aplicaciones que requieran más almacenamiento persistente. La capacidad máxima de almacenamiento depende de la cantidad de CPU virtuales que tenga la VM. Para obtener más información, consulta los Tipos de discos compatibles.
Compatibilidad de políticas de posición compacta: te proporciona más control sobre la posición física de las VMs dentro de los centros de datos. Esto permite una latencia más baja y un ancho de banda mayor para la posición de la VM dentro de una zona de disponibilidad única. Para obtener más información, consulta Reduce la latencia con las políticas de colocación compacta.
Tipos de máquinas G2
Cada tipo de máquina G2 tiene una cantidad fija de GPU NVIDIA L4 y CPU virtuales conectadas. Cada tipo de máquina G2 también tiene una memoria predeterminada y un rango de memoria personalizado. El rango de memoria personalizado define la cantidad de memoria que puedes asignar a tu VM para cada tipo de máquina. Puedes especificar la memoria personalizada durante la creación de la VM.
Tipo de máquina | Recuento de GPU | Memoria de GPU* (GB GDDR6) | Recuento de CPU virtuales† | Memoria de VM predeterminada (GB) | Rango de memoria de VM personalizado (GB) | Máximo de SSD local admitido (GiB) | Ancho de banda de red máximo (Gbps)‡ |
---|---|---|---|---|---|---|---|
g2-standard-4 |
1 | 24 | 4 | 16 | De 16 a 32 | 375 | 10 |
g2-standard-8 |
1 | 24 | 8 | 32 | De 32 a 54 | 375 | 16 |
g2-standard-12 |
1 | 24 | 12 | 48 | De 48 a 54 | 375 | 16 |
g2-standard-16 |
1 | 24 | 16 | 64 | De 54 a 64 | 375 | 32 |
g2-standard-24 |
2 | 48 | 24 | 96 | De 96 a 108 | 750 | 32 |
g2-standard-32 |
1 | 24 | 32 | 128 | De 96 a 128 | 375 | 32 |
g2-standard-48 |
4 | 96 | 48 | 192 | De 192 a 216 | 1,500 | 50 |
g2-standard-96 |
8 | 192 | 96 | 384 | De 384 a 432 | 3,000 | 100 |
*La memoria de GPU es la memoria de un dispositivo GPU que se puede usar para el almacenamiento temporal de datos. Es independiente de la memoria de la VM y está diseñado de forma específica para manejar las demandas más altas de ancho de banda de tus cargas de trabajo de alto contenido gráfico.
†Una CPU virtual se implementa como un solo hipersubproceso de hardware en una de las plataformas de CPU disponibles.
‡El ancho de banda de salida máximo no puede ser superior al número especificado. El ancho de banda de salida real depende de la dirección IP de destino y de otros factores.
Consulta Ancho de banda de red.
Limitaciones de G2
- No recibirás descuentos por uso continuo ni descuentos por compromiso de uso flexible para las VMs que usan tipos de máquinas G2.
- Solo puedes usar los tipos de máquinas G2 en ciertas regiones y zonas.
- Los tipos de máquinas G2 solo están disponibles en la plataforma Cascade Lake.
- Los discos persistentes estándar (
pd-standard
) no son compatibles con las VMs que usan tipos de máquinas G2 estándar. Para conocer los tipos de discos compatibles, consulta Tipos de discos compatibles con G2. - No puedes crear GPU de instancias múltiples en los tipos de máquinas G2.
- Si necesitas cambiar el tipo de máquina de una VM G2, revisa Modifica las VMs optimizadas para aceleradores.
- No puedes usar imágenes de Deep Learning VM Image como discos de arranque para las VMs que usan tipos de máquinas G2.
- El controlador predeterminado actual para Container-Optimized OS no es compatible con las GPU L4 que se ejecutan en los tipos de máquinas G2. Container-Optimized OS solo admite un conjunto selecto de controladores.
Si deseas usar Container-Optimized OS en tipos de máquinas G2, revisa las siguientes notas:
- Usa una versión de Container-Optimized OS que sea compatible con la versión mínima recomendada del controlador NVIDIA
525.60.13
o posterior. Para obtener más información, revisa las notas de la versión de Container-Optimized OS. - Cuando instalas el controlador, especifica la versión más reciente disponible que funcione para las GPU L4.
Un ejemplo es
sudo cos-extensions install gpu -- -version=525.60.13
.
- Usa una versión de Container-Optimized OS que sea compatible con la versión mínima recomendada del controlador NVIDIA
- Debes usar Google Cloud CLI o REST para crear VMs de G2 en las siguientes situaciones:
- Deseas especificar valores de memoria personalizados.
- Deseas personalizar la cantidad de núcleos de CPU visibles.
Tipos de discos compatibles con la serie G2
Las VMs G2 pueden usar los siguientes tipos de almacenamiento en bloque:
- Disco persistente balanceado (
pd-balanced
) - Persistent Disk SSD (rendimiento) (
pd-ssd
) - Hyperdisk ML (
hyperdisk-ml
) - Hyperdisk Throughput (
hyperdisk-throughput
) - SSD local
Si el tipo de máquina es compatible, puedes usar una combinación de volúmenes de Hyperdisk y Persistent Disk en una VM, pero se aplican las siguientes restricciones:
- La cantidad combinada de volúmenes de Hyperdisk y Persistent Disk no puede exceder los 128 por VM.
La capacidad total máxima del disco (en TiB) en todos los tipos de discos no puede exceder lo siguiente:
Para tipos de máquinas con menos de 32 CPUs virtuales:
- 257 TiB para todos los Hyperdisk o todos los Persistent Disk
- 257 TiB para una mezcla de Hyperdisk y Persistent Disk
Para tipos de máquinas con 32 CPUs virtuales o más:
- 512 TiB para todos los Hyperdisk
- 512 TiB para una mezcla de Hyperdisk y Persistent Disk
- 257 TiB para todos los Persistent Disk
Para obtener detalles sobre los límites de capacidad, consulta Límites de capacidad de Hyperdisk por VM y Capacidad máxima de Persistent Disk.