Crea y ejecuta un trabajo que use volúmenes de almacenamiento

En este documento, se explica cómo crear y ejecutar un trabajo por lotes que usa uno o más volúmenes de almacenamiento externo. Las opciones de almacenamiento externo incluyen disco persistente nuevos o existentes, SSD locales nuevos, buckets de Cloud Storage existentes y un sistema de archivos de red (NFS) existente, como archivos compartidos de Filestore.

Sin importar si agregas volúmenes de almacenamiento externo, cada VM de Compute Engine de un trabajo tiene un disco de arranque, que proporciona almacenamiento para la imagen del sistema operativo (SO) y las instrucciones del trabajo. Si deseas obtener información sobre cómo configurar el disco de arranque para un trabajo, consulta la Descripción general del entorno del SO de la VM.

Antes de comenzar

Crea un trabajo que use volúmenes de almacenamiento

De manera opcional, un trabajo puede usar uno o más de los siguientes tipos de volúmenes de almacenamiento externo. Si deseas obtener más información sobre todos los tipos de volúmenes de almacenamiento y las diferencias y restricciones de cada uno, consulta la documentación sobre las opciones de almacenamiento de la VM de Compute Engine.

Puedes permitir que un trabajo use cada volumen de almacenamiento si lo incluyes en la definición del trabajo y especificas su ruta de activación (mountPath) en tus ejecutables. Para obtener información sobre cómo crear un trabajo que use volúmenes de almacenamiento, consulta una o más de las siguientes secciones:

Usa un disco persistente

Un trabajo que usa discos persistentes tiene las siguientes restricciones:

  • Todos los discos persistentes: Revisa las restricciones para todos los discos persistentes.

  • Discos persistentes nuevos frente a existentes: Cada disco persistente en un trabajo puede ser nuevo (definido y creado con el trabajo) o existente (ya creado en tu proyecto y especificado en el trabajo). Para usar un disco persistente, es necesario formatearlo y activarlo en las VM del trabajo, que deben estar en la misma ubicación que el disco persistente. Batch activa cualquier disco persistente que incluyas en un trabajo y formatea cualquier disco persistente nuevo, pero debes formatear y desactivar cualquier disco persistente existente que quieras que use un trabajo.

    Las opciones de ubicación, las opciones de formato y las opciones de activación admitidas varían entre los discos persistentes nuevos y existentes, como se describe en la siguiente tabla:

    Discos persistentes nuevos Discos persistentes existentes
    Opciones de formato

    El disco persistente se formatea automáticamente con un sistema de archivos ext4.

    Debes formatear el disco persistente a fin de usar un sistema de archivos ext4 antes de usarlo para un trabajo.

    Opciones de activación

    Se admiten todas las opciones.

    Se admiten todas las opciones, excepto la escritura. Esto se debe a las restricciones del modo multiescritura.

    Debes desconectar el disco persistente de cualquier VM a la que esté conectado antes de usarlo para un trabajo.
    Opciones de ubicación

    Solo puedes crear discos persistentes zonales.

    Puedes seleccionar cualquier ubicación para tu trabajo. Los discos persistentes se crean en la zona en la que se ejecuta tu proyecto.

    Puedes seleccionar discos persistentes zonales y regionales.


    Debes configurar la ubicación del trabajo (o, si se especifica, solo las ubicaciones permitidas del trabajo) en solo las ubicaciones que contengan todos los discos persistentes del trabajo. Por ejemplo, en el caso de un disco persistente zonal, la ubicación del trabajo debe ser la zona del disco. En el caso de un disco persistente regional, la ubicación del trabajo debe ser la región del disco o, si se especifican zonas, una o ambas de las zonas específicas donde se encuentra el disco persistente regional.

  • Plantillas de instancias: si deseas usar una plantilla de instancias de VM mientras creas este trabajo, debes conectar los disco persistente para este trabajo en la plantilla de instancias. De lo contrario, si no quieres usar una plantilla de instancias, debes conectar cualquier disco persistente directamente en la definición del trabajo.

Puedes crear un trabajo que use un disco persistente con la consola de Google Cloud, gcloud CLI, la API de Batch, Go, Java, Node.js, Python o C++.

Console

Con la consola de Google Cloud, en el siguiente ejemplo, se crea un trabajo que ejecuta una secuencia de comandos para leer un archivo de un disco persistente zonal existente ubicado en la zona us-central1-a. En la secuencia de comandos de ejemplo, se supone que el trabajo tiene un disco persistente zonal existente que contiene un archivo de texto llamado example.txt en el directorio raíz.

Crea un disco persistente zonal de ejemplo (opcional)

Si deseas crear un disco persistente zonal que puedas usar para ejecutar la secuencia de comandos de ejemplo, haz lo siguiente antes de crear tu trabajo:

  1. Conecta una nueva instancia persistente en blanco con el nombre example-disk a una VM de Linux en la zona us-central1-a y, luego, ejecuta comandos en la VM para formatear y activar el disco. Para obtener instrucciones, consulta Agrega un disco persistente a tu VM.

    Aún no te desconectes de la VM.

  2. Para crear example.txt en el disco persistente, ejecuta los siguientes comandos en la VM:

    1. Para cambiar el directorio de trabajo actual al directorio raíz del disco persistente, escribe el siguiente comando:

      cd VM_MOUNT_PATH

      Reemplaza VM_MOUNT_PATH por la ruta de acceso al directorio donde se activó el disco persistente en esta VM en el paso anterior, por ejemplo, /mnt/disks/example-disk.

    2. Presiona Enter.

    3. Para crear y definir un archivo llamado example.txt, escribe el siguiente comando:

      cat > example.txt

    4. Presiona Enter.

    5. Escribe el contenido del archivo. Por ejemplo, escribe Hello world!.

    6. Para guardar el archivo, presiona Ctrl+D (o Command+D en macOS).

    Cuando hayas terminado, podrás desconectarte de la VM.

  3. Desconectarás el disco persistente de la VM.

    • Si ya no necesitas la VM, puedes borrarla, lo que desconecta el disco persistente de forma automática.

    • De lo contrario, desconecta el disco persistente. Para obtener instrucciones, consulta Desconecta y vuelve a conectar discos de arranque y desconecta el disco persistente example-disk en lugar del disco de arranque de la VM.

Crea un trabajo que use el disco persistente zonal existente

Para crear un trabajo que use discos persistentes zonales existentes con la consola de Google Cloud, haz lo siguiente:

  1. En la consola de Google Cloud, ve a la página Lista de trabajos.

    Ir a Lista de trabajos

  2. Haz clic en Crear. Se abrirá la página Crear trabajo por lotes. En el panel izquierdo, está seleccionada la página Detalles del trabajo.

  3. Configura la página Detalles del trabajo:

    1. Opcional: En el campo Nombre del trabajo, personaliza el nombre del trabajo.

      Por ejemplo, ingresa example-disk-job.

    2. Configura la sección Detalles de la tarea:

      1. En la ventana Nuevo ejecutable, agrega al menos una secuencia de comandos o un contenedor para que se ejecute este trabajo.

        Por ejemplo, para ejecutar una secuencia de comandos que imprima el contenido de un archivo llamado example.txt y ubicado en el directorio raíz del disco persistente que usa este trabajo, haz lo siguiente:

        1. Selecciona la casilla de verificación Script (Secuencia de comandos). Aparecerá un cuadro de texto.

        2. En el cuadro de texto, ingresa la siguiente secuencia de comandos:

          echo "Here is the content of the example.txt file in the persistent disk."
cat MOUNT_PATH/example.txt

          Reemplaza MOUNT_PATH por la ruta en la que planeas activar el disco persistente en las VM para este trabajo, por ejemplo, /mnt/disks/example-disk.

        3. Haz clic en Listo.

      2. En el campo Cantidad de tareas, ingresa la cantidad de tareas para este trabajo.

        Por ejemplo, ingresa 1 (valor predeterminado).

      3. En el campo Paralelismo, ingresa la cantidad de tareas que se ejecutarán de forma simultánea.

        Por ejemplo, ingresa 1 (valor predeterminado).

  4. Configura la página Especificaciones de recursos:

    1. En el panel izquierdo, haz clic en Especificaciones de recursos. Se abrirá la página Especificaciones de recursos.

    2. Selecciona la ubicación de este trabajo. Para usar un disco persistente zonal existente, las VM de un trabajo deben estar ubicadas en la misma zona.

      1. En el campo Región, selecciona una región.

        Por ejemplo, para usar el disco persistente zonal de ejemplo, selecciona us-central1 (Iowa) (predeterminado).

      2. En el campo Zona, selecciona una zona.

        Por ejemplo, selecciona us-central1-a (Iowa).

  5. Configura la página Configuraciones adicionales:

    1. En el panel izquierdo, haz clic en Configuración adicional. Se abrirá la página Configuraciones adicionales.

    2. Para cada disco persistente zonal existente que quieras activar en este trabajo, haz lo siguiente:

      1. En la sección Volumen de almacenamiento, haz clic en Agregar volumen nuevo. Aparecerá la ventana Volumen nuevo.

      2. En la ventana Volumen nuevo, haz lo siguiente:

        1. En la sección Tipo de volumen, selecciona Disco persistente (predeterminado).

        2. En la lista Disco, selecciona un disco persistente zonal existente que quieras activar en este trabajo. El disco debe estar ubicado en la misma zona que este trabajo.

          Por ejemplo, selecciona el disco persistente zonal existente que preparaste, que se encuentra en la zona us-central1-a y contiene el archivo example.txt.

        3. Si quieres cambiar el nombre de este disco persistente zonal, haz lo siguiente (opcional):

          1. Selecciona Personalizar el nombre del dispositivo.

          2. En el campo Nombre del dispositivo, ingresa el nombre nuevo del disco.

        4. En el campo Ruta de activación, ingresa la ruta de activación (MOUNT_PATH) de este disco persistente:

          Por ejemplo, ingresa lo siguiente:

          /mnt/disks/EXISTING_PERSISTENT_DISK_NAME

          Reemplaza EXISTING_PERSISTENT_DISK_NAME por el nombre del disco. Si cambiaste el nombre del disco persistente zonal, usa el nombre nuevo.

          Por ejemplo, reemplaza EXISTING_PERSISTENT_DISK_NAME por example-disk.

        5. Haz clic en Listo.

  6. Opcional: Configura los otros campos para este trabajo.

  7. Opcional: Para revisar la configuración del trabajo, en el panel izquierdo, haz clic en Vista previa.

  8. Haz clic en Crear.

En la página Detalles del trabajo, se muestra el trabajo que creaste.

gcloud

En el siguiente ejemplo, con gcloud CLI, se crea un trabajo que conecta y activa un disco persistente existente y uno nuevo. El trabajo tiene 3 tareas, cada una de las cuales ejecuta una secuencia de comandos para crear un archivo en el disco persistente nuevo llamado output_task_TASK_INDEX.txt, en el que TASK_INDEX es el índice de cada tarea: 0, 1 y 2.

Para crear un trabajo que use discos persistentes con gcloud CLI, usa el comando gcloud batch jobs submit. En el archivo de configuración JSON del trabajo, especifica los discos persistentes en el campo instances y actívalos en el campo volumes.

  1. Crea un archivo JSON.

    • Si no usas una plantilla de instancias para este trabajo, crea un archivo JSON con el siguiente contenido:

      {
    "allocationPolicy": {
        "instances": [
            {
                "policy": {
                    "disks": [
                        {
                            "deviceName": "EXISTING_PERSISTENT_DISK_NAME",
                            "existingDisk": "projects/PROJECT_ID/EXISTING_PERSISTENT_DISK_LOCATION/disks/EXISTING_PERSISTENT_DISK_NAME"
                        },
                        {
                            "newDisk": {
                                "sizeGb": NEW_PERSISTENT_DISK_SIZE,
                                "type": "NEW_PERSISTENT_DISK_TYPE"
                            },
                            "deviceName": "NEW_PERSISTENT_DISK_NAME"
                        }
                    ]
                }
            }
        ],
        "location": {
            "allowedLocations": [
                "EXISTING_PERSISTENT_DISK_LOCATION"
            ]
        }
    },
    "taskGroups": [
        {
            "taskSpec": {
                "runnables": [
                    {
                        "script": {
                            "text": "echo Hello world from task ${BATCH_TASK_INDEX}. >> /mnt/disks/NEW_PERSISTENT_DISK_NAME/output_task_${BATCH_TASK_INDEX}.txt"
                        }
                    }
                ],
                "volumes": [
                    {
                        "deviceName": "NEW_PERSISTENT_DISK_NAME",
                        "mountPath": "/mnt/disks/NEW_PERSISTENT_DISK_NAME",
                        "mountOptions": "rw,async"
                    },
                    {

                        "deviceName": "EXISTING_PERSISTENT_DISK_NAME",
                        "mountPath": "/mnt/disks/EXISTING_PERSISTENT_DISK_NAME"
                    }
                ]
            },
            "taskCount":3
        }
    ],
    "logsPolicy": {
        "destination": "CLOUD_LOGGING"
    }
}

      Reemplaza lo siguiente:

      • PROJECT_ID: Es el ID del proyecto.
      • EXISTING_PERSISTENT_DISK_NAME: Es el nombre de un disco persistente existente.
      • EXISTING_PERSISTENT_DISK_LOCATION: Es la ubicación de un disco persistente existente. Para cada disco persistente zonal existente, la ubicación del trabajo debe ser la zona del disco; para cada disco persistente regional existente, la ubicación del trabajo debe ser la región del disco o, si se especifican zonas, una o ambas zonas específicas donde se encuentra el disco persistente regional. Si no especificas ningún disco persistente existente, puedes seleccionar cualquier ubicación. Obtén más información sobre el campo allowedLocations.
      • NEW_PERSISTENT_DISK_SIZE: Es el tamaño del disco persistente nuevo en GB. Los tamaños permitidos dependen del tipo de disco persistente, pero el mínimo suele ser de 10 GB (10) y el máximo suele ser de 64 TB (64000).
      • NEW_PERSISTENT_DISK_TYPE: Es el tipo de disco del disco persistente nuevo, ya sea pd-standard, pd-balanced, pd-ssd o pd-extreme. El tipo de disco predeterminado para los discos persistentes que no son de arranque es pd-standard.
      • NEW_PERSISTENT_DISK_NAME: Es el nombre del disco persistente nuevo.

    • Si usas una plantilla de instancias de VM para este trabajo, crea un archivo JSON como se mostró antes, pero reemplaza el campo instances por lo siguiente:

      "instances": [
    {
        "instanceTemplate": "INSTANCE_TEMPLATE_NAME"
    }
],

      En el ejemplo anterior, INSTANCE_TEMPLATE_NAME es el nombre de la plantilla de instancias para este trabajo. Para un trabajo que usa discos persistentes, esta plantilla de instancias debe definir y conectar los discos persistentes que deseas que use el trabajo. Para este ejemplo, la plantilla debe definir y conectar un disco persistente nuevo llamado NEW_PERSISTENT_DISK_NAME y conectar un disco persistente existente llamado EXISTING_PERSISTENT_DISK_NAME.

  2. Ejecuta el siguiente comando:

    gcloud batch jobs submit JOB_NAME \
  --location LOCATION \
  --config JSON_CONFIGURATION_FILE

    Reemplaza lo siguiente:

    • JOB_NAME: Es el nombre del trabajo.

    • LOCATION: Es la ubicación del trabajo.

    • JSON_CONFIGURATION_FILE: Es la ruta de acceso de un archivo JSON con los detalles de configuración del trabajo.

API

Con la API de Batch, en el siguiente ejemplo, se crea un trabajo que conecta y activa un disco persistente existente y un disco persistente nuevo. El trabajo tiene 3 tareas, cada una de las cuales ejecuta una secuencia de comandos para crear un archivo en el disco persistente nuevo llamado output_task_TASK_INDEX.txt, en el que TASK_INDEX es el índice de cada tarea: 0, 1 y 2.

Para crear un trabajo que use discos persistentes con la API de Batch, usa el método jobs.create. En la solicitud, especifica los discos persistentes en el campo instances y actívalos en el campo volumes.

  • Si no usas una plantilla de instancias para este trabajo, realiza la siguiente solicitud:

    POST https://batch.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/jobs?job_id=JOB_NAME

{
    "allocationPolicy": {
        "instances": [
            {
                "policy": {
                    "disks": [
                        {
                            "deviceName": "EXISTING_PERSISTENT_DISK_NAME",
                            "existingDisk": "projects/PROJECT_ID/EXISTING_PERSISTENT_DISK_LOCATION/disks/EXISTING_PERSISTENT_DISK_NAME"
                        },
                        {
                            "newDisk": {
                                "sizeGb": NEW_PERSISTENT_DISK_SIZE,
                                "type": "NEW_PERSISTENT_DISK_TYPE"
                            },
                            "deviceName": "NEW_PERSISTENT_DISK_NAME"
                        }
                    ]
                }
            }
        ],
        "location": {
            "allowedLocations": [
                "EXISTING_PERSISTENT_DISK_LOCATION"
            ]
        }
    },
    "taskGroups": [
        {
            "taskSpec": {
                "runnables": [
                    {
                        "script": {
                            "text": "echo Hello world from task ${BATCH_TASK_INDEX}. >> /mnt/disks/NEW_PERSISTENT_DISK_NAME/output_task_${BATCH_TASK_INDEX}.txt"
                        }
                    }
                ],
                "volumes": [
                    {
                        "deviceName": "NEW_PERSISTENT_DISK_NAME",
                        "mountPath": "/mnt/disks/NEW_PERSISTENT_DISK_NAME",
                        "mountOptions": "rw,async"
                    },
                    {

                        "deviceName": "EXISTING_PERSISTENT_DISK_NAME",
                        "mountPath": "/mnt/disks/EXISTING_PERSISTENT_DISK_NAME"
                    }
                ]
            },
            "taskCount":3
        }
    ],
    "logsPolicy": {
        "destination": "CLOUD_LOGGING"
    }
}

    Reemplaza lo siguiente:

    • PROJECT_ID: Es el ID del proyecto.
    • LOCATION: Es la ubicación del trabajo.
    • JOB_NAME: Es el nombre del trabajo.
    • EXISTING_PERSISTENT_DISK_NAME: Es el nombre de un disco persistente existente.
    • EXISTING_PERSISTENT_DISK_LOCATION: Es la ubicación de un disco persistente existente. Para cada disco persistente zonal existente, la ubicación del trabajo debe ser la zona del disco; para cada disco persistente regional existente, la ubicación del trabajo debe ser la región del disco o, si se especifican zonas, una o ambas de las zonas específicas donde se encuentra el disco persistente regional. Si no especificas ningún disco persistente existente, puedes seleccionar cualquier ubicación. Obtén más información sobre el campo allowedLocations.
    • NEW_PERSISTENT_DISK_SIZE: Es el tamaño del disco persistente nuevo en GB. Los tamaños permitidos dependen del tipo de disco persistente, pero el mínimo suele ser de 10 GB (10) y el máximo suele ser de 64 TB (64000).
    • NEW_PERSISTENT_DISK_TYPE: Es el tipo de disco del disco persistente nuevo, ya sea pd-standard, pd-balanced, pd-ssd o pd-extreme. El tipo de disco predeterminado para los discos persistentes que no son de arranque es pd-standard.
    • NEW_PERSISTENT_DISK_NAME: Es el nombre del disco persistente nuevo.

  • Si usas una plantilla de instancias de VM para este trabajo, crea un archivo JSON como se mostró antes, pero reemplaza el campo instances por lo siguiente:

    "instances": [
    {
        "instanceTemplate": "INSTANCE_TEMPLATE_NAME"
    }
],
...

    En el ejemplo anterior, INSTANCE_TEMPLATE_NAME es el nombre de la plantilla de instancias para este trabajo. Para un trabajo que usa discos persistentes, esta plantilla de instancias debe definir y conectar los discos persistentes que deseas que use el trabajo. Para este ejemplo, la plantilla debe definir y conectar un disco persistente nuevo llamado NEW_PERSISTENT_DISK_NAME y conectar un disco persistente existente llamado EXISTING_PERSISTENT_DISK_NAME.

Go

Para crear un trabajo de Batch que use discos persistentes nuevos o existentes con las bibliotecas cliente de Cloud para Go, usa la función CreateJob y agrega lo siguiente:

Para obtener una muestra de código de un caso de uso similar, consulta Usa un bucket de Cloud Storage.

Java

Para crear un trabajo de Batch que use discos persistentes nuevos o existentes con las bibliotecas cliente de Cloud para Java, usa la clase CreateJobRequest y agrega lo siguiente:

  • Si quieres conectar discos persistentes a las VMs para un trabajo, incluye una de las siguientes opciones:
  • Para activar los discos persistentes en el trabajo, usa la clase Volume con los métodos setDeviceName y setMountPath. En los discos persistentes nuevos, también usa el método setMountOptions para habilitar la escritura.

Para obtener una muestra de código de un caso de uso similar, consulta Usa un bucket de Cloud Storage.

Node.js

Si quieres crear un trabajo por lotes que use discos persistentes nuevos o existentes con las bibliotecas cliente de Cloud para Node.js, usa el método createJob y agrega lo siguiente:

Para obtener una muestra de código de un caso de uso similar, consulta Usa un bucket de Cloud Storage.

Python

Para crear un trabajo de Batch que use discos persistentes nuevos o existentes con las bibliotecas cliente de Cloud para Python, usa la función CreateJob y agrega la siguiente información:

  • Si quieres conectar discos persistentes a las VMs para un trabajo, incluye una de las siguientes opciones:
  • Para activar los discos persistentes en el trabajo, usa la clase Volume con los atributos device_name y mount_path. En los discos persistentes nuevos, también usa el atributo mount_options para habilitar la escritura.

Para obtener una muestra de código de un caso de uso similar, consulta Usa un bucket de Cloud Storage.

C++

Si quieres crear un trabajo por lotes que use discos persistentes nuevos o existentes con las bibliotecas cliente de Cloud para C++, usa la función CreateJob y agrega la siguiente información:

  • Si quieres conectar discos persistentes a las VMs para un trabajo, incluye una de las siguientes opciones:
    • Si no usas una plantilla de instancias de VM para este trabajo, usa el método set_remote_path.
    • Si usas una plantilla de instancias de VM para este trabajo, usa el método set_instance_template.
  • Para activar los discos persistentes en el trabajo, usa el campo volumes con los campos deviceName y mountPath. En los discos persistentes nuevos, también usa el campo mountOptions para habilitar la escritura.

Para obtener una muestra de código de un caso de uso similar, consulta Usa un bucket de Cloud Storage.

Usa una SSD local

Un trabajo que usa SSD locales tiene las siguientes restricciones:

Puedes crear un trabajo que use un SSD local con gcloud CLI o la API de Batch. En el siguiente ejemplo, se describe cómo crear un trabajo que cree, conecte y active un SSD local. El trabajo también tiene 3 tareas, cada una de las cuales ejecuta una secuencia de comandos para crear un archivo en el SSD local llamado output_task_TASK_INDEX.txt, en el que TASK_INDEX es el índice de cada tarea: 0, 1 y 2.

gcloud

Para crear un trabajo que use SSD locales con la gcloud CLI, usa el comando gcloud batch jobs submit. En el archivo de configuración JSON del trabajo, crea y adjunta los SSD locales en el campo instances y actívalos en el campo volumes.

  1. Crea un archivo JSON.

    • Si no usas una plantilla de instancias para este trabajo, crea un archivo JSON con el siguiente contenido:

      {
    "allocationPolicy": {
        "instances": [
            {
                "policy": {
                    "machineType": MACHINE_TYPE,
                    "disks": [
                        {
                            "newDisk": {
                                "sizeGb": LOCAL_SSD_SIZE,
                                "type": "local-ssd"
                            },
                            "deviceName": "LOCAL_SSD_NAME"
                        }
                    ]
                }
            }
        ]
    },
    "taskGroups": [
        {
            "taskSpec": {
                "runnables": [
                    {
                        "script": {
                            "text": "echo Hello world from task ${BATCH_TASK_INDEX}. >> /mnt/disks/LOCAL_SSD_NAME/output_task_${BATCH_TASK_INDEX}.txt"
                        }
                    }
                ],
                "volumes": [
                    {
                        "deviceName": "LOCAL_SSD_NAME",
                        "mountPath": "/mnt/disks/LOCAL_SSD_NAME",
                        "mountOptions": "rw,async"
                    }
                ]
            },
            "taskCount":3
        }
    ],
    "logsPolicy": {
        "destination": "CLOUD_LOGGING"
    }
}

      Reemplaza lo siguiente:

      • MACHINE_TYPE: Es el tipo de máquina, que puede ser predefinido o personalizado, de las VM del trabajo. La cantidad permitida de SSD locales depende del tipo de máquina de las VM de tu trabajo.
      • LOCAL_SSD_NAME: Es el nombre de un SSD local creado para este trabajo.
      • LOCAL_SSD_SIZE: Es el tamaño de todos los SSD locales en GB. Cada SSD local es de 375 GB, por lo que este valor debe ser un múltiplo de 375 GB. Por ejemplo, para 2 SSD locales, establece este valor en 750 GB.

    • Si usas una plantilla de instancias de VM para este trabajo, crea un archivo JSON como se mostró antes, pero reemplaza el campo instances por lo siguiente:

      "instances": [
    {
        "instanceTemplate": "INSTANCE_TEMPLATE_NAME"
    }
],

      En el ejemplo anterior, INSTANCE_TEMPLATE_NAME es el nombre de la plantilla de instancias para este trabajo. Para un trabajo que usa SSD locales, esta plantilla de instancias debe definir y conectar los SSD locales que deseas que use el trabajo. Para este ejemplo, la plantilla debe definir y conectar un SSD local llamado LOCAL_SSD_NAME.

  2. Ejecuta el siguiente comando:

    gcloud batch jobs submit JOB_NAME \
  --location LOCATION \
  --config JSON_CONFIGURATION_FILE

    Reemplaza lo siguiente:

    • JOB_NAME: Es el nombre del trabajo.
    • LOCATION: Es la ubicación del trabajo.
    • JSON_CONFIGURATION_FILE: Es la ruta de acceso de un archivo JSON con los detalles de configuración del trabajo.

API

Para crear un trabajo que use SSD locales con la API de Batch, usa el método jobs.create. En la solicitud, crea y conecta los SSD locales en el campo instances y actívalos en el campo volumes.

  • Si no usas una plantilla de instancias para este trabajo, realiza la siguiente solicitud:

    POST https://batch.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/jobs?job_id=JOB_NAME

{
    "allocationPolicy": {
        "instances": [
            {
                "policy": {
                    "machineType": MACHINE_TYPE,
                    "disks": [
                        {
                            "newDisk": {
                                "sizeGb": LOCAL_SSD_SIZE,
                                "type": "local-ssd"
                            },
                            "deviceName": "LOCAL_SSD_NAME"
                        }
                    ]
                }
            }
        ]
    },
    "taskGroups": [
        {
            "taskSpec": {
                "runnables": [
                    {
                        "script": {
                            "text": "echo Hello world from task ${BATCH_TASK_INDEX}. >> /mnt/disks/LOCAL_SSD_NAME/output_task_${BATCH_TASK_INDEX}.txt"
                        }
                    }
                ],
                "volumes": [
                    {
                        "deviceName": "LOCAL_SSD_NAME",
                        "mountPath": "/mnt/disks/LOCAL_SSD_NAME",
                        "mountOptions": "rw,async"
                    }
                ]
            },
            "taskCount":3
        }
    ],
    "logsPolicy": {
        "destination": "CLOUD_LOGGING"
    }
}

    Reemplaza lo siguiente:

    • PROJECT_ID: Es el ID del proyecto.
    • LOCATION: Es la ubicación del trabajo.
    • JOB_NAME: Es el nombre del trabajo.
    • MACHINE_TYPE: Es el tipo de máquina, que puede ser predefinido o personalizado, de las VM del trabajo. La cantidad permitida de SSD locales depende del tipo de máquina de las VM de tu trabajo.
    • LOCAL_SSD_NAME: Es el nombre de un SSD local creado para este trabajo.
    • LOCAL_SSD_SIZE: Es el tamaño de todos los SSD locales en GB. Cada SSD local es de 375 GB, por lo que este valor debe ser un múltiplo de 375 GB. Por ejemplo, para 2 SSD locales, establece este valor en 750 GB.

  • Si usas una plantilla de instancias de VM para este trabajo, crea un archivo JSON como se mostró antes, pero reemplaza el campo instances por lo siguiente:

    "instances": [
    {
        "instanceTemplate": "INSTANCE_TEMPLATE_NAME"
    }
],
...

    En el ejemplo anterior, INSTANCE_TEMPLATE_NAME es el nombre de la plantilla de instancias para este trabajo. Para un trabajo que usa SSD locales, esta plantilla de instancias debe definir y conectar los SSD locales que deseas que use el trabajo. Para este ejemplo, la plantilla debe definir y conectar un SSD local llamado LOCAL_SSD_NAME.

Usa un bucket de Cloud Storage

Para crear un trabajo que use un bucket de Cloud Storage existente, selecciona uno de los siguientes métodos:

  • Recomendado: Activa un bucket directamente en las VMs de tu trabajo especificando el bucket en la definición del trabajo, como se muestra en esta sección. Cuando se ejecuta el trabajo, el bucket se activa de forma automática en las VM del trabajo con Cloud Storage FUSE.
  • Crea un trabajo con tareas que accedan directamente a un bucket de Cloud Storage mediante la herramienta de línea de comandos de gsutil o las bibliotecas cliente para la API de Cloud Storage. Si deseas obtener información sobre cómo acceder a un bucket de Cloud Storage directamente desde una VM, consulta la documentación de Compute Engine sobre Cómo escribir y leer datos de buckets de Cloud Storage.

Antes de crear un trabajo que use un bucket, crea un bucket o identifica un bucket existente. Para obtener más información, consulta Crea buckets y Crea listas de buckets.

Puedes crear un trabajo que use un bucket de Cloud Storage con la consola de Google Cloud, gcloud CLI, la API de Batch, Go, Java, Node.js, Python o C++.

En el siguiente ejemplo, se describe cómo crear un trabajo que activa un bucket de Cloud Storage. El trabajo también tiene 3 tareas. Cada una ejecuta una secuencia de comandos para crear un archivo en el bucket llamado output_task_TASK_INDEX.txt, en el que TASK_INDEX es el índice de cada tarea: 0, 1 y 2.

Console

Para crear un trabajo que use un bucket de Cloud Storage mediante la consola de Google Cloud, haz lo siguiente:

  1. En la consola de Google Cloud, ve a la página Lista de trabajos.

    Ir a Lista de trabajos

  2. Haz clic en Crear. Se abrirá la página Crear trabajo por lotes. En el panel izquierdo, está seleccionada la página Detalles del trabajo.

  3. Configura la página Detalles del trabajo:

    1. Opcional: En el campo Nombre del trabajo, personaliza el nombre del trabajo.

      Por ejemplo, ingresa example-bucket-job.

    2. Configura la sección Detalles de la tarea:

      1. En la ventana Nuevo ejecutable, agrega al menos una secuencia de comandos o un contenedor para que se ejecute este trabajo.

        Por ejemplo, haz lo siguiente:

        1. Selecciona la casilla de verificación Script (Secuencia de comandos). Aparecerá un cuadro de texto.

        2. En el cuadro de texto, ingresa la siguiente secuencia de comandos:

          echo Hello world from task ${BATCH_TASK_INDEX}. >> MOUNT_PATH/output_task_${BATCH_TASK_INDEX}.txt

          Reemplaza MOUNT_PATH por la ruta de acceso de activación que usan los ejecutables de este trabajo para acceder a un bucket de Cloud Storage existente. La ruta de acceso debe comenzar con /mnt/disks/ seguida de un directorio o una ruta de acceso que elijas. Por ejemplo, si deseas representar este bucket con un directorio llamado my-bucket, establece la ruta de activación como /mnt/disks/my-bucket.

        3. Haz clic en Listo.

      2. En el campo Cantidad de tareas, ingresa la cantidad de tareas para este trabajo.

        Por ejemplo, ingresa 3.

      3. En el campo Paralelismo, ingresa la cantidad de tareas que se ejecutarán de forma simultánea.

        Por ejemplo, ingresa 1 (valor predeterminado).

  4. Configura la página Configuraciones adicionales:

    1. En el panel izquierdo, haz clic en Configuración adicional. Se abrirá la página Configuraciones adicionales.

    2. Para cada bucket de Cloud Storage que quieras activar en este trabajo, haz lo siguiente:

      1. En la sección Volumen de almacenamiento, haz clic en Agregar volumen nuevo. Aparecerá la ventana Volumen nuevo.

      2. En la ventana Volumen nuevo, haz lo siguiente:

        1. En la sección Tipo de volumen, selecciona Bucket de Cloud Storage.

        2. En el campo Nombre del bucket de almacenamiento, ingresa el nombre de un bucket existente.

          Por ejemplo, ingresa el bucket que especificaste en el ejecutable de este trabajo.

        3. En el campo Ruta de activación, ingresa la ruta de activación del bucket (MOUNT_PATH), que especificaste en el ejecutable.

        4. Haz clic en Listo.

  5. Opcional: Configura los otros campos para este trabajo.

  6. Opcional: Para revisar la configuración del trabajo, en el panel izquierdo, haz clic en Vista previa.

  7. Haz clic en Crear.

En la página Detalles del trabajo, se muestra el trabajo que creaste.

gcloud

Para crear un trabajo que use un bucket de Cloud Storage con la gcloud CLI, usa el comando gcloud batch jobs submit. En el archivo de configuración JSON del trabajo, activa el bucket en el campo volumes.

Por ejemplo, para crear un trabajo que genere archivos en Cloud Storage, sigue estos pasos:

  1. Crea un archivo JSON con el siguiente contenido:

    {
    "taskGroups": [
        {
            "taskSpec": {
                "runnables": [
                    {
                        "script": {
                            "text": "echo Hello world from task ${BATCH_TASK_INDEX}. >> MOUNT_PATH/output_task_${BATCH_TASK_INDEX}.txt"
                        }
                    }
                ],
                "volumes": [
                    {
                        "gcs": {
                            "remotePath": "BUCKET_PATH"
                        },
                        "mountPath": "MOUNT_PATH"
                    }
                ]
            },
            "taskCount": 3
        }
    ],
    "logsPolicy": {
        "destination": "CLOUD_LOGGING"
    }
}

    Reemplaza lo siguiente:

    • BUCKET_PATH: Es la ruta del directorio del bucket al que deseas que acceda este trabajo, que debe comenzar con el nombre del bucket. Por ejemplo, para un bucket llamado BUCKET_NAME, la ruta BUCKET_NAME representa el directorio raíz del bucket, y la ruta BUCKET_NAME/subdirectory representa el subdirectorio subdirectory.
    • MOUNT_PATH: Es la ruta de acceso de activación que usan los ejecutables del trabajo para acceder a este bucket. La ruta de acceso debe comenzar con /mnt/disks/ seguida de un directorio o una ruta de acceso que elijas. Por ejemplo, si deseas representar este bucket con un directorio llamado my-bucket, establece la ruta de activación como /mnt/disks/my-bucket.

  2. Ejecuta el siguiente comando:

    gcloud batch jobs submit JOB_NAME \
  --location LOCATION \
  --config JSON_CONFIGURATION_FILE

    Reemplaza lo siguiente:

    • JOB_NAME: Es el nombre del trabajo.
    • LOCATION: Es la ubicación del trabajo.
    • JSON_CONFIGURATION_FILE: Es la ruta de acceso de un archivo JSON con los detalles de configuración del trabajo.

API

Para crear un trabajo que use un bucket de Cloud Storage mediante la API de Batch, usa el método jobs.create y activa el bucket en el campo volumes.

POST https://batch.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/jobs?job_id=JOB_NAME

{
    "taskGroups": [
        {
            "taskSpec": {
                "runnables": [
                    {
                        "script": {
                            "text": "echo Hello world from task ${BATCH_TASK_INDEX}. >> MOUNT_PATH/output_task_${BATCH_TASK_INDEX}.txt"
                        }
                    }
                ],
                "volumes": [
                    {
                        "gcs": {
                            "remotePath": "BUCKET_PATH"
                        },
                        "mountPath": "MOUNT_PATH"
                    }
                ]
            },
            "taskCount": 3
        }
    ],
    "logsPolicy": {
            "destination": "CLOUD_LOGGING"
    }
}

Reemplaza lo siguiente:

  • PROJECT_ID: Es el ID del proyecto.
  • LOCATION: Es la ubicación del trabajo.
  • JOB_NAME: Es el nombre del trabajo.
  • BUCKET_PATH: Es la ruta del directorio del bucket al que deseas que acceda este trabajo, que debe comenzar con el nombre del bucket. Por ejemplo, para un bucket llamado BUCKET_NAME, la ruta de acceso BUCKET_NAME representa el directorio raíz del bucket, y la ruta BUCKET_NAME/subdirectory representa el subdirectorio subdirectory.
  • MOUNT_PATH: Es la ruta de acceso de activación que usan los ejecutables del trabajo para acceder a este bucket. La ruta de acceso debe comenzar con /mnt/disks/ seguida de un directorio o una ruta de acceso que elijas. Por ejemplo, si deseas representar este bucket con un directorio llamado my-bucket, establece la ruta de activación como /mnt/disks/my-bucket.

Go

Go

Para obtener más información, consulta la documentación de referencia de la API de Batch Go.

Para autenticarte en Batch, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local. 

import (
	"context"
	"fmt"
	"io"

	batch "cloud.google.com/go/batch/apiv1"
	batchpb "google.golang.org/genproto/googleapis/cloud/batch/v1"
	durationpb "google.golang.org/protobuf/types/known/durationpb"
)

// Creates and runs a job that executes the specified script
func createScriptJobWithBucket(w io.Writer, projectID, region, jobName, bucketName string) error {
	// projectID := "your_project_id"
	// region := "us-central1"
	// jobName := "some-job"
	// jobName := "some-bucket"

	ctx := context.Background()
	batchClient, err := batch.NewClient(ctx)
	if err != nil {
		return fmt.Errorf("NewClient: %w", err)
	}
	defer batchClient.Close()

	// Define what will be done as part of the job.
	command := &batchpb.Runnable_Script_Text{
		Text: "echo Hello world from task ${BATCH_TASK_INDEX}. >> /mnt/share/output_task_${BATCH_TASK_INDEX}.txt",
	}

	// Specify the Google Cloud Storage bucket to mount
	volume := &batchpb.Volume{
		Source: &batchpb.Volume_Gcs{
			Gcs: &batchpb.GCS{
				RemotePath: bucketName,
			},
		},
		MountPath:    "/mnt/share",
		MountOptions: []string{},
	}

	// We can specify what resources are requested by each task.
	resources := &batchpb.ComputeResource{
		// CpuMilli is milliseconds per cpu-second. This means the task requires 50% of a single CPUs.
		CpuMilli:  500,
		MemoryMib: 16,
	}

	taskSpec := &batchpb.TaskSpec{
		Runnables: []*batchpb.Runnable{{
			Executable: &batchpb.Runnable_Script_{
				Script: &batchpb.Runnable_Script{Command: command},
			},
		}},
		ComputeResource: resources,
		MaxRunDuration: &durationpb.Duration{
			Seconds: 3600,
		},
		MaxRetryCount: 2,
		Volumes:       []*batchpb.Volume{volume},
	}

	// Tasks are grouped inside a job using TaskGroups.
	taskGroups := []*batchpb.TaskGroup{
		{
			TaskCount: 4,
			TaskSpec:  taskSpec,
		},
	}

	// Policies are used to define on what kind of virtual machines the tasks will run on.
	// In this case, we tell the system to use "e2-standard-4" machine type.
	// Read more about machine types here: https://cloud.google.com/compute/docs/machine-types
	allocationPolicy := &batchpb.AllocationPolicy{
		Instances: []*batchpb.AllocationPolicy_InstancePolicyOrTemplate{{
			PolicyTemplate: &batchpb.AllocationPolicy_InstancePolicyOrTemplate_Policy{
				Policy: &batchpb.AllocationPolicy_InstancePolicy{
					MachineType: "e2-standard-4",
				},
			},
		}},
	}

	// We use Cloud Logging as it's an out of the box available option
	logsPolicy := &batchpb.LogsPolicy{
		Destination: batchpb.LogsPolicy_CLOUD_LOGGING,
	}

	jobLabels := map[string]string{"env": "testing", "type": "script"}

	// The job's parent is the region in which the job will run
	parent := fmt.Sprintf("projects/%s/locations/%s", projectID, region)

	job := batchpb.Job{
		TaskGroups:       taskGroups,
		AllocationPolicy: allocationPolicy,
		Labels:           jobLabels,
		LogsPolicy:       logsPolicy,
	}

	req := &batchpb.CreateJobRequest{
		Parent: parent,
		JobId:  jobName,
		Job:    &job,
	}

	created_job, err := batchClient.CreateJob(ctx, req)
	if err != nil {
		return fmt.Errorf("unable to create job: %w", err)
	}

	fmt.Fprintf(w, "Job created: %v\n", created_job)

	return nil
}

Java

Java

Para obtener más información, consulta la documentación de referencia de la API de Batch Java.

Para autenticarte en Batch, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local. 

import com.google.cloud.batch.v1.AllocationPolicy;
import com.google.cloud.batch.v1.AllocationPolicy.InstancePolicy;
import com.google.cloud.batch.v1.AllocationPolicy.InstancePolicyOrTemplate;
import com.google.cloud.batch.v1.BatchServiceClient;
import com.google.cloud.batch.v1.ComputeResource;
import com.google.cloud.batch.v1.CreateJobRequest;
import com.google.cloud.batch.v1.GCS;
import com.google.cloud.batch.v1.Job;
import com.google.cloud.batch.v1.LogsPolicy;
import com.google.cloud.batch.v1.LogsPolicy.Destination;
import com.google.cloud.batch.v1.Runnable;
import com.google.cloud.batch.v1.Runnable.Script;
import com.google.cloud.batch.v1.TaskGroup;
import com.google.cloud.batch.v1.TaskSpec;
import com.google.cloud.batch.v1.Volume;
import com.google.protobuf.Duration;
import java.io.IOException;
import java.util.concurrent.ExecutionException;
import java.util.concurrent.TimeUnit;
import java.util.concurrent.TimeoutException;

public class CreateWithMountedBucket {

  public static void main(String[] args)
      throws IOException, ExecutionException, InterruptedException, TimeoutException {
    // TODO(developer): Replace these variables before running the sample.
    // Project ID or project number of the Cloud project you want to use.
    String projectId = "YOUR_PROJECT_ID";

    // Name of the region you want to use to run the job. Regions that are
    // available for Batch are listed on: https://cloud.google.com/batch/docs/get-started#locations
    String region = "europe-central2";

    // The name of the job that will be created.
    // It needs to be unique for each project and region pair.
    String jobName = "JOB_NAME";

    // Name of the bucket to be mounted for your Job.
    String bucketName = "BUCKET_NAME";

    createScriptJobWithBucket(projectId, region, jobName, bucketName);
  }

  // This method shows how to create a sample Batch Job that will run
  // a simple command on Cloud Compute instances.
  public static void createScriptJobWithBucket(String projectId, String region, String jobName,
      String bucketName)
      throws IOException, ExecutionException, InterruptedException, TimeoutException {
    // Initialize client that will be used to send requests. This client only needs to be created
    // once, and can be reused for multiple requests. After completing all of your requests, call
    // the `batchServiceClient.close()` method on the client to safely
    // clean up any remaining background resources.
    try (BatchServiceClient batchServiceClient = BatchServiceClient.create()) {

      // Define what will be done as part of the job.
      Runnable runnable =
          Runnable.newBuilder()
              .setScript(
                  Script.newBuilder()
                      .setText(
                          "echo Hello world from task ${BATCH_TASK_INDEX}. >> "
                              + "/mnt/share/output_task_${BATCH_TASK_INDEX}.txt")
                      // You can also run a script from a file. Just remember, that needs to be a
                      // script that's already on the VM that will be running the job.
                      // Using setText() and setPath() is mutually exclusive.
                      // .setPath("/tmp/test.sh")
                      .build())
              .build();

      Volume volume = Volume.newBuilder()
          .setGcs(GCS.newBuilder()
              .setRemotePath(bucketName)
              .build())
          .setMountPath("/mnt/share")
          .build();

      // We can specify what resources are requested by each task.
      ComputeResource computeResource =
          ComputeResource.newBuilder()
              // In milliseconds per cpu-second. This means the task requires 50% of a single CPUs.
              .setCpuMilli(500)
              // In MiB.
              .setMemoryMib(16)
              .build();

      TaskSpec task =
          TaskSpec.newBuilder()
              // Jobs can be divided into tasks. In this case, we have only one task.
              .addRunnables(runnable)
              .addVolumes(volume)
              .setComputeResource(computeResource)
              .setMaxRetryCount(2)
              .setMaxRunDuration(Duration.newBuilder().setSeconds(3600).build())
              .build();

      // Tasks are grouped inside a job using TaskGroups.
      // Currently, it's possible to have only one task group.
      TaskGroup taskGroup = TaskGroup.newBuilder().setTaskCount(4).setTaskSpec(task).build();

      // Policies are used to define on what kind of virtual machines the tasks will run on.
      // In this case, we tell the system to use "e2-standard-4" machine type.
      // Read more about machine types here: https://cloud.google.com/compute/docs/machine-types
      InstancePolicy instancePolicy =
          InstancePolicy.newBuilder().setMachineType("e2-standard-4").build();

      AllocationPolicy allocationPolicy =
          AllocationPolicy.newBuilder()
              .addInstances(InstancePolicyOrTemplate.newBuilder().setPolicy(instancePolicy).build())
              .build();

      Job job =
          Job.newBuilder()
              .addTaskGroups(taskGroup)
              .setAllocationPolicy(allocationPolicy)
              .putLabels("env", "testing")
              .putLabels("type", "script")
              .putLabels("mount", "bucket")
              // We use Cloud Logging as it's an out of the box available option.
              .setLogsPolicy(
                  LogsPolicy.newBuilder().setDestination(Destination.CLOUD_LOGGING).build())
              .build();

      CreateJobRequest createJobRequest =
          CreateJobRequest.newBuilder()
              // The job's parent is the region in which the job will run.
              .setParent(String.format("projects/%s/locations/%s", projectId, region))
              .setJob(job)
              .setJobId(jobName)
              .build();

      Job result =
          batchServiceClient
              .createJobCallable()
              .futureCall(createJobRequest)
              .get(5, TimeUnit.MINUTES);

      System.out.printf("Successfully created the job: %s", result.getName());
    }
  }
}

Node.js

Node.js

Para obtener más información, consulta la documentación de referencia de la API de Batch Node.js.

Para autenticarte en Batch, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local. 

/**
 * TODO(developer): Uncomment and replace these variables before running the sample.
 */
// const projectId = 'YOUR_PROJECT_ID';
/**
 * The region you want to the job to run in. The regions that support Batch are listed here:
 * https://cloud.google.com/batch/docs/get-started#locations
 */
// const region = 'us-central-1';
/**
 * The name of the job that will be created.
 * It needs to be unique for each project and region pair.
 */
// const jobName = 'YOUR_JOB_NAME';
/**
 * The name of the bucket to be mounted.
 */
// const bucketName = 'YOUR_BUCKET_NAME';

// Imports the Batch library
const batchLib = require('@google-cloud/batch');
const batch = batchLib.protos.google.cloud.batch.v1;

// Instantiates a client
const batchClient = new batchLib.v1.BatchServiceClient();

// Define what will be done as part of the job.
const task = new batch.TaskSpec();
const runnable = new batch.Runnable();
runnable.script = new batch.Runnable.Script();
runnable.script.text =
  'echo Hello world from task ${BATCH_TASK_INDEX}. >> /mnt/share/output_task_${BATCH_TASK_INDEX}.txt';
// You can also run a script from a file. Just remember, that needs to be a script that's
// already on the VM that will be running the job. Using runnable.script.text and runnable.script.path is mutually
// exclusive.
// runnable.script.path = '/tmp/test.sh'
task.runnables = [runnable];

const gcsBucket = new batch.GCS();
gcsBucket.remotePath = bucketName;
const gcsVolume = new batch.Volume();
gcsVolume.gcs = gcsBucket;
gcsVolume.mountPath = '/mnt/share';
task.volumes = [gcsVolume];

// We can specify what resources are requested by each task.
const resources = new batch.ComputeResource();
resources.cpuMilli = 2000; // in milliseconds per cpu-second. This means the task requires 2 whole CPUs.
resources.memoryMib = 16;
task.computeResource = resources;

task.maxRetryCount = 2;
task.maxRunDuration = {seconds: 3600};

// Tasks are grouped inside a job using TaskGroups.
const group = new batch.TaskGroup();
group.taskCount = 4;
group.taskSpec = task;

// Policies are used to define on what kind of virtual machines the tasks will run on.
// In this case, we tell the system to use "e2-standard-4" machine type.
// Read more about machine types here: https://cloud.google.com/compute/docs/machine-types
const allocationPolicy = new batch.AllocationPolicy();
const policy = new batch.AllocationPolicy.InstancePolicy();
policy.machineType = 'e2-standard-4';
const instances = new batch.AllocationPolicy.InstancePolicyOrTemplate();
instances.policy = policy;
allocationPolicy.instances = [instances];

const job = new batch.Job();
job.name = jobName;
job.taskGroups = [group];
job.allocationPolicy = allocationPolicy;
job.labels = {env: 'testing', type: 'script'};
// We use Cloud Logging as it's an option available out of the box
job.logsPolicy = new batch.LogsPolicy();
job.logsPolicy.destination = batch.LogsPolicy.Destination.CLOUD_LOGGING;

// The job's parent is the project and region in which the job will run
const parent = `projects/${projectId}/locations/${region}`;

async function callCreateJob() {
  // Construct request
  const request = {
    parent,
    jobId: jobName,
    job,
  };

  // Run request
  const response = await batchClient.createJob(request);
  console.log(response);
}

callCreateJob();

Python

Python

Para obtener más información, consulta la documentación de referencia de la API de Batch Python.

Para autenticarte en Batch, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local. 

from google.cloud import batch_v1


def create_script_job_with_bucket(
    project_id: str, region: str, job_name: str, bucket_name: str
) -> batch_v1.Job:
    """
    This method shows how to create a sample Batch Job that will run
    a simple command on Cloud Compute instances.

    Args:
        project_id: project ID or project number of the Cloud project you want to use.
        region: name of the region you want to use to run the job. Regions that are
            available for Batch are listed on: https://cloud.google.com/batch/docs/get-started#locations
        job_name: the name of the job that will be created.
            It needs to be unique for each project and region pair.
        bucket_name: name of the bucket to be mounted for your Job.

    Returns:
        A job object representing the job created.
    """
    client = batch_v1.BatchServiceClient()

    # Define what will be done as part of the job.
    task = batch_v1.TaskSpec()
    runnable = batch_v1.Runnable()
    runnable.script = batch_v1.Runnable.Script()
    runnable.script.text = "echo Hello world from task ${BATCH_TASK_INDEX}. >> /mnt/share/output_task_${BATCH_TASK_INDEX}.txt"
    task.runnables = [runnable]

    gcs_bucket = batch_v1.GCS()
    gcs_bucket.remote_path = bucket_name
    gcs_volume = batch_v1.Volume()
    gcs_volume.gcs = gcs_bucket
    gcs_volume.mount_path = "/mnt/share"
    task.volumes = [gcs_volume]

    # We can specify what resources are requested by each task.
    resources = batch_v1.ComputeResource()
    resources.cpu_milli = 500  # in milliseconds per cpu-second. This means the task requires 50% of a single CPUs.
    resources.memory_mib = 16
    task.compute_resource = resources

    task.max_retry_count = 2
    task.max_run_duration = "3600s"

    # Tasks are grouped inside a job using TaskGroups.
    # Currently, it's possible to have only one task group.
    group = batch_v1.TaskGroup()
    group.task_count = 4
    group.task_spec = task

    # Policies are used to define on what kind of virtual machines the tasks will run on.
    # In this case, we tell the system to use "e2-standard-4" machine type.
    # Read more about machine types here: https://cloud.google.com/compute/docs/machine-types
    allocation_policy = batch_v1.AllocationPolicy()
    policy = batch_v1.AllocationPolicy.InstancePolicy()
    policy.machine_type = "e2-standard-4"
    instances = batch_v1.AllocationPolicy.InstancePolicyOrTemplate()
    instances.policy = policy
    allocation_policy.instances = [instances]

    job = batch_v1.Job()
    job.task_groups = [group]
    job.allocation_policy = allocation_policy
    job.labels = {"env": "testing", "type": "script", "mount": "bucket"}
    # We use Cloud Logging as it's an out of the box available option
    job.logs_policy = batch_v1.LogsPolicy()
    job.logs_policy.destination = batch_v1.LogsPolicy.Destination.CLOUD_LOGGING

    create_request = batch_v1.CreateJobRequest()
    create_request.job = job
    create_request.job_id = job_name
    # The job's parent is the region in which the job will run
    create_request.parent = f"projects/{project_id}/locations/{region}"

    return client.create_job(create_request)

C++

C++

Para obtener más información, consulta la documentación de referencia de la API de Batch C++.

Para autenticarte en Batch, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local. 

#include "google/cloud/batch/v1/batch_client.h"

  [](std::string const& project_id, std::string const& location_id,
     std::string const& job_id, std::string const& bucket_name) {
    // Initialize the request; start with the fields that depend on the sample
    // input.
    google::cloud::batch::v1::CreateJobRequest request;
    request.set_parent("projects/" + project_id + "/locations/" + location_id);
    request.set_job_id(job_id);
    // Most of the job description is fixed in this example; use a string to
    // initialize it, and then override the GCS remote path.
    auto constexpr kText = R"pb(
      task_groups {
        task_count: 4
        task_spec {
          compute_resource { cpu_milli: 500 memory_mib: 16 }
          max_retry_count: 2
          max_run_duration { seconds: 3600 }
          runnables {
            script {
              text: "echo Hello world from task ${BATCH_TASK_INDEX}. >> /mnt/share/output_task_${BATCH_TASK_INDEX}.txt"
            }
          }
          volumes { mount_path: "/mnt/share" }
        }
      }
      allocation_policy {
        instances {
          policy { machine_type: "e2-standard-4" provisioning_model: STANDARD }
        }
      }
      labels { key: "env" value: "testing" }
      labels { key: "type" value: "script" }
      logs_policy { destination: CLOUD_LOGGING }
    )pb";
    auto* job = request.mutable_job();
    if (!google::protobuf::TextFormat::ParseFromString(kText, job)) {
      throw std::runtime_error("Error parsing Job description");
    }
    job->mutable_task_groups(0)
        ->mutable_task_spec()
        ->mutable_volumes(0)
        ->mutable_gcs()
        ->set_remote_path(bucket_name);
    // Create a client and issue the request.
    auto client = google::cloud::batch_v1::BatchServiceClient(
        google::cloud::batch_v1::MakeBatchServiceConnection());
    auto response = client.CreateJob(request);
    if (!response) throw std::move(response).status();
    std::cout << "Job : " << response->DebugString() << "\n";
  }

Usa un sistema de archivos de red

Puedes crear un trabajo que use un sistema de archivos de red existente (NFS), como un archivo compartido de Filestore, mediante la consola de Google Cloud, gcloud CLI o la API de Batch.

Antes de crear un trabajo que use un NFS, asegúrate de que el firewall de la red esté configurado de forma correcta para permitir el tráfico entre las VM de tu trabajo y el NFS. Si quieres obtener más información, consulta Configura reglas de firewall para Filestore.

En el siguiente ejemplo, se describe cómo crear un trabajo que especifique y active un NFS. El trabajo también tiene 3 tareas, cada una de las que ejecuta una secuencia de comandos para crear un archivo en el NFS llamado output_task_TASK_INDEX.txt, en el que TASK_INDEX es el índice de cada tarea: 0, 1 y 2.

Console

Para crear un trabajo que use un NFS mediante la consola de Google Cloud, haz lo siguiente:

  1. En la consola de Google Cloud, ve a la página Lista de trabajos.

    Ir a Lista de trabajos

  2. Haz clic en Crear. Se abrirá la página Crear trabajo por lotes. En el panel izquierdo, está seleccionada la página Detalles del trabajo.

  3. Configura la página Detalles del trabajo:

    1. Opcional: En el campo Nombre del trabajo, personaliza el nombre del trabajo.

      Por ejemplo, ingresa example-nfs-job.

    2. Configura la sección Detalles de la tarea:

      1. En la ventana Nuevo ejecutable, agrega al menos una secuencia de comandos o un contenedor para que se ejecute este trabajo.

        Por ejemplo, haz lo siguiente:

        1. Selecciona la casilla de verificación Script (Secuencia de comandos). Aparecerá un cuadro de texto.

        2. En el cuadro de texto, ingresa la siguiente secuencia de comandos:

          echo Hello world from task ${BATCH_TASK_INDEX}. >> MOUNT_PATH/output_task_${BATCH_TASK_INDEX}.txt

          Reemplaza MOUNT_PATH por la ruta de acceso de activación que el trabajo puede usar para acceder a este NFS. La ruta de acceso debe comenzar con /mnt/disks/ seguido de un directorio o la ruta de acceso que elijas. Por ejemplo, si deseas representar este NFS con un directorio llamado my-nfs, establece la ruta de acceso de activación en /mnt/disks/my-nfs.

        3. Haz clic en Listo.

      2. En el campo Cantidad de tareas, ingresa la cantidad de tareas para este trabajo.

        Por ejemplo, ingresa 3.

      3. En el campo Paralelismo, ingresa la cantidad de tareas que se ejecutarán de forma simultánea.

        Por ejemplo, ingresa 1 (valor predeterminado).

  4. Configura la página Configuraciones adicionales:

    1. En el panel izquierdo, haz clic en Configuración adicional. Se abrirá la página Configuraciones adicionales.

    2. Para cada bucket de Cloud Storage que quieras activar en este trabajo, haz lo siguiente:

      1. En la sección Volumen de almacenamiento, haz clic en Agregar volumen nuevo. Aparecerá la ventana Volumen nuevo.

      2. En la ventana Volumen nuevo, haz lo siguiente:

        1. En la sección Tipo de volumen, selecciona Sistema de archivos de red.

        2. En el campo Servidor de archivos, ingresa la dirección IP del servidor en el que se encuentra el NFS que especificaste en el ejecutable de este trabajo.

          Por ejemplo, si tu NFS es un archivo compartido de Filestore, especifica la dirección IP de la instancia de Filestore que puedes obtener describiendo la instancia de Filestore.

        3. En el campo Ruta de acceso remota, ingresa una ruta de acceso que pueda acceder al NFS que especificaste en el paso anterior.

          La ruta de acceso del directorio de NFS debe comenzar con un / seguido del directorio raíz del NFS.

        4. En el campo Ruta de activación, ingresa la ruta de activación al NFS (MOUNT_PATH), que especificaste en el paso anterior.

    3. Haz clic en Listo.

  5. Opcional: Configura los otros campos para este trabajo.

  6. Opcional: Para revisar la configuración del trabajo, en el panel izquierdo, haz clic en Vista previa.

  7. Haz clic en Crear.

En la página Detalles del trabajo, se muestra el trabajo que creaste.

gcloud

Para crear un trabajo que use un NFS mediante la gcloud CLI, usa el comando gcloud batch jobs submit. En el archivo de configuración JSON del trabajo, activa el NFS en el campo volumes.

  1. Crea un archivo JSON con el siguiente contenido:

    {
    "taskGroups": [
        {
            "taskSpec": {
                "runnables": [
                    {
                        "script": {
                            "text": "echo Hello world from task ${BATCH_TASK_INDEX}. >> MOUNT_PATH/output_task_${BATCH_TASK_INDEX}.txt"
                        }
                    }
                ],
                "volumes": [
                    {
                        "nfs": {
                            "server": "NFS_IP_ADDRESS",
                            "remotePath": "NFS_PATH"
                        },
                        "mountPath": "MOUNT_PATH"
                    }
                ]
            },
            "taskCount": 3
        }
    ],
    "logsPolicy": {
        "destination": "CLOUD_LOGGING"
    }
}

    Reemplaza lo siguiente:

    • NFS_IP_ADDRESS: Es la dirección IP del NFS. Por ejemplo, si tu NFS es un archivo compartido de Filestore, especifica la dirección IP de la instancia de Filestore, que puedes obtener describiendo la instancia de Filestore.
    • NFS_PATH: Es la ruta de acceso del directorio de NFS al que deseas que acceda este trabajo, que debe comenzar con un / seguido del directorio raíz del NFS. Por ejemplo, para un recurso compartido de archivos de Filestore llamado FILE_SHARE_NAME, la ruta de acceso /FILE_SHARE_NAME representa el directorio raíz del archivo compartido y la ruta /FILE_SHARE_NAME/subdirectory representa el subdirectorio subdirectory.
    • MOUNT_PATH: Es la ruta de acceso de activación que usan los ejecutables del trabajo para acceder a este NFS. La ruta de acceso debe comenzar con /mnt/disks/ seguida de un directorio o una ruta de acceso que elijas. Por ejemplo, si deseas representar este NFS con un directorio llamado my-nfs, establece la ruta de acceso de activación en /mnt/disks/my-nfs.

  2. Ejecuta el siguiente comando:

    gcloud batch jobs submit JOB_NAME \
  --location LOCATION \
  --config JSON_CONFIGURATION_FILE

    Reemplaza lo siguiente:

    • JOB_NAME: Es el nombre del trabajo.
    • LOCATION: Es la ubicación del trabajo.
    • JSON_CONFIGURATION_FILE: Es la ruta de acceso de un archivo JSON con los detalles de configuración del trabajo.

API

Para crear un trabajo que use un NFS mediante la API de Batch, usa el método jobs.create y activa el NFS en el campo volumes.

POST https://batch.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/jobs?job_id=JOB_NAME

   {
    "taskGroups": [
        {
            "taskSpec": {
                "runnables": [
                    {
                        "script": {
                            "text": "echo Hello world from task ${BATCH_TASK_INDEX}. >> MOUNT_PATH/output_task_${BATCH_TASK_INDEX}.txt"
                        }
                    }
                ],
                "volumes": [
                    {
                        "nfs": {
                            "server": "NFS_IP_ADDRESS",
                            "remotePath": "NFS_PATH"
                        },
                        "mountPath": "MOUNT_PATH"
                    }
                ]
            },
            "taskCount": 3
        }
    ],
    "logsPolicy": {
        "destination": "CLOUD_LOGGING"
    }
}

Reemplaza lo siguiente:

  • PROJECT_ID: Es el ID del proyecto.
  • LOCATION: Es la ubicación del trabajo.
  • JOB_NAME: Es el nombre del trabajo.
  • NFS_IP_ADDRESS: Es la dirección IP del sistema de archivos de red. Por ejemplo, si tu NFS es un archivo compartido de Filestore, especifica la dirección IP de la instancia de Filestore, que puedes obtener describiendo la instancia de Filestore.
  • NFS_PATH: Es la ruta de acceso del directorio de NFS al que deseas que acceda este trabajo, que debe comenzar con un / seguido del directorio raíz del NFS. Por ejemplo, para un recurso compartido de archivos de Filestore llamado FILE_SHARE_NAME, la ruta de acceso /FILE_SHARE_NAME representa el directorio raíz del archivo compartido y la ruta /FILE_SHARE_NAME/subdirectory representa un subdirectorio.
  • MOUNT_PATH: Es la ruta de acceso de activación que usan los ejecutables del trabajo para acceder a este NFS. La ruta de acceso debe comenzar con /mnt/disks/ seguida de un directorio o una ruta de acceso que elijas. Por ejemplo, si deseas representar este NFS con un directorio llamado my-nfs, establece la ruta de acceso de activación en /mnt/disks/my-nfs.

¿Qué sigue?