Soluciona errores de Dataflow

Si tienes problemas con una canalización o un trabajo de Dataflow, en esta página se enumeran los mensajes de error que pueden aparecer y se proporcionan sugerencias para corregir cada error.

Los errores en los tipos de registros dataflow.googleapis.com/worker-startup, dataflow.googleapis.com/harness-startup y dataflow.googleapis.com/kubelet indican problemas de configuración con un trabajo. También pueden indicar condiciones que evitan que la ruta de registro normal funcione.

Tu canalización puede arrojar excepciones durante el procesamiento de datos. Algunos de estos errores son transitorios, por ejemplo, cuando se produce una dificultad temporal para acceder a un servicio externo. Algunos de estos errores son permanentes, como los errores causados por datos de entrada corruptos o no analizables, o punteros nulos durante el procesamiento.

Dataflow procesa los elementos en paquetes arbitrarios y vuelve a probar el paquete completo cuando se arroja un error de cualquier elemento de ese paquete. Cuando se ejecutan en modo por lotes, los paquetes que incluyen un artículo defectuoso se reintentan cuatro veces. Si un paquete individual falla cuatro veces, la canalización fallará por completo. Cuando se ejecuta en modo de transmisión, un paquete que incluye un elemento defectuoso se reintenta de forma indefinida, lo que puede hacer que la canalización se estanque de forma permanente.

Las excepciones en el código del usuario, por ejemplo, tus instancias de DoFn, se informan en la interfaz de supervisión de Dataflow. Si ejecutas tu canalización con BlockingDataflowPipelineRunner, también verás que se muestran mensajes de error en tu ventana de terminal o consola.

Se recomienda que agregue controladores de excepciones para protegerse contra los errores del código. Por ejemplo, si deseas descartar elementos que producen fallas en una validación de entrada personalizada en ParDo, usa un bloque try/catch dentro de tu ParDo para manejar la excepción y registrar y descartar el elemento. Para las cargas de trabajo de producción, implementa un patrón de mensajes sin procesar. Para realizar un seguimiento del recuento de errores, debes usar transformaciones de agregación.

Archivos de registro faltantes

Si no ves ningún registro para tus trabajos, quita los filtros de exclusión que contengan resource.type="dataflow_step" de todos tus receptores del enrutador de registros de Cloud Logging.

Ir a Enrutador de registros

Para obtener más detalles sobre cómo quitar las exclusiones de registros, consulta la guía Quita exclusiones.

Duplicados en los resultados

Cuando ejecutas un trabajo de Dataflow, el resultado contiene registros duplicados.

Este problema puede ocurrir cuando tu trabajo de Dataflow usa el modo de transmisión de canalización al menos una vez. Este modo garantiza que los registros se procesen al menos una vez. Sin embargo, es posible que se dupliquen los registros con este modo.

Si tu flujo de trabajo no puede tolerar registros duplicados, usa el modo de transmisión “exactamente una vez”. En este modo, Dataflow garantiza que los registros no se descarten ni se dupliquen a medida que los datos se mueven a través de la canalización.

Para verificar qué modo de transmisión usa tu trabajo, consulta Visualiza el modo de transmisión de un trabajo.

Para obtener más información sobre los modos de transmisión, consulta Configura el modo de transmisión de la canalización.

Errores de canalización

Las siguientes secciones contienen errores de canalización comunes que puedes encontrar y los pasos para resolver o solucionar problemas de errores.

Algunas API de Cloud deben estar habilitadas

Cuando intentas ejecutar un trabajo de Dataflow, se produce el siguiente error:

Some Cloud APIs need to be enabled for your project in order for Cloud Dataflow to run this job.

Este problema se produce porque algunas API obligatorias no están habilitadas en tu proyecto.

Para resolver este problema y ejecutar un trabajo de Dataflow, habilita las siguientes API de Google Cloud en tu proyecto:

• API de Compute Engine (Compute Engine)
• API de Cloud Logging
• Cloud Storage
• API de Cloud Storage JSON
• API de BigQuery
• Pub/Sub
• API de Datastore

Para obtener instrucciones detalladas, consulta la sección Comienza a habilitar las APIs de Google Cloud.

“@*” y “@N” son especificaciones de fragmentación reservadas

Cuando intentas ejecutar un trabajo, aparece el siguiente error en los archivos de registro y el trabajo falla:

Workflow failed. Causes: "@*" and "@N" are reserved sharding specs. Filepattern must not contain any of them.

Este error se produce si el nombre de archivo de tu ruta de Cloud Storage para archivos temporales (tempLocation o temp_location) tiene un signo de arroba (@) seguido de un número o de un asterisco (*).

Para resolver este problema, cambia el nombre del archivo de modo que el signo arroba esté seguido de un carácter compatible.

Solicitud incorrecta

Cuando ejecutas un trabajo de Dataflow, los registros de Cloud Monitoring muestran una serie de advertencias similares a las siguientes:

Unable to update setup work item STEP_ID error: generic::invalid_argument: Http(400) Bad Request
Update range task returned 'invalid argument'. Assuming lost lease for work with id LEASE_ID
with expiration time: TIMESTAMP, now: TIMESTAMP. Full status: generic::invalid_argument: Http(400) Bad Request

Las advertencias de solicitud incorrecta se producen si la información del estado del trabajador está inactiva o no está sincronizada debido a retrasos de procesamiento. A menudo, tu trabajo de Dataflow tiene éxito a pesar de las advertencias de solicitud incorrecta. Si ese es el caso, ignora las advertencias.

No es posible leer y escribir en ubicaciones diferentes

Cuando ejecutas un trabajo de Dataflow, es posible que veas el siguiente error en los archivos de registro:

message:Cannot read and write in different locations: source: SOURCE_REGION, destination: DESTINATION_REGION,reason:invalid

Este error ocurre cuando el origen y el destino están en regiones diferentes. También puede ocurrir cuando la ubicación y el destino de la etapa de pruebas se encuentran en diferentes regiones. Por ejemplo, si el trabajo lee de Pub/Sub y, luego, escribe en un bucket temp de Cloud Storage antes de escribir en una tabla de BigQuery, el bucket de Cloud Storage temp y la tabla de BigQuery deben estar en la misma región.

Las ubicaciones multirregionales se consideran diferentes de las ubicaciones de una sola región, incluso si la única región está dentro del alcance de la ubicación multirregional. Por ejemplo, us (multiple regions in the United States) y us-central1 son regiones diferentes.

Para resolver este problema, ten tus ubicaciones de destino, origen y etapa de pruebas en la misma región. Las ubicaciones de los buckets de Cloud Storage no se pueden cambiar, por lo que es posible que debas crear un bucket de Cloud Storage nuevo en la región correcta.

Se ha superado el tiempo de espera de conexión.

Cuando ejecutas un trabajo de Dataflow, es posible que veas el siguiente error en los archivos de registro:

org.springframework.web.client.ResourceAccessException: I/O error on GET request for CONNECTION_PATH: Connection timed out (Connection timed out); nested exception is java.net.ConnectException: Connection timed out (Connection timed out)

Este problema se produce cuando los trabajadores de Dataflow no pueden establecer ni mantener una conexión con la fuente de datos o el destino.

Para resolver este problema, sigue estos pasos:

• Verifica que la fuente de datos se esté ejecutando.
• Verifica que el destino esté en ejecución.
• Revisa los parámetros de conexión que se usan en la configuración de la canalización de Dataflow.
• Verifica que los problemas de rendimiento no afecten a la fuente ni el destino.
• Asegúrate de que las reglas de firewall no bloqueen la conexión.

No existe el objeto

Cuando ejecutas tus trabajos de Dataflow, es posible que veas el siguiente error en los archivos de registro:

..., 'server': 'UploadServer', 'status': '404'}>, <content <No such object:...

Estos errores suelen ocurrir cuando algunos de tus trabajos de Dataflow en ejecución usan la misma temp_location para almacenar en etapa intermedia los archivos de trabajo temporales creados cuando se ejecuta la canalización. Cuando varios trabajos simultáneos comparten la misma temp_location, estos trabajos pueden tener pasos en los datos temporales entre sí, y puede ocurrir una condición de carrera. A fin de evitar este problema, se recomienda usar una temp_location única para cada trabajo.

Dataflow no puede determinar el trabajo pendiente

Cuando se ejecuta una canalización de transmisión desde Pub/Sub, se produce la siguiente advertencia:

Dataflow is unable to determine the backlog for Pub/Sub subscription

Cuando una canalización de Dataflow extrae datos de Pub/Sub, Dataflow necesita solicitar información de Pub/Sub de forma repetida. Esta información incluye la cantidad de tareas pendientes en la suscripción y la antigüedad del mensaje no confirmado más antiguo. En ocasiones, Dataflow no puede recuperar esta información de Pub/Sub debido a problemas internos del sistema, lo que puede causar una acumulación transitoria de tareas pendientes.

Para obtener más información, consulta Transmite con Cloud Pub/Sub.

DEADLINE_EXCEEDED o El servidor no responde

Cuando ejecutas tus trabajos, puedes encontrar excepciones de tiempo de espera de RPC o uno de los siguientes errores:

DEADLINE_EXCEEDED

Como alternativa, puedes hacer lo siguiente:

Server Unresponsive

Por lo general, estos errores ocurren por uno de los siguientes motivos:

• The Virtual Private Cloud (VPC) network used for your job might be missing a firewall rule. The firewall rule needs to enable all TCP traffic among VMs in the VPC network you specified in your pipeline options. For more information, see Firewall rules for Dataflow.

  En algunos casos, los trabajadores no pueden comunicarse entre sí. Cuando ejecutas un trabajo de Dataflow que no usa Dataflow Shuffle o Streaming Engine, los trabajadores deben comunicarse entre sí mediante los puertos TCP 12345 y 12346 dentro de la red de VPC. En esta situación, el error incluye el nombre del agente de trabajo y el puerto TCP que está bloqueado. El error se parece a uno de los siguientes ejemplos:

  DEADLINE_EXCEEDED: (g)RPC timed out when SOURCE_WORKER_HARNESS
  talking to DESTINATION_WORKER_HARNESS:12346.
  

  Rpc to WORKER_HARNESS:12345 completed with error UNAVAILABLE: failed to connect to all addresses
  Server unresponsive (ping error: Deadline Exceeded, UNKNOWN: Deadline Exceeded...)
  

  Para resolver este problema, usa la marca reglas gcloud compute firewall-rules create para permitir el tráfico de red a los puertos 12345 y 12346. En el siguiente ejemplo, se muestra el comando de Google Cloud CLI:

  gcloud compute firewall-rules create FIREWALL_RULE_NAME \
    --network NETWORK \
    --action allow \
    --direction IN \
    --target-tags dataflow \
    --source-tags dataflow \
    --priority 0 \
    --rules tcp:12345-12346
  

  Reemplaza lo siguiente:

  • FIREWALL_RULE_NAME: Es el nombre de tu regla de firewall.
  • NETWORK: el nombre de tu red

• Tu trabajo se delimita aleatoriamente.

  Para resolver este problema, realiza uno o más de los siguientes cambios.

  Java

  • Si el trabajo no usa un objeto Shuffle basado en servicios, cambia para usar Dataflow Shuffle basado en servicios mediante la configuración de --experiments=shuffle_mode=service. Para obtener detalles y disponibilidad, consulta Dataflow Shuffle.
  • Agrega más trabajadores. Prueba configurar --numWorkers con un valor mayor cuando ejecutes tu canalización.
  • Aumenta el tamaño del disco conectado para los trabajadores. Prueba configurar --diskSizeGb con un valor mayor cuando ejecutes tu canalización.
  • Usa un disco persistente respaldado por SSD. Prueba configurar --workerDiskType="compute.googleapis.com/projects/PROJECT_ID/zones/ZONE/diskTypes/pd-ssd" cuando ejecutes tu canalización.

  Python

  • Si el trabajo no usa un objeto Shuffle basado en servicios, cambia para usar Dataflow Shuffle basado en servicios mediante la configuración de --experiments=shuffle_mode=service. Para obtener detalles y disponibilidad, consulta Dataflow Shuffle.
  • Agrega más trabajadores. Prueba configurar --num_workers con un valor mayor cuando ejecutes tu canalización.
  • Aumenta el tamaño del disco conectado para los trabajadores. Prueba configurar --disk_size_gb con un valor mayor cuando ejecutes tu canalización.
  • Usa un disco persistente respaldado por SSD. Prueba configurar --worker_disk_type="compute.googleapis.com/projects/PROJECT_ID/zones/ZONE/diskTypes/pd-ssd" cuando ejecutes tu canalización.

  Go

  • Si el trabajo no usa un objeto Shuffle basado en servicios, cambia para usar Dataflow Shuffle basado en servicios mediante la configuración de --experiments=shuffle_mode=service. Para obtener detalles y disponibilidad, consulta Dataflow Shuffle.
  • Agrega más trabajadores. Prueba configurar --num_workers con un valor mayor cuando ejecutes tu canalización.
  • Aumenta el tamaño del disco conectado para los trabajadores. Prueba configurar --disk_size_gb con un valor mayor cuando ejecutes tu canalización.
  • Usa un disco persistente respaldado por SSD. Prueba configurar --disk_type="compute.googleapis.com/projects/PROJECT_ID/zones/ZONE/diskTypes/pd-ssd" cuando ejecutes tu canalización.

Errores de codificación, IOExceptions o un comportamiento inesperado en el código de usuario.

Los SDK de Apache Beam y los trabajadores de Dataflow dependen de componentes comunes de terceros. Estos componentes importan dependencias adicionales. Los conflictos de versiones pueden causar que el servicio se comporte de manera inesperada. Además, algunas bibliotecas no son compatibles con versiones futuras. Es posible que necesites fijar las versiones anteriores que se encuentran dentro del alcance durante la ejecución. SDK y dependencias de trabajadores contiene una lista de dependencias y sus versiones obligatorias.

Se produjo un error mientras se ejecutaba LookupEffectiveGuestPolicies

Cuando ejecutas un trabajo de Dataflow, es posible que veas el siguiente error en los archivos de registro:

OSConfigAgent Error policies.go:49: Error running LookupEffectiveGuestPolicies:
error calling LookupEffectiveGuestPolicies: code: "Unauthenticated",
message: "Request is missing required authentication credential.
Expected OAuth 2 access token, login cookie or other valid authentication credential.

Este error se produce si la Administración de configuración del SO está habilitada para todo el proyecto.

Para resolver este problema, inhabilita las políticas de VM Manager que se aplican a todo el proyecto. Si no es posible inhabilitar las políticas de VM Manager para todo el proyecto, puedes ignorar este error y filtrarlo en las herramientas de supervisión de registros.

Grupo de recursos agotado

Cuando creas un recurso de Google Cloud, es posible que veas el siguiente error para un grupo de recursos agotado:

ERROR: ZONE_RESOURCE_POOL_EXHAUSTED

Este error se produce para las condiciones de agotamiento temporal de un recurso específico en una zona específica.

Para resolver el problema, puedes esperar o crear el mismo recurso en otra zona. Como práctica recomendada, te recomendamos que distribuyas tus recursos en varias zonas y regiones para tolerar interrupciones.

Java Runtime Environment detectó un error irrecuperable.

El siguiente error ocurre durante el inicio de un trabajador:

A fatal error has been detected by the Java Runtime Environment

Este error se produce si la canalización usa la interfaz nativa de Java (JNI) para ejecutar código que no es de Java y ese código o las vinculaciones de JNI contienen un error.

Error de clave de atributo googclient_deliveryattempt

Tu trabajo de Dataflow falla con uno de los siguientes errores:

The request contains an attribute key that is not valid (key=googclient_deliveryattempt). Attribute keys must be non-empty and must not begin with 'goog' (case-insensitive).

Como alternativa, puedes hacer lo siguiente:

Invalid extensions name: googclient_deliveryattempt

Este error se produce cuando tu trabajo de Dataflow tiene las siguientes características:

• El trabajo de Dataflow usa Streaming Engine.
• La canalización tiene un receptor de Pub/Sub.
• The pipeline uses a pull subscription.
• La canalización usa una de las APIs del servicio de Pub/Sub para publicar mensajes en lugar de usar el receptor de E/S de Pub/Sub integrado.
• Pub/Sub usa la biblioteca cliente de Java o C#.
• La suscripción a Pub/Sub tiene un tema de mensajes no entregados.

Este error se produce porque cuando usas la biblioteca cliente de Java o C# de Pub/Sub y se habilita un tema de mensajes no entregados para una suscripción, los intentos de entrega se encuentran en el atributo de mensaje googclient_deliveryattempt en lugar del campo delivery_attempt. Para obtener más información, consulta Realiza un seguimiento de los intentos de entrega en la página “Controla las fallas de los mensajes”.

Para resolver este problema, realiza uno o más de los siguientes cambios.

• Inhabilita Streaming Engine.
• Usa el conector PubSubIO de Apache Beam integrado en lugar de la API de servicio de Pub/Sub.
• Usa un tipo de suscripción de Pub/Sub diferente.
• Quita el tema de los mensajes no entregados.
• Don't use the Java or C# client library with your Pub/Sub pull subscription. For other options, see Client library code samples.
• En tu código de canalización, cuando las claves de atributos comiencen con goog, borra los atributos de los mensajes antes de publicar los mensajes.

Se detectó una tecla de acceso rápido ...

Se produce el siguiente error:

A hot key HOT_KEY_NAME was detected in...

Estos errores se producen si tus datos contienen una clave de acceso rápido. Una clave de acceso rápido es una clave con suficientes elementos para impactar negativamente en el rendimiento de la canalización. Estas claves limitan la capacidad de Dataflow de procesar elementos en paralelo, lo que aumenta el tiempo de ejecución.

Para imprimir la clave legible en los registros cuando se detecta una clave de acceso rápido en la canalización, usa la opción de canalización de clave de acceso rápido.

Para resolver este problema, verifica que tus datos estén distribuidos de manera uniforme. Si una clave tiene muchos valores de forma desproporcionada, considera las siguientes medidas:

• Cambia la clave de tus datos. Aplica una transformación de ParDo para generar pares clave-valor nuevos.
• Para trabajos de Java, usa la transformación de Combine.PerKey.withHotKeyFanout.
• Para trabajos de Python, usa la transformación de CombinePerKey.with_hot_key_fanout.
• Habilita Dataflow Shuffle.

Para ver las teclas de acceso rápido en la interfaz de supervisión de Dataflow, consulta Solución de problemas de demora en trabajos por lotes.

Especificación de tabla no válida en Data Catalog

Cuando usas Dataflow SQL para crear trabajos de Dataflow SQL, es posible que el trabajo falle con el siguiente error en los archivos de registro:

Invalid table specification in Data Catalog: Could not resolve table in Data Catalog

Este error se produce si la cuenta de servicio de Dataflow no tiene acceso a la API de Data Catalog.

Para resolver este problema, habilita la API de Data Catalog en el proyecto de Google Cloud que usas para escribir y ejecutar consultas.

Como alternativa, asigna el rol roles/datacatalog.viewer a la cuenta de servicio de Dataflow.

El grafo del trabajo es demasiado grande

Tu trabajo puede fallar con el siguiente error:

The job graph is too large. Please try again with a smaller job graph,
or split your job into two or more smaller jobs.

Este error se produce si el tamaño del grafo de tu trabajo supera los 10 MB. Algunas condiciones en tu canalización pueden provocar que el grafo del trabajo supere el límite. Entre las condiciones comunes, se incluyen las siguientes:

• Una transformación Create que incluye una gran cantidad de datos en memoria.
• Una instancia DoFn de gran tamaño que se serializa para la transmisión a trabajadores remotos.
• DoFn como una instancia de clase interna anónima que (posiblemente de forma involuntaria) incorpora gran cantidad de datos para serializarse.
• Un grafo acíclico dirigido (DAG) se usa como parte de un bucle programático que enumera una lista grande.

Para evitar estas condiciones, considera reestructurar tu canalización.

La confirmación de claves es demasiado grande

Cuando ejecutas un trabajo de transmisión, aparece el siguiente error en los archivos de registro del trabajador:

KeyCommitTooLargeException

Este error ocurre en situaciones de transmisión si una gran cantidad de datos se agrupa sin usar una transformación Combine o si se produce una gran cantidad de datos a partir de un solo elemento de entrada.

Para reducir la posibilidad de encontrar este error, usa las siguientes estrategias:

• Asegúrate de que procesar un solo elemento no pueda dar lugar a que las salidas o las modificaciones de estado superen el límite.
• Si se agruparon varios elementos por clave, considera aumentar el espacio de claves para reducir los elementos agrupados por clave.
• Si los elementos de una clave se emiten a una frecuencia alta durante un período corto, es posible que muchos GB de eventos de esa clave se ejecuten en ventanas. Vuelve a escribir la canalización para detectar claves como esta y solo emite un resultado que indique que la clave estaba presente con frecuencia en esa ventana.
• Usa transformaciones Combine de espacio sublineal para operaciones conmutativas y de asociación. No uses un combinador si no reduce el espacio. Por ejemplo, el combinador para strings que solo agrega strings es peor que no usar el combinador.

Rechazo de mensaje por encima de 7,168,000

Cuando ejecutas un trabajo de Dataflow creado a partir de una plantilla, el trabajo puede fallar con el siguiente error:

Error: CommitWork failed: status: APPLICATION_ERROR(3): Pubsub publish requests are limited to 10MB, rejecting message over 7168K (size MESSAGE_SIZE) to avoid exceeding limit with byte64 request encoding.

Este error ocurre cuando los mensajes escritos en una cola de mensajes no entregados superan el límite de tamaño de 7,168,000. Como solución alternativa, habilita Streaming Engine, que tiene un límite de tamaño más alto. Para habilitar Streaming Engine, usa la siguiente opción de canalización.

Java

--enableStreamingEngine=true

Python

--enable_streaming_engine=true

La entidad de la solicitud es muy grande

Cuando envías tu trabajo, aparece uno de los siguientes errores en tu ventana de terminal o consola:

413 Request Entity Too Large
The size of serialized JSON representation of the pipeline exceeds the allowable limit
Failed to create a workflow job: Invalid JSON payload received
Failed to create a workflow job: Request payload exceeds the allowable limit

Cuando encuentras un error sobre la carga útil de JSON cuando envías tu trabajo, la representación JSON de tu canalización supera el tamaño máximo solicitado de 20 MB.

El tamaño de tu trabajo se relaciona con la representación JSON de la canalización. Una canalización mayor implica una solicitud mayor. Actualmente, Dataflow tiene una limitación de 20 MB para las solicitudes.

Para estimar el tamaño de la solicitud JSON de tu canalización, ejecuta tu canalización con la siguiente opción:

Java

--dataflowJobFile=PATH_TO_OUTPUT_FILE

Python

--dataflow_job_file=PATH_TO_OUTPUT_FILE

Go

En Go, no se admite la salida de tu trabajo como JSON.

Este comando escribe una representación JSON de tu trabajo en un archivo. El tamaño del archivo serializado es una estimación apropiada del tamaño de la solicitud. El tamaño real es un poco mayor debido a que se incluye información adicional en la solicitud.

Algunas condiciones en tu canalización pueden provocar que la representación JSON supere el límite. Entre las condiciones comunes, se incluyen las siguientes:

• Una transformación Create que incluye una gran cantidad de datos en memoria.
• Una instancia DoFn de gran tamaño que se serializa para la transmisión a trabajadores remotos.
• DoFn como una instancia de clase interna anónima que (posiblemente de forma involuntaria) incorpora gran cantidad de datos para serializarse.

Para evitar estas condiciones, considera reestructurar tu canalización.

Las opciones de canalización del SDK o la lista de archivos de etapa de pruebas superan el límite de tamaño

Cuando ejecutas una canalización, se produce uno de los siguientes errores:

SDK pipeline options or staging file list exceeds size limit.
Please keep their length under 256K Bytes each and 512K Bytes in total.

Como alternativa, puedes hacer lo siguiente:

Value for field 'resource.properties.metadata' is too large: maximum size

Estos errores se producen si no se pudo iniciar la canalización debido a que se superan los límites de metadatos de Compute Engine. Los límites no se pueden cambiar. Dataflow usa metadatos de Compute Engine para las opciones de canalización. El límite se documenta en las limitaciones de metadatos personalizados de Compute Engine.

Las siguientes situaciones pueden hacer que la representación JSON exceda el límite:

• Hay demasiados archivos JAR para almacenar en etapa intermedia.
• El campo de la solicitud sdkPipelineOptions es demasiado grande.

Para estimar el tamaño de la solicitud JSON de tu canalización, ejecuta tu canalización con la siguiente opción:

Java

--dataflowJobFile=PATH_TO_OUTPUT_FILE

Python

--dataflow_job_file=PATH_TO_OUTPUT_FILE

Go

En Go, no se admite la salida de tu trabajo como JSON.

El tamaño del archivo de salida de este comando debe ser inferior a 256 KB. Los 512 KB en el mensaje de error se refieren al tamaño total del archivo de salida y a las opciones de metadatos personalizados para la instancia de VM de Compute Engine.

Puedes obtener una estimación aproximada de la opción de metadatos personalizados para la instancia de VM a partir de la ejecución de trabajos de Dataflow en el proyecto. Elige cualquier trabajo de Dataflow en ejecución. Toma una instancia de VM y, luego, navega a la página de detalles de la instancia de VM de Compute Engine para esa VM a fin de verificar la sección de metadatos personalizados. La longitud total de los metadatos personalizados y el archivo debe ser inferior a 512 KB. No es posible hacer una estimación precisa del trabajo con errores, ya que las VMs no se inician para trabajos con errores.

Si tu lista de JAR alcanza el límite de 256 KB, revísala y reduce los archivos JAR innecesarios. Si aún es demasiado grande, intenta ejecutar el trabajo de Dataflow mediante un uber JAR. Para ver un ejemplo que muestre cómo crear y usar un archivo uber JAR, consulta Compila e implementa un archivo uber JAR.

Si el campo de la solicitud sdkPipelineOptions es demasiado grande, incluye la siguiente opción cuando ejecutes tu canalización. La opción de canalización es la misma para Java, Python y Go.

--experiments=no_display_data_on_gce_metadata

La clave Shuffle es demasiado grande

El siguiente error aparece en los archivos de registro del trabajador:

Shuffle key too large

Este error se produce si la clave serializada emitida a un (Co-)GroupByKey específico es demasiado grande después de aplicar el codificador correspondiente. Dataflow tiene un límite para las claves shuffle serializadas.

Para resolver este problema, reduce el tamaño de las claves o usa codificadores que ahorren más espacio.

Si deseas obtener más información, consulta Límites de producción para Dataflow.

La cantidad total de objetos BoundedSource ... es mayor que el límite permitido

Uno de los siguientes errores puede ocurrir cuando ejecutas trabajos con Java:

Total number of BoundedSource objects generated by splitIntoBundles() operation is larger than the allowable limit

Como alternativa, puedes hacer lo siguiente:

Total size of the BoundedSource objects generated by splitIntoBundles() operation is larger than the allowable limit

Java

Este error puede ocurrir si lees a partir de una gran cantidad de archivos mediante TextIO, AvroIO, BigQueryIO a través de EXPORTAR o alguna otra fuente basada en archivos. El límite específico depende de los detalles de tu fuente, pero es de alrededor de decenas de miles de archivos en una canalización. Por ejemplo, el esquema incorporado en AvroIO.Read permite menos archivos.

Este error también puede ocurrir si creaste una fuente de datos personalizada para tu canalización y el método splitIntoBundles de tu fuente mostró una lista de objetos BoundedSource que necesita más de 20 MB cuando se serializa.

El límite permitido para el tamaño total de los objetos BoundedSource generados por la operación splitIntoBundles() de tu fuente personalizada es de 20 MB.

Para evitar esta limitación, realiza uno de los siguientes cambios:

1. Habilita Runner V2. Runner v2 convierte las fuentes en DoFn divisibles que no tienen este límite de división de origen.

2. Modifica tu subclase BoundedSource personalizada para que el tamaño total de los objetos BoundedSource generados sea menor que el límite de 20 MB. Por ejemplo, en un principio, tu fuente puede generar menos divisiones y usar un Rebalanceo dinámico del trabajo para seguir dividiendo entradas a pedido.

NameError

Cuando ejecutas tu canalización con el servicio de Dataflow, se produce el siguiente error:

NameError

Este error no se produce cuando ejecutas de forma local, como cuando ejecutas con DirectRunner.

Este error se produce si los objetos DoFn usan valores en el espacio de nombres global que no están disponibles en el trabajador de Dataflow.

Las importaciones globales, las funciones y las variables definidas en la sesión principal no se guardan durante la serialización de un trabajo de Dataflow de forma predeterminada.

Para resolver este problema, usa uno de los siguientes métodos. Si tus DoFn se definen en el archivo principal y hacen referencias a importaciones y funciones del espacio de nombres global, establece la opción de canalización --save_main_session en True. Este cambio selecciona el estado del espacio de nombres global y lo carga en el trabajador de Dataflow.

Si tienes objetos en tu espacio de nombres global que no pueden serializarse, se produce un error de serialización. Si el error está relacionado con un módulo que debería estar disponible en la distribución de Python, importa el módulo localmente, que es el lugar en que se usa.

Por ejemplo, en lugar de hacer lo siguiente:

import re
…
def myfunc():
  # use re module

utiliza esto:

def myfunc():
  import re
  # use re module

De manera alternativa, si tus DoFn abarcan varios archivos, debes usar un enfoque diferente para empaquetar el flujo de trabajo y administrar las dependencias.

El procesamiento se atascó o la operación está en curso

Si Dataflow dedica más tiempo a ejecutar una DoFn que el tiempo especificado en TIME_INTERVAL sin mostrar un resultado, se muestra el siguiente mensaje.

Java

Cualquiera de los dos mensajes de registro siguientes, según la versión:

Processing stuck in step STEP_NAME for at least TIME_INTERVAL

Operation ongoing in bundle BUNDLE_ID for at least TIME_INTERVAL without outputting or completing: at STACK_TRACE

Python

Operation ongoing for over TIME_INTERVAL in state STATE in step STEP_ID without returning. Current Traceback: TRACEBACK

Go

Operation ongoing in transform TRANSFORM_ID for at least TIME_INTERVAL without outputting or completing in state STATE

Este comportamiento tiene dos causas posibles:

• Tu código DoFn es lento o espera que se complete una operación externa lenta.
• Es posible que tu código DoFn esté atascado, interbloqueado o sea demasiado lento para terminar de procesarse.

Para determinar cuál es el caso, expande la entrada de registro de Cloud Monitoring a fin de ver un seguimiento de pila. Busca mensajes que indiquen que el código DoFn está bloqueado o que tiene problemas. Si no hay mensajes presentes, el problema podría ser la velocidad de ejecución del código DoFn. Considera usar Cloud Profiler o alguna otra herramienta para investigar el rendimiento de tu código.

Si tu canalización está compilada en la VM de Java (mediante Java o Scala), puedes investigar la causa de que tu código se atasque. Realiza un volcado completo de los subprocesos de toda la JVM (no solo del subproceso atascado) mediante estos pasos:

1. Toma nota del nombre del trabajador de la entrada de registro.
2. En la sección de Compute Engine de la consola de Google Cloud, busca la instancia de Compute Engine con el nombre del trabajador que anotaste.
3. Usa SSH para conectarte a la instancia con ese nombre.

4. Ejecuta el siguiente comando:

   curl http://localhost:8081/threadz
   

Errores de cuota de Pub/Sub

Cuando se ejecuta una canalización de transmisión desde Pub/Sub, se producen los siguientes errores:

429 (rateLimitExceeded)

Como alternativa, puedes hacer lo siguiente:

Request was throttled due to user QPS limit being reached

Estos errores se producen si el proyecto tiene una cuota de Pub/Sub insuficiente.

Para averiguar si tu proyecto tiene una cuota insuficiente, sigue estos pasos a fin de verificar si hay errores del cliente:

1. Ve a la consola de Google Cloud.
2. En el menú de la izquierda, selecciona API y servicios.
3. En el Cuadro de búsqueda, busca Cloud Pub/Sub.
4. Haz clic en la pestaña Uso.
5. Marca Códigos de respuesta y busca códigos de error de cliente (4xx).

La política de la organización prohíbe la solicitud

Cuando ejecutas una canalización, se produce el siguiente error:

Error trying to get gs://BUCKET_NAME/FOLDER/FILE:
{"code":403,"errors":[{"domain":"global","message":"Request is prohibited by organization's policy","reason":"forbidden"}],
"message":"Request is prohibited by organization's policy"}

Este error se produce si el bucket de Cloud Storage está fuera del perímetro de servicio.

Para resolver este problema, crea una regla de salida que permita el acceso al bucket fuera del perímetro de servicio.

No se puede acceder al paquete ... publicado en etapa de pruebas

Los trabajos que se usaron correctamente pueden fallar con el siguiente error:

Staged package...is inaccessible

Para solucionar este problema, sigue estos pasos:

• Verifica que el bucket de Cloud Storage utilizado para la etapa de pruebas no tenga una configuración de TTL que haga que los paquetes en etapa de pruebas se borren.

• Verifica que la cuenta de servicio del trabajador de tu proyecto de Dataflow tenga permiso para acceder al bucket de Cloud Storage que se usó en la etapa de pruebas. Las brechas en los permisos pueden deberse a cualquiera de los siguientes motivos:

  • El bucket de Cloud Storage que se usa para la etapa de pruebas está presente en un proyecto diferente.
  • El bucket de Cloud Storage que se usó para la etapa de pruebas migró de acceso detallado al acceso uniforme a nivel del depósito. Debido a la inconsistencia entre las políticas de IAM y LCA, migrar el bucket de etapa de pruebas al acceso uniforme a nivel de depósito no permite LCA para recursos de Cloud Storage. Las LCA incluyen los permisos que mantiene la cuenta de servicio del trabajador del proyecto de Dataflow a través del bucket de etapa de pruebas.

Para obtener más información, consulta Cómo acceder a buckets de Cloud Storage en todos los proyectos de Google Cloud.

Un elemento de trabajo falló 4 veces

El siguiente error ocurre cuando falla un trabajo por lotes:

The job failed because a work item has failed 4 times.

Este error ocurre si una sola operación en un trabajo por lotes hace que el código del trabajador falle cuatro veces. Dataflow hace que falle el trabajo y se muestra este mensaje.

Cuando se ejecuta en modo de transmisión, un paquete que incluye un elemento defectuoso se reintenta de forma indefinida, lo que puede hacer que la canalización se estanque de forma permanente.

No puedes configurar este umbral de falla. Para obtener más detalles, consulta control de excepciones y errores de canalización.

Para resolver este problema, busca las cuatro fallas individuales en los registros de Cloud Monitoring del trabajo. En los registros del trabajador, busca las entradas de registro Nivel de error o Nivel fatal que muestren excepciones o errores. La excepción o error debería aparecer al menos cuatro veces. Si los registros solo contienen errores genéricos de tiempo de espera relacionados con el acceso a recursos externos, como MongoDB, verifica que la cuenta de servicio de trabajador tenga permiso para acceder a la subred del recurso.

Tiempo de espera en el archivo de resultados de sondeo

Ocurre lo siguiente ocurre cuando falla un trabajo:

Timeout in polling result file: PATH. Possible causes are:
1. Your launch takes too long time to finish. Please check the logs on stackdriver.
2. Service account SERVICE_ACCOUNT may not have enough permissions to pull
container image IMAGE_PATH or create new objects in PATH.
3. Transient errors occurred, please try again.

El problema suele estar relacionado con la forma en que se instalan las dependencias de Python a través del archivo requirements.txt. El generador de etapas de Apache Beam descarga la fuente de todas las dependencias de PyPi, incluidas las fuentes de las dependencias transitivas. Luego, la compilación wheel se produce de forma implícita durante el comando de descarga pip para algunos de los paquetes de Python que son dependencias de apache-beam. Es posible que se produzca un problema de tiempo de espera debido al archivo requirements.txt.

Para obtener más información, consulta el seguimiento de errores del equipo de Apache Arrow. La solución alternativa sugerida es instalar apache-beam directamente en el Dockerfile. De esta manera, no se aplica el tiempo de espera para el archivo requirements.txt.

Falló la escritura correcta de archivo/Write/WriteImpl/PreFinalize

Cuando ejecutas un trabajo, este falla de forma intermitente y se produce el siguiente error:

Workflow failed. Causes: S27:Write Correct File/Write/WriteImpl/PreFinalize failed., Internal Issue (ID): ID:ID, Unable to expand file pattern gs://BUCKET_NAME/temp/FILE

Este error ocurre cuando se usa la misma subcarpeta como la ubicación de almacenamiento temporal para varios trabajos que se ejecutan de forma simultánea.

A fin de resolver este problema, no uses la misma subcarpeta que la ubicación de almacenamiento temporal para varias canalizaciones. En cada canalización, proporciona una subcarpeta única para usar como ubicación de almacenamiento temporal.

El elemento excede el tamaño máximo de los mensajes protobuf

Cuando ejecutas trabajos de Dataflow y tu canalización tiene elementos grandes, es posible que veas errores similares a los siguientes ejemplos:

Exception serializing message!
ValueError: Message org.apache.beam.model.fn_execution.v1.Elements exceeds maximum protobuf size of 2GB

Como alternativa, puedes hacer lo siguiente:

Buffer size ... exceeds GRPC limit 2147483548. This is likely due to a single element that is too large.

Es posible que también veas una advertencia similar a la del siguiente ejemplo:

Data output stream buffer size ... exceeds 536870912 bytes. This is likely due to a large element in a PCollection.

Estos errores se producen cuando la canalización contiene elementos grandes.

Para resolver este problema, si usas el SDK de Python, actualiza a la versión 2.57.0 o posterior de Apache Beam. Las versiones del SDK de Python 2.57.0 y posteriores mejoran el procesamiento de elementos grandes y agregan registros relevantes.

Si los errores persisten después de la actualización o si no usas el SDK de Python, identifica el paso del trabajo en el que se produce el error y, luego, intenta reducir el tamaño de los elementos en ese paso.

Cuando los objetos PCollection en tu canalización tienen elementos grandes, aumentan los requisitos de RAM para la canalización. Los elementos grandes también pueden causar errores en el entorno de ejecución, en especial cuando cruzan los límites de las etapas fusionadas.

Los elementos grandes pueden ocurrir cuando una canalización materializa de forma involuntaria un iterable grande. Por ejemplo, una canalización que pasa la salida de una operación GroupByKey en una operación Reshuffle innecesaria materializa las listas como elementos únicos. Estas listas podrían contener una gran cantidad de valores para cada clave.

Si el error se produce en un paso que usa una entrada complementaria, ten en cuenta que el uso de entradas complementarias puede generar una barrera de fusión. Comprueba si la transformación que produce un elemento grande y la transformación que lo consume pertenecen a la misma etapa.

Cuando construyas tu canalización, sigue estas prácticas recomendadas:

• En PCollections, usa varios elementos pequeños en lugar de un solo elemento grande.
• Almacena BLOB grandes en sistemas de almacenamiento externo. Usa PCollections para pasar sus metadatos o usa un codificador personalizado que reduzca el tamaño del elemento.
• Si debes pasar una PCollection que pueda exceder los 2 GB como una entrada complementaria, usa vistas iterables, como AsIterable y AsMultiMap.

El tamaño máximo de un solo elemento en un trabajo de Dataflow está limitado a 2 GB. Para obtener más información, consulta Cuotas y límites.

Archiva errores de trabajos

Las siguientes secciones contienen errores comunes que puedes encontrar cuando intentas archivar un trabajo de Dataflow con la API.

No se proporciona ningún valor

Cuando intentas archivar un trabajo de Dataflow con la API, es posible que se produzca el siguiente error:

The field mask specifies an update for the field job_metadata.user_display_properties.archived in job JOB_ID, but no value is provided. To update a field, please provide a field for the respective value.

Este error ocurre por uno de los siguientes motivos:

• La ruta especificada para el campo updateMask no sigue el formato correcto. Este problema puede deberse a errores tipográficos.

• No se especificó correctamente JobMetadata. En el campo JobMetadata, para userDisplayProperties, usa el par clave-valor "archived":"true".

Para resolver este error, verifica que el comando que pasas a la API coincida con el formato requerido. Para obtener más detalles, consulta Archiva un trabajo.

La API no reconoce el valor

Cuando intentas archivar un trabajo de Dataflow con la API, es posible que se produzca el siguiente error:

The API does not recognize the value VALUE for the field job_metadata.user_display_properties.archived for job JOB_ID. REASON: Archived display property can only be set to 'true' or 'false'

Este error se produce cuando el valor proporcionado en el par clave-valor de los trabajos de archivo no es un valor admitido. Los valores admitidos para el par clave-valor de trabajos de archivo son "archived":"true" y "archived":"false".

Para resolver este error, verifica que el comando que pasas a la API coincida con el formato requerido. Para obtener más detalles, consulta Archiva un trabajo.

No se pueden actualizar el estado y la máscara

Cuando intentas archivar un trabajo de Dataflow con la API, es posible que se produzca el siguiente error:

Cannot update both state and mask.

Este error ocurre cuando intentas actualizar el estado del trabajo y el estado del archivo en la misma llamada a la API. No puedes realizar actualizaciones al estado del trabajo ni al parámetro de consulta updateMask en la misma llamada a la API.

Para resolver este error, actualiza el estado del trabajo en una llamada a la API independiente. Actualiza el estado del trabajo antes de actualizar el estado del archivo del trabajo.

Se produjo un error en la modificación del flujo de trabajo

Cuando intentas archivar un trabajo de Dataflow con la API, es posible que se produzca el siguiente error:

Workflow modification failed.

Por lo general, este error ocurre cuando intentas archivar un trabajo que se está ejecutando.

Para resolver este error, espera a que se complete el trabajo antes de archivarlo. Los trabajos completados tienen uno de los siguientes estados del trabajo:

• JOB_STATE_CANCELLED
• JOB_STATE_DRAINED
• JOB_STATE_DONE
• JOB_STATE_FAILED
• JOB_STATE_UPDATED

Para obtener más información, consulta Detecta la finalización de un trabajo de Dataflow.

Errores de imagen de contenedor

Las siguientes secciones contienen errores comunes que puedes encontrar cuando usas contenedores personalizados y pasos para resolver los errores. Por lo general, los errores tienen el siguiente mensaje como prefijo:

Unable to pull container image due to error: DETAILED_ERROR_MESSAGE

Permiso "containeranalysis.occurrences.list" denegado

El siguiente error aparece en tus archivos de registro:

Error getting old patchz discovery occurrences: generic::permission_denied: permission "containeranalysis.occurrences.list" denied for project "PROJECT_ID", entity ID "" [region="REGION" projectNum=PROJECT_NUMBER projectID="PROJECT_ID"]

La API de Container Analysis es necesaria para el análisis de vulnerabilidades.

Nota: La API de Container Scanning habilita de forma automática esta API.

Para obtener más información, consulta Descripción general del análisis del SO y Configura el control de acceso en la documentación de Artifact Analysis.

No se pudo sincronizar el pod… no se pudo “StartContainer”.

El siguiente error ocurre durante el inicio de un trabajador:

Error syncing pod POD_ID, skipping: [failed to "StartContainer" for CONTAINER_NAME with CrashLoopBackOff: "back-off 5m0s restarting failed container=CONTAINER_NAME pod=POD_NAME].

Un Pod es un grupo ubicado en el mismo lugar de contenedores de Docker que se ejecutan en un trabajador de Dataflow. Este error ocurre cuando uno de los contenedores de Docker en el pod no se inicia. Si la falla no se puede recuperar, el trabajador de Dataflow no puede iniciarse y los trabajos por lotes de Dataflow eventualmente generan errores como los siguientes:

The Dataflow job appears to be stuck because no worker activity has been seen in the last 1h.

Por lo general, este error ocurre cuando uno de los contenedores falla de forma continua durante el inicio.

Nota: Si ves un error Dataflow job appears to be stuck cuando se inicia un solo trabajador de manera repetida y, luego, se detiene después de unos minutos, es probable que el problema sea problema de red. Para obtener más información, consulta Se inicia y se detiene repetidamente un trabajador único.

Para comprender la causa raíz, busca los registros captados inmediatamente antes de la falla. Para analizar los registros, usa el Explorador de registros. En el visor de registros, limita los archivos de registro a las entradas emitidas por el trabajador con errores de inicio del contenedor. Para limitar las entradas de registro, completa los siguientes pasos:

1. En el visor de registros, busca la entrada de registro Error syncing pod.
2. Para ver las etiquetas asociadas con la entrada de registro, expande la entrada de registro.
3. Haz clic en la etiqueta asociada con la resource_name y, luego, en Mostrar entradas coincidentes.

En el explorador de registros, los registros de Dataflow están organizados en varias transmisiones de registros. El mensaje Error syncing pod se emite en el registro llamado kubelet. Sin embargo, los registros del contenedor con errores podrían estar en una transmisión de registros diferente. Cada contenedor tiene un nombre. Usa la siguiente tabla para determinar qué transmisión de registro puede contener registros relevantes al contenedor que falla.

Nombre del contenedor	Nombres de registro
sdk, sdk0, sdk1, sdk-0-0 y similares	docker
agente	agente, agente-inicio
Python, java-batch, java-streaming	trabajador-inicio, trabajador
artefacto	artefacto

Cuando consultes el explorador de registros, asegúrate de que la consulta incluya los nombres de registro relevantes en la interfaz del compilador de consultas o que no tenga restricciones en el nombre del registro.

Después de seleccionar los registros relevantes, el resultado de la consulta podría verse como el siguiente ejemplo:

resource.type="dataflow_step"
resource.labels.job_id="2022-06-29_08_02_54-JOB_ID"
labels."compute.googleapis.com/resource_name"="testpipeline-jenkins-0629-DATE-cyhg-harness-8crw"
logName=("projects/apache-beam-testing/logs/dataflow.googleapis.com%2Fdocker"
OR
"projects/apache-beam-testing/logs/dataflow.googleapis.com%2Fworker-startup"
OR
"projects/apache-beam-testing/logs/dataflow.googleapis.com%2Fworker")

Debido a que los registros que informan el síntoma de la falla del contenedor a veces se informan como INFO, incluye registros INFO en tu análisis.

Las causas típicas de las fallas del contenedor son las siguientes:

1. Tu canalización de Python tiene dependencias adicionales que se instalan en el entorno de ejecución, y la instalación no se realiza correctamente. Es posible que veas errores como pip install failed with error. Este problema puede deberse a requisitos conflictivos o a una configuración de red restringida que evita que un trabajador de Dataflow extraiga una dependencia externa de un repositorio público a través de Internet.

2. Un trabajador falla en el medio de la ejecución de la canalización debido a un error de memoria insuficiente. Es posible que veas un error como uno de los siguientes:

   • java.lang.OutOfMemoryError: Java heap space
   • Shutting down JVM after 8 consecutive periods of measured GC thrashing. Memory is used/total/max = 24453/42043/42043 MB, GC last/max = 58.97/99.89 %, #pushbacks=82, gc thrashing=true. Heap dump not written.

   Para depurar un problema de memoria insuficiente, consulta Soluciona problemas de errores de memoria insuficientes de Dataflow.

3. Dataflow no puede extraer la imagen del contenedor. Para obtener más información, consulta La solicitud de extracción de imágenes falló con un error.

4. El contenedor que se usa no es compatible con la arquitectura de CPU de la VM de trabajador. En los registros de inicio del agente, es posible que veas un error como el siguiente: exec /opt/apache/beam/boot: exec format error. Para verificar la arquitectura de la imagen de contenedor, ejecuta docker image inspect $IMAGE:$TAG y busca la palabra clave Architecture. Si dice Error: No such image: $IMAGE:$TAG, es posible que primero debas extraer la imagen mediante la ejecución de docker pull $IMAGE:$TAG. Para obtener información sobre cómo compilar imágenes de varias arquitecturas, consulta Compila una imagen de contenedor de varias arquitecturas.

Después de identificar el error que hace que el contenedor falle, intenta solucionarlo y, luego, vuelve a enviar la canalización.

Se produjo un error en la imagen solicitud de extracción

Durante el inicio del trabajador, aparece uno de los siguientes errores en los registros del trabajador o del trabajo:

Image pull request failed with error

pull access denied for IMAGE_NAME

manifest for IMAGE_NAME not found: manifest unknown: Failed to fetch

Get IMAGE_NAME: Service Unavailable

Estos errores ocurren si un trabajador no puede iniciarse porque el trabajador no puede extraer una imagen de contenedor de Docker. Este problema ocurre en las siguientes situaciones:

• La URL de la imagen del contenedor de SDK personalizado es incorrecta
• El trabajador no tiene acceso de red o credenciales para la imagen remota

Para solucionar este problema, sigue estos pasos:

• Si usas una imagen de contenedor personalizada con tu trabajo, verifica que la URL de tu imagen sea correcta y que tenga una etiqueta o un resumen válidos. Los trabajadores de Dataflow también necesitan acceder a la imagen.
• Verifica que las imágenes públicas se puedan extraer de forma local mediante la ejecución de docker pull $image desde una máquina no autenticada.

Para imágenes privadas o trabajadores privados:

• Si usas Container Registry para alojar la imagen de contenedor, se recomienda usar Artifact Registry. Container Registry se dio de baja el 15 de mayo de 2023. Si usas Container Registry, puedes migrar a Artifact Registry. Si tus imágenes están en un proyecto diferente del que se usó para ejecutar tu trabajo de Google Cloud, configura el control de acceso para la cuenta de servicio predeterminada de Google Cloud.
• Si usas una nube privada virtual (VPC) compartida, asegúrate de que los trabajadores puedan acceder al host del repositorio de contenedores personalizado.
• Usa ssh para conectarte con una VM de trabajador de un trabajo en ejecución y ejecuta docker pull $image a fin de confirmar directamente que el trabajador está configurado de forma correcta.

Si los trabajadores fallan varias veces seguidas debido a este error y no se han iniciado trabajos en el trabajo, este puede fallar con un error como el siguiente:

Job appears to be stuck.

Si quitas el acceso a la imagen mientras se ejecuta el trabajo, ya sea quitando la imagen en sí o revocando las credenciales de la cuenta de servicio del trabajador de Dataflow o el acceso a Internet para acceder a las imágenes, Dataflow solo registra errores. Dataflow no hace fallar el trabajo. Dataflow también evita las fallas de las canalizaciones de transmisión de larga duración para evitar la pérdida del estado de la canalización.

Pueden surgir otros errores posibles debido a problemas o interrupciones de la cuota del repositorio. Si tienes problemas por superar la cuota de Docker Hub para extraer imágenes públicas o interrupciones generales del repositorio de terceros, considera usar Artifact Registry como el repositorio de imágenes.

SystemError: código de operación desconocido

Tu canalización de contenedor personalizada de Python puede fallar con el siguiente error inmediatamente después del envío de trabajos:

SystemError: unknown opcode

Además, el seguimiento de pila puede incluir lo siguiente:

apache_beam/internal/pickler.py

Para resolver este problema, verifica que la versión de Python que usas de manera local coincida con la versión de la imagen de contenedor hasta las versiones principales y secundarias. La diferencia en la versión del parche, como 3.6.7 en comparación con 3.6.8, no crea problemas de compatibilidad. La diferencia en la versión secundaria, como 3.6.8 en comparación con 3.8.2, puede causar fallas en la canalización.

Errores de trabajador

Las siguientes secciones contienen errores de trabajador comunes que puedes encontrar y pasos para resolver o solucionar los errores.

La llamada desde el agente de trabajo de Java a un DoFn de Python falla con un error

Si falla una llamada del agente de trabajo de Java a un DoFn de Python, se muestra un mensaje de error relevante.

Para investigar el error, expande la entrada de registro de error de Cloud Monitoring y observa el mensaje de error y el traceback. Muestra qué código falló para que puedas corregirlo si es necesario. Si crees que el error es un error en Apache Beam o Dataflow, infórmalo.

EOFError: datos marshal demasiado cortos

En los registros del trabajador, aparece el siguiente error:

EOFError: marshal data too short

Este error a veces ocurre cuando los trabajadores de la canalización de Python se quedan sin espacio en el disco.

Para resolver este problema, consulta No queda espacio en el dispositivo.

No se pudo conectar el disco

Cuando intentas iniciar un trabajo de Dataflow que usa VMs de C3 con Persistent Disk, el trabajo falla con uno o ambos de los siguientes errores:

Failed to attach disk(s), status: generic::invalid_argument: One or more operations had an error

Can not allocate sha384 (reason: -2), Spectre V2 : WARNING: Unprivileged eBPF is enabled with eIBRS on...

Estos errores se producen cuando usas VMs C3 con un tipo de Persistent Disk no compatible. Si deseas obtener más información, consultaTipos de discos compatibles para C3.

Para usar VMa de C3 con tu trabajo de Dataflow, elige el tipo de disco de trabajador pd-ssd. Para obtener más información, consulta Opciones a nivel de trabajador.

Java

--workerDiskType=pd-ssd

Python

--worker_disk_type=pd-ssd

Go

disk_type=pd-ssd

No queda espacio en el dispositivo

Cuando un trabajo se queda sin espacio en el disco, puede aparecer el siguiente error en los registros del trabajador:

No space left on device

Este error puede ocurrir por uno de los siguientes motivos:

• El almacenamiento persistente de trabajadores se queda sin espacio libre, lo que puede ocurrir por uno de los siguientes motivos:
  • Un trabajo descarga dependencias grandes en el entorno de ejecución
  • Un trabajo usa contenedores personalizados grandes
  • Un trabajo escribe muchos datos temporales en el disco local
• Cuando se usa Dataflow Shuffle, Dataflow configura el tamaño de disco predeterminado más bajo. Como resultado, este error puede ocurrir con trabajos que se mueven desde una operación Shuffle basada en trabajadores.
• El disco de arranque del trabajador se llena porque registra más de 50 entradas por segundo.

Para resolver este problema, sigue estos pasos:

Para ver los recursos del disco asociados con un solo trabajador, busca los detalles de las VM de trabajador asociados con tu trabajo. El sistema operativo, los objetos binarios, los registros y los contenedores consumen parte del espacio en disco.

Para aumentar el espacio del disco persistente o del disco de arranque, ajusta la opción de canalización del tamaño del disco.

Realiza un seguimiento del uso del espacio en el disco en las instancias de VM de trabajador mediante Cloud Monitoring. Consulta Recibe métricas de VM de trabajador del agente de Monitoring para obtener instrucciones que expliquen cómo configurar esto.

Para buscar problemas de espacio en el disco de arranque, visualiza la salida del puerto en serie en las instancias de VM de trabajador y busca mensajes como el siguiente:

Failed to open system journal: No space left on device

Si tienes muchas instancias de VM de trabajador, puedes crear una secuencia de comandos para ejecutar gcloud compute instances get-serial-port-output en todas ellas de una vez. En su lugar, puedes revisar ese resultado.

La canalización de Python falla después de una hora de inactividad del trabajador

Cuando uses el SDK de Apache Beam para Python con Dataflow Runner V2 en máquinas de trabajador con muchos núcleos de CPU, usa el SDK de Apache Beam 2.35.0 o una versión posterior. Si tu trabajo usa un contenedor personalizado, usa el SDK de Apache Beam 2.46.0 o una versión posterior.

Considera compilar tu contenedor de Python de forma previa. Este paso puede mejorar los tiempos de inicio de la VM y el rendimiento del ajuste de escala automático horizontal. Para usar esta función, habilita la API de Cloud Build en tu proyecto y envía tu canalización con el siguiente parámetro:

‑‑prebuild_sdk_container_engine=cloud_build.

Para obtener más información, consulta Dataflow Runner V2.

También puedes usar una imagen de contenedor personalizada con todas las dependencias preinstaladas.

El inicio del grupo de trabajadores en la zona no pudo mostrar ninguno de los trabajadores deseados

Se produce el siguiente error:

Startup of the worker pool in zone ZONE_NAME failed to bring up any of the desired NUMBER workers.
The project quota may have been exceeded or access control policies may be preventing the operation;
review the Cloud Logging 'VM Instance' log for diagnostics.

Este error ocurre por uno de los siguientes motivos:

• Excediste una de las cuotas de Compute Engine en las que se basa la creación de trabajadores de Dataflow.
• Tu organización tiene restricciones que prohíben algún aspecto del proceso de creación de instancias de VM, como la cuenta que se usa o la zona a la que se orienta.

Para resolver este problema, sigue estos pasos:

Revisa el registro de instancias de VM

1. Ve al visor de Cloud Logging
2. En la lista desplegable Recurso auditado, selecciona Instancia de VM.
3. En la lista desplegable Todos los registros, selecciona compute.googleapis.com/activity_log
4. Analiza el registro en busca de entradas relacionadas con la falla de creación de la instancia de VM.

Verifica el uso de las cuotas de Compute Engine

1. Para ver el uso de recursos de Compute Engine en comparación con las cuotas de Dataflow de la zona a la que orientas, ejecuta el siguiente comando:

   gcloud compute regions describe [REGION]

2. Revisa los resultados de los siguientes recursos para ver si alguno supera la cuota:

   • CPU
   • DISKS_TOTAL_GB
   • IN_USE_ADDRESSES
   • INSTANCE_GROUPS
   • INSTANCES
   • REGIONAL_INSTANCE_GROUP_MANAGERS

3. Si es necesario, solicita un cambio de cuota.

Revisa las restricciones de la política de la organización

1. Ve a la página Políticas de la organización.
2. Revisa las restricciones de cualquiera que pueda limitar la creación de instancias de VM para la cuenta que usas (de forma predeterminada, la cuenta de servicio de Dataflow) o en la zona a la que se orienta.
3. Si tienes una política que restringe el uso de direcciones IP externas, desactiva las direcciones IP externas para este trabajo. Para obtener más información sobre cómo desactivar direcciones IP externas, consulta Configura el acceso a Internet y las reglas de firewall.

Se agotó el tiempo de espera para una actualización del trabajador

Cuando falla un trabajo de Dataflow, se produce el siguiente error:

Root cause: Timed out waiting for an update from the worker. For more information, see https://cloud.google.com/dataflow/docs/guides/common-errors#worker-lost-contact.

En ocasiones, este error ocurre cuando el trabajador se queda sin memoria o espacio de intercambio. Para resolver este problema, como primer paso, intenta ejecutar el trabajo de nuevo. Si el trabajo aún falla y se produce el mismo error, intenta usar un trabajador con más memoria y espacio en el disco. Por ejemplo, agrega la siguiente opción de inicio de canalización:

--worker_machine_type=m1-ultramem-40 --disk_size_gb=500

Cambiar el tipo de trabajador podría afectar el costo facturado. Para obtener más información, consulta Cómo solucionar problemas de errores de memoria en Dataflow.

Este error también puede ocurrir cuando tus datos contienen una clave de acceso rápido. En esta situación, el uso de CPU es alto en algunos trabajadores durante la mayor parte del trabajo. Sin embargo, la cantidad de trabajadores no alcanza el máximo permitido. Para obtener más información sobre las claves de acceso rápido y sus posibles soluciones, consulta Escribe canalizaciones de Dataflow teniendo en cuenta la escalabilidad.

Para obtener soluciones adicionales a este problema, consulta Se detectó una clave de acceso rápido.

Si tu código de Python llama al código de C/C++ con el mecanismo de extensión de Python, verifica si el código de la extensión libera el bloqueo de intérprete global de Python (GIL) en partes de código de procesamiento intensivo que no acceden al estado de Python. Si el GIL no se libera durante un período prolongado, es posible que veas mensajes de error como Unable to retrieve status info from SDK harness <...> within allowed time y SDK worker appears to be permanently unresponsive. Aborting the SDK.

Las bibliotecas que facilitan las interacciones con las extensiones, como Cython y PyBind, tienen primitivas para controlar el estado de GIL. También puedes liberar el GIL de forma manual y volver a adquirirlo antes de mostrar el control al intérprete de Python mediante las macro Py_BEGIN_ALLOW_THREADS y Py_END_ALLOW_THREADS. Para obtener más información, consulta Estado del subproceso y el bloqueo del intérprete global en la documentación de Python.

Es posible recuperar los seguimientos de pila de un subproceso que contiene el GIL en un trabajador de Dataflow en ejecución de la siguiente manera:

# SSH to a currently running Dataflow worker VM, for example:
gcloud compute ssh --zone "us-central1-a" "beamapp-someworker-harness-abcd" --project "project-id"

# Find a container running the Python SDK harness.
CONTAINER_ID=`docker ps | grep python | head -1 | awk '{print $1}'`

# Start a shell in the running container.
docker exec --privileged -it $CONTAINER_ID /bin/bash

# Inspect python processes in the running container.
ps -A | grep python
PYTHON_PID=$(ps -A | grep python | head -1 | awk '{print $1}')

# Use pystack to retrieve stacktraces from the python process. Note which thread holds the GIL.
pip install pystack
pystack remote $PYTHON_PID

# To look up the native (C/C++) frames, use --native-all flag or use gdb:
pystack remote --native-all $PYTHON_PID
apt update && apt install -y gdb
gdb --quiet \
  --eval-command="set pagination off" \
  --eval-command="thread apply all bt" \
  --eval-command "set confirm off" \
  --eval-command="quit"  -p $PYTHON_PID

En las canalizaciones de Python, en la configuración predeterminada, Dataflow supone que cada proceso de Python que se ejecuta en los trabajadores usa un núcleo de CPU virtual de manera eficiente. Si el código de la canalización omite las limitaciones, por ejemplo, mediante bibliotecas implementadas en C++, los elementos de procesamiento pueden usar recursos de más de un núcleo de CPU virtual y es posible que los trabajadores no tengan suficientes recursos de CPU. Para solucionar este problema, reduce la cantidad de subprocesos en los trabajadores.

Errores transitorios de publicación en el tema

Cuando tu trabajo de transmisión usa el modo de transmisión al menos una vez y publica en un receptor de Pub/Sub, aparece el siguiente error en los registros del trabajo:

There were transient errors publishing to topic

Si tu trabajo se ejecuta de forma correcta, este error es benigno y puedes ignorarlo. Dataflow vuelve a intentar enviar los mensajes de Pub/Sub de forma automática con una demora de retirada.

Problemas de dependencia de Java

Las clases y bibliotecas incompatibles pueden causar problemas de dependencia de Java. Cuando tu canalización tiene problemas de dependencia de Java, puede ocurrir uno de los siguientes errores:

• NoClassDefFoundError: Este error ocurre cuando una clase completa no está disponible durante el tiempo de ejecución.
• NoSuchMethodError: Este error se produce cuando la clase en la ruta de clase usa una versión que no contiene el método correcto o cuando cambió la firma del método.
• NoSuchFieldError: Este error se produce cuando la clase en la ruta de clase usa una versión que no tiene un campo obligatorio durante el entorno de ejecución.
• FATAL ERROR in native method: Este error ocurre cuando una dependencia integrada no se puede cargar de forma correcta. Cuando uses JAR uber (sombreado), no incluyas bibliotecas que usen firmas (como Conscrypt) en el mismo JAR.

If your pipeline contains user-specific code and settings, the code can't contain mixed versions of libraries. If you're using a dependency management library, we recommend that you use Google Cloud Libraries BOM.

Si usas el SDK de Apache Beam, para importar las bibliotecas BOM de bibliotecas correctas, usa beam-sdks-java-io-google-cloud-platform-bom:

Maven

<dependencyManagement>
  <dependencies>
    <dependency>
      <groupId>org.apache.beam</groupId>
      <artifactId>beam-sdks-java-google-cloud-platform-bom</artifactId>
      <version>BEAM_VERSION</version>
      <type>pom</type>
      <scope>import</scope>
    </dependency>
  </dependencies>
</dependencyManagement>

Gradle

dependencies {
    implementation(platform("org.apache.beam:beam-sdks-java-google-cloud-platform-bom:BEAM_VERSION"))
}

Para obtener más información, consulta Administra dependencias de canalización en Dataflow.

InaccessibleObjectException en JDK 17 y versiones posteriores

Cuando ejecutas canalizaciones con Java Platform, Standard Edition Development Kit (JDK) versiones 17 y posteriores, puede aparecer el siguiente error en los archivos de registro del trabajador:

Unable to make protected METHOD accessible:
    module java.MODULE does not "opens java.MODULE" to ...

Este problema se produce porque, a partir de Java 9, se necesitan opciones de máquina virtual Java (JVM) de módulo abierto para acceder a los componentes internos del JDK. En Java 16 y versiones posteriores, las opciones de JVM de módulo abierto siempre son necesarias para acceder a los componentes internos de JDK.

A fin de resolver este problema, cuando pases módulos a tu canalización de Dataflow para abrirlos, usa el formato MODULE/PACKAGE=TARGET_MODULE(,TARGET_MODULE)* con la opción de canalización jdkAddOpenModules. Este formato permite el acceso a la biblioteca necesaria.

Por ejemplo, si el error es module java.base does not "opens java.lang" to unnamed module @..., incluye la siguiente opción de canalización cuando ejecutes tu canalización:

--jdkAddOpenModules=java.base/java.lang=ALL-UNNAMED

For more information, see the DataflowPipelineOptions class documentation.

Errores del conector de BigQuery

Las siguientes secciones contienen errores comunes del conector de BigQuery que puedes encontrar y pasos para resolverlos o solucionarlos.

quotaExceeded

Cuando usas el conector de BigQuery para escribir en BigQuery mediante inserciones de transmisión, la capacidad de procesamiento de escritura es menor que la esperada y puede ocurrir el siguiente error:

quotaExceeded

Una capacidad de procesamiento lenta puede deberse a que la canalización excede la cuota de inserción de transmisión de BigQuery disponible. Si este es el caso, los mensajes de error relacionados con las cuotas de BigQuery aparecen en los registros del trabajador de Dataflow (busca errores quotaExceeded).

Si ves errores quotaExceeded, para resolver este problema, haz lo siguiente:

• Cuando uses el SDK de Apache Beam para Java, configura la opción de receptor de BigQuery ignoreInsertIds().
• Cuando uses el SDK de Apache Beam para Python, usa la opción ignore_insert_ids.

Esta configuración hace que seas apto para una capacidad de procesamiento de inserción de transmisión de BigQuery de un GB/s por proyecto. Para obtener más información sobre las advertencias relacionadas con la anulación de duplicación automática de mensajes, consulta la documentación de BigQuery. Si quieres aumentar la cuota de inserción de transmisión de BigQuery por encima de un GBps, envía una solicitud a través de la consola de Google Cloud.

Si no ves errores relacionados con la cuota en los registros de trabajadores, el problema podría ser que los parámetros predeterminados relacionados con la agrupación en paquetes o en lotes no proporcionen un paralelismo adecuado para que la canalización realice un escalamiento. Puedes ajustar varias opciones de configuración relacionadas con el conector de BigQuery de Dataflow para lograr el rendimiento esperado cuando escribes en BigQuery mediante inserciones de transmisión. Por ejemplo, en el SDK de Apache Beam para Java, ajusta numStreamingKeys a fin de que coincida con la cantidad máxima de trabajadores y considera aumentar insertBundleParallelism para configurar el conector de BigQuery con el objetivo de escribir en BigQuery mediante más subprocesos paralelos.

Si deseas conocer las opciones de configuración disponibles en el SDK de Apache Beam para Java, consulta BigQueryPipelineOptions. Obtén información sobre las opciones de configuración disponibles en el SDK de Apache Beam para Python en la página sobre transformaciones WriteToBigQuery.

rateLimitExceeded

Cuando usas el conector de BigQuery, se produce el siguiente error:

rateLimitExceeded

Este error ocurre si se envían demasiadas solicitudes a la API durante un período breve. BigQuery tiene límites de cuota a corto plazo. Es posible que la canalización de Dataflow exceda de forma temporal esa cuota. Cuando esto sucede, las solicitudes a la API de tu canalización de Dataflow a BigQuery pueden fallar, lo que puede generar errores rateLimitExceeded en los registros de trabajador.

Dataflow reintenta estas fallas, por lo que puedes ignorar estos errores de forma segura. Si crees que la canalización se ve afectada por errores rateLimitExceeded, comunícate con Atención al cliente de Cloud.

Otros errores

Las siguientes secciones contienen varios errores que puedes encontrar y pasos para resolverlos o solucionarlos.

No se puede asignar sha384

Tu trabajo se ejecuta de forma correcta, pero ves el siguiente error en los registros de trabajos:

ima: Can not allocate sha384 (reason: -2)

Si tu trabajo se ejecuta de forma correcta, este error es benigno y puedes ignorarlo. Las imágenes base de la VM de trabajador a veces producen este mensaje. Dataflow responde y aborda de forma automática el problema subyacente.

Existe una solicitud de función para cambiar el nivel de este mensaje de WARN a INFO. Para obtener más información, consulta Baja el nivel de registro de error de inicio del sistema de Dataflow a WARN o INFO.

Se produjo un error cuando se inicializaba el sistema de sondeo del complemento dinámico

Tu trabajo se ejecuta de forma correcta, pero ves el siguiente error en los registros de trabajos:

Error initializing dynamic plugin prober" err="error (re-)creating driver directory: mkdir /usr/libexec/kubernetes: read-only file system

Si tu trabajo se ejecuta de forma correcta, este error es benigno y puedes ignorarlo. Este error se produce cuando el trabajo de Dataflow intenta crear un directorio sin los permisos de escritura necesarios y la tarea falla. Si el trabajo se realizó de forma correcta, el directorio no era necesario, o Dataflow abordó el problema subyacente.

Existe una solicitud de función para cambiar el nivel de este mensaje de WARN a INFO. Para obtener más información, consulta Baja el nivel de registro de error de inicio del sistema de Dataflow a WARN o INFO.

No existe el objeto pipeline.pb

Cuando se enumeran trabajos con la opción JOB_VIEW_ALL, se produce el siguiente error:

No such object: BUCKET_NAME/PATH/pipeline.pb

Este error puede ocurrir si borras el archivo pipeline.pb de los archivos de etapa de pruebas del trabajo.

Omite la sincronización de Pods

Tu trabajo se ejecuta de forma correcta, pero ves uno de los siguientes errores en los registros del trabajo:

Skipping pod synchronization" err="container runtime status check may not have completed yet"

Como alternativa, puedes hacer lo siguiente:

Skipping pod synchronization" err="[container runtime status check may not have completed yet, PLEG is not healthy: pleg has yet to be successful]"

Si tu trabajo se ejecuta de forma correcta, estos errores son benignos y puedes ignorarlos. El mensaje container runtime status check may not have completed yet ocurre cuando el kubelet de Kubernetes omite la sincronización de Pods porque espera a que se inicialice el entorno de ejecución del contenedor. Esta situación ocurre por varias razones, como cuando el entorno de ejecución del contenedor se inició o se está reiniciando recientemente.

Cuando el mensaje incluye PLEG is not healthy: pleg has yet to be successful, Kubelet espera a que el generador de eventos de ciclo de vida del Pod (PLEG) esté en buen estado antes de sincronizar los Pods. El PLEG es responsable de generar eventos que kubelet usa para realizar un seguimiento del estado de los Pods.

Existe una solicitud de función para cambiar el nivel de este mensaje de WARN a INFO. Para obtener más información, consulta Baja el nivel de registro de error de inicio del sistema de Dataflow a WARN o INFO.

Recomendaciones

Para obtener orientación sobre las recomendaciones que generan las estadísticas de Dataflow, consulta Estadísticas.