Acelera tu aprendizaje y crecimiento con Google Cloud Innovators. Unirse ahora

Professional Data Engineer

Guía para el examen de certificación

El Professional Data Engineer hace posible la toma de decisiones basada en datos mediante la recopilación, transformación y publicación de estos. El Data Engineer debe ser capaz de diseñar, compilar, poner en funcionamiento, proteger y supervisar los sistemas de procesamiento de datos, con especial énfasis en la seguridad, el cumplimiento, la escalabilidad, la eficiencia, la confiabilidad, la fidelidad, la flexibilidad y la portabilidad. Además, el Data Engineer debe ser capaz de aprovechar, implementar y entrenar constantemente los modelos preexistentes de aprendizaje automático.


Sección 1: Diseño de sistemas de procesamiento de datos

1.1 Selección de tecnologías de almacenamiento adecuadas. Se incluyen las siguientes consideraciones:

    a. Correspondencias entre sistemas de almacenamiento y requisitos comerciales

    b. Modelado de datos

    c. Concesiones entre la latencia, la capacidad de procesamiento y las transacciones

    d. Sistemas distribuidos

    e. Diseñe esquemas

1.2 Diseño de canalizaciones de datos. Se incluyen las siguientes consideraciones:

    a. Visualización y publicación de datos (p. ej., BigQuery)

    b. Lote y transmisión de datos (p. ej., Dataflow, Dataproc, Apache Beam, Apache Spark y el ecosistema de Hadoop, Pub/Sub, Apache Kafka)

    c. Predicciones en línea (interactivas) frente a predicciones por lotes

    d. Automatización y organización de trabajos (p. ej., Cloud Composer)

1.3 Diseño de una solución de procesamiento de datos. Se incluyen las siguientes consideraciones:

    a. Elección de la infraestructura

    b. Tolerancia a errores y disponibilidad del sistema

    c. Uso de sistemas distribuidos

    d. Planificación de la capacidad

    e. Procesamiento perimetral y nube híbrida

    f. Opciones de arquitectura (p. ej., agentes de mensajes, colas de mensajes, middleware, arquitectura orientada a servicios y funciones sin servidores)

    g. Procesamiento de eventos del tipo “al menos una vez”, “en orden” y “exactamente una vez”, entre otros

1.4 Migración del procesamiento y almacenamiento de datos. Se incluyen las siguientes consideraciones:

    a. Conocimiento del estado actual de los diseños y de maneras de migrarlos a un estado futuro

    b. Migración desde una ubicación local hacia la nube (Servicio de transferencia de datos, Transfer Appliance y Cloud Networking)

    c. Validación de migraciones

Sección 2: Compilación y puesta en funcionamiento de sistemas de procesamiento de datos

2.1 Creación y operación de sistemas de almacenamiento. Se incluyen las siguientes consideraciones:

    a. Uso eficaz de servicios administrados (Cloud Bigtable, Cloud Spanner, Cloud SQL, BigQuery, Cloud Storage, Datastore y Memorystore)

    b. Rendimiento y costos de almacenamiento

    c. Administración del ciclo de vida de los datos

2.2 Creación y puesta en funcionamiento de canalizaciones. Se incluyen las siguientes consideraciones:

    a. Limpieza de datos

    b. Lotes y transmisión

    c. Transformación

    d. Importación y adquisición de datos

    e. integración con fuentes de datos nuevas

2.3 Compilación y puesta en funcionamiento de infraestructuras de procesamiento. Se incluyen las siguientes consideraciones:

    a. Aprovisionamiento de recursos

    b. Supervisión de canalizaciones

    c. Ajuste de canalizaciones

    d. Pruebas y control de calidad

Sección 3: Puesta en funcionamiento de modelos de aprendizaje automático

3.1 Aprovechamiento de modelos de AA prediseñados como servicio. Se incluyen las siguientes consideraciones:

    a. API de AA (p. ej., API de Vision y API de Speech)

    b. Personalización de las API de AA (p. ej., AutoML Vision y texto de Auto ML)

    c. Experiencias de conversación (p. ej., Dialogflow)

3.2 Implementación de una canalización de AA. Se incluyen las siguientes consideraciones:

    a. Transferencia de datos adecuados

    b. Perfeccionamiento de los modelos de aprendizaje automático (AI Platform Prediction and Training, BigQuery ML, Kubeflow y Spark ML)

    c. Evaluación continua

3.3 Elección de la infraestructura adecuada de servicios y entrenamiento. Se incluyen las siguientes consideraciones:

    a. Máquina individual frente a infraestructura distribuida

    b. Uso de procesamiento perimetral

    c. Aceleradores de hardware (p. ej., GPU y TPU)

3.4 Medición, supervisión y solución de problemas con los modelos de aprendizaje automático. Se incluyen las siguientes consideraciones:

    a. Terminología de aprendizaje automático (p. ej., funciones, etiquetas, modelos, regresión, clasificación, recomendación, aprendizaje supervisado y no supervisado, y métricas de evaluación)

    b. Impacto de las dependencias de los modelos de aprendizaje automático

    c. Fuentes comunes de errores (p. ej., suposiciones sobre los datos)

Sección 4. Garantía de calidad de las soluciones

4.1 Diseño para la seguridad y el cumplimiento. Se incluyen las siguientes consideraciones:

    a. Administración de identidades y accesos (p. ej., Cloud IAM)

    b. Seguridad de los datos (administración de claves y encriptación)

    c. Garantía de privacidad (p. ej., API de Data Loss Prevention)

    d. Cumplimiento de normativas (p. ej., Ley de Responsabilidad y Portabilidad de Seguros Médicos [HIPAA], Ley de Protección de la Privacidad de Menores en Internet [COPPA], FedRAMP y Reglamento General de Protección de Datos [GDPR])

4.2 Garantía de escalabilidad y eficiencia. Se incluyen las siguientes consideraciones:

    a. Compilación y ejecución de paquetes de prueba

    b. Supervisión de canalizaciones (p. ej., Cloud Monitoring)

    c. Evaluación, solución de problemas y mejora de las representaciones de datos y la infraestructura de procesamiento de datos

    d. Ajuste de escala automático y cambio de tamaño de recursos

4.3 Garantía de confiabilidad y fidelidad. Se incluyen las siguientes consideraciones:

    a. Preparación de datos y realización de controles de calidad (p. ej., Dataprep) Dataprep)

    b. Verificación y supervisión

    c. Planificación y ejecución de la recuperación de datos, y pruebas de esfuerzo respecto de los procedimientos correspondientes (p. ej., tolerancia a errores, nueva ejecución de trabajos fallidos y nuevos análisis retrospectivos)

    d. Elección entre ACID, tareas idempotentes y requisitos con coherencia eventual

4.4 Seguridad de la flexibilidad y portabilidad. Se incluyen las siguientes consideraciones:

    a. Correspondencias respecto de requisitos comerciales actuales y futuros

    b. Diseño de la portabilidad de aplicaciones y datos (p. ej., requisitos de residencia de datos en varias nubes)

    c. Descubrimiento, categorización y etapa de pruebas de datos