Componente Trino opcional de Dataproc

Puedes instalar componentes adicionales, como Trino, cuando creas un clúster de Dataproc con la función de componentes opcionales. En esta página, se describe cómo instalar opcionalmente el componente Trino en un clúster de Dataproc.

Trino es un motor de consulta en SQL distribuido de código abierto. El servidor de Trino y la IU web están disponibles de forma predeterminada en el puerto 8060 (o el puerto 7778 si está habilitado Kerberos) en el primer nodo principal del clúster.

De forma predeterminada, Trino en Dataproc está configurado para funcionar con conectores Hive, BigQuery, Memory, TPCH y TPCDS.

Después de crear un clúster con el componente Trino, puedes ejecutar consultas:

• desde una terminal local con el comando gcloud dataproc jobs submit trino
• desde una ventana de terminal en el primer nodo principal del clúster con la CLI (interfaz de línea de comandos) de trino; consulta Usa Trino con Dataproc

Instala el componente

Instala el componente cuando crees un clúster de Dataproc.

Consulta las versiones compatibles de Dataproc para la versión del componente incluida en cada versión de la imagen de Dataproc.

Console

1. En la consola de Google Cloud , ve a la página Crear un clúster de Dataproc.

   Ir a Crea un clúster

   Se selecciona el panel Configura el clúster.

2. En la sección Componentes, sigue estos pasos:
   • En Componentes opcionales, selecciona Trino y otros componentes opcionales para instalar en tu clúster.
   • En Puerta de enlace de componentes, selecciona Habilitar puerta de enlace de componentes (consulta Visualiza y accede a las URLs de la puerta de enlace de componentes).

gcloud CLI

Para crear un clúster de Dataproc que incluya el componente Trino, usa el comando gcloud dataproc clusters create con la marca --optional-components.

gcloud dataproc clusters create CLUSTER_NAME \
    --optional-components=TRINO \
    --region=region \
    --enable-component-gateway \
    ... other flags
    

Notas:

• CLUSTER_NAME: el nombre del clúster.
• REGION: Es una región de Compute Engine en la que se ubicará el clúster.

Configura propiedades

Agrega la marca --properties al comando gcloud dataproc clusters create para establecer las propiedades de configuración trino, trino-jvm y trino-catalog.

• Propiedades de la aplicación: Usa las propiedades del clúster con el prefijo trino: para configurar las propiedades de la aplicación Trino; por ejemplo, --properties="trino:join-distribution-type=AUTOMATIC".
• Propiedades de configuración de JVM: Usa las propiedades del clúster con el prefijo trino-jvm: para configurar las propiedades de JVM del coordinador de Trino y los procesos de Java de los trabajadores. Por ejemplo, --properties="trino-jvm:XX:+HeapDumpOnOutOfMemoryError".
• Crea nuevos catálogos y agrega propiedades de catálogo: Usa trino-catalog:catalog-name.property-name para configurar los catálogos de Trino.

  Ejemplo: La siguiente marca "properties" se puede usar con el comando "gcloud dataproc clusters create" para crear un clúster de Trino con un catálogo de Hive "prodhive". Se creará un archivo prodhive.properties en /usr/lib/trino/etc/catalog/ para habilitar el catálogo de prodhive.

  --properties="trino-catalog:prodhive.connector.name=hive,trino-catalog:prodhive.hive.metastore.uri=thrift://localhost:9000"

API de REST

El componente de Trino se puede especificar a través de la API de Dataproc con SoftwareConfig.Component como parte de una solicitud clusters.create.

Con la API de Dataproc v1, establece la propiedad EndpointConfig.enableHttpPortAccess en true como parte de la solicitud clusters.create para habilitar la conexión a la IU web de Trino con la puerta de enlace de componentes.