Componente opcional de Presto de Dataproc

Nota: El componente opcional de Presto está disponible como componente opcional de Trino en la versión 2.1 y en versiones posteriores de la imagen.

Puedes instalar componentes adicionales, como Presto cuando creas un clúster de Dataproc, mediante la función Componentes opcionales. En esta página, se describe cómo instalar opcionalmente el componente Presto en un clúster de Dataproc.

Presto (Trino) es un motor de consulta en SQL distribuido de código abierto. El servidor Presto y la IU web están disponibles de forma predeterminada en el puerto 8060 (o el puerto 7778 si está habilitado Kerberos) en el primer nodo principal del clúster.

De forma predeterminada, Presto en Dataproc está configurado para funcionar con connectors Hive, BigQuery, Memory, TPCH y TPCDS.

Después de crear un clúster con el componente Presto, puedes ejecutar consultas:

• desde una terminal local con el comando gcloud dataproc jobs submit presto
• desde una ventana de la terminal en el primer nodo principal del clúster con la CLI de presto (interfaz de línea de comandos); consulta Usa Trino con Dataproc

Instala el componente

Instala el componente cuando crees un clúster de Dataproc. Los componentes se pueden agregar a los clústeres creados con la versión 1.3 de Dataproc y las posteriores.

Consulta las versiones compatibles de Dataproc para la versión del componente incluida en cada versión de la imagen de Dataproc.

Comando de gcloud

Para crear un clúster de Dataproc que incluya el componente Presto, usa el comando gcloud dataproc clusters create cluster-name con la marca --optional-components.

Cuando crees el clúster, usa el comando gcloud dataproc clusters create con la marca --enable-component-gateway, como se muestra a continuación, para habilitar la conexión a la IU web de Presto mediante la puerta de enlace de componentes.

gcloud dataproc clusters create cluster-name \
    --optional-components=PRESTO \
    --region=region \
    --enable-component-gateway \
    ... other flags

Configura propiedades

Agrega la marca --properties al comando gcloud dataproc clusters create para establecer las propiedades de configuración presto, presto-jvm y presto-catalog.

• Propiedades de la aplicación: Usa las propiedades del clúster con el prefijo presto: para configurar las propiedades de la aplicación de Presto, por ejemplo, --properties="presto:join-distribution-type=AUTOMATIC".
• Propiedades de configuración de JVM: Usa las propiedades del clúster con el prefijo presto-jvm: para configurar las propiedades de JVM del coordinador de Presto y los procesos de Java de los trabajadores. Por ejemplo, --properties="presto-jvm:XX:+HeapDumpOnOutOfMemoryError".
• Crea nuevos catálogos y agrega propiedades de catálogo: Usa presto-catalog:catalog-name.property-name para configurar los catálogos de Presto.

  Ejemplo: La siguiente marca "propiedades" se puede usar con el comando "gcloud dataproc clusters create" para crear un clúster de Presto con un catálogo de Hive "prodhive". Se creará un archivo prodhive.properties en /usr/lib/presto/etc/catalog/ para habilitar el catálogo de prodhive.

  --properties="presto-catalog:prodhive.connector.name=hive-hadoop2,presto-catalog:prodhive.hive.metastore.uri=thrift://localhost:9083

API de REST

El componente de Presto se puede especificar a través de la API de Dataproc mediante SoftwareConfig.Component como parte de una solicitud clusters.create.

Con la API de v1 de Dataproc, configura la propiedad EndpointConfig.enableHttpPortAccess en true como parte de la solicitud clusters.create para habilitar la conexión a la IU web de Presto con la puerta de enlace de componentes.

Console

1. Habilita el componente y la puerta de enlace del componente.
   • En la consola de Google Cloud, abre la página Crear un clúster de Dataproc. Se selecciona el panel Configurar clúster.
   • En la sección Componentes, haz lo siguiente:
     • En componentes opcionales, selecciona Presto y otros componentes opcionales para instalar en tu clúster.
     • En Puerta de enlace de componentes, selecciona Habilitar puerta de enlace de componentes (consulta Visualiza y accede a las URL de la puerta de enlace de componentes).