Dataproc 可选 Trino 组件

使用可选组件功能创建 Dataproc 集群时，可以安装 Trino 等其他组件。本页介绍了如何在 Dataproc 集群上选择安装 Trino 组件。

Trino 是一个开源分布式 SQL 查询引擎。默认情况下，集群的第一个主节点上的端口8060（如果已启用 Kerberos，则为端口7778）上会提供 Trino 服务器和 Web 界面。

默认情况下，Dataproc 上的 Trino 会配置为使用 Hive、BigQuery、Memory、TPCH 和 TPCDS 连接器。

使用 Trino 组件创建集群后，您可以运行查询：

安装组件

在创建 Dataproc 集群时安装组件。

如需查看每个 Dataproc 映像版本中包含的组件版本，请参阅支持的 Dataproc 版本。

gcloud 命令

如需创建包含 Trino 组件的 Dataproc 集群，请使用带有 --optional-components 标志的 gcloud dataproc clusters create cluster-name 命令。

gcloud dataproc clusters create cluster-name \
    --optional-components=TRINO \
    --region=region \
    --enable-component-gateway \
    ... other flags

配置属性

将 --properties 标志添加到 gcloud dataproc clusters create 命令以设置 Trino、Trino-jvm 和 Trino-catalog 配置属性。

  • 应用属性：使用具有 trino: 前缀的集群属性来配置 Trino 应用属性，例如 --properties="trino:join-distribution-type=AUTOMATIC"。
  • JVM 配置属性：使用具有 trino-jvm: 前缀的集群属性为 Trino 协调器和工作器 Java 进程（例如，--properties="trino-jvm:XX:+HeapDumpOnOutOfMemoryError"）配置 JVM 属性。
  • 创建新目录并添加目录属性：使用 trino-catalog:catalog-name.property-name 配置 Trino 目录。

    示例：以下 `properties` 标志可与 `gcloud dataproc clusters create` 命令配合使用，以创建具有“pro 查找”Hive 目录的 Trino 集群。系统将在 /usr/lib/trino/etc/catalog/ 下创建一个 prodhive.properties 文件，以启用正式目录。

    --properties="trino-catalog:prodhive.connector.name=hive,trino-catalog:prodhive.hive.metastore.uri=localhost:9000"

REST API

可以通过 Dataproc API 使用 SoftwareConfig.Component 将 Trino 组件指定为 clusters.create 请求的一部分。

控制台

    1. 启用组件和组件网关。
      • 在 Google Cloud 控制台中，打开 Dataproc 创建集群页面。选中“设置集群”面板。
      • 在组件部分中执行以下操作：
        • 在“可选组件”下，选择 Trino 和其他可选组件安装在集群上。
        • 在“组件网关”下，选择“启用组件网关”（请参阅查看和访问组件网关网址）。