本页面介绍了如何将 Looker 连接到 Apache Spark 3。
Looker 通过与 Spark Thrift Server 的 JDBC 连接连接到 Apache Spark 3+。
加密网络流量
最佳实践是对 Looker 应用和数据库之间的网络流量进行加密。考虑启用安全的数据库访问文档页面中介绍的某个选项。
创建 Looker 与数据库的连接
在 Looker 的管理部分中,选择连接,然后点击添加连接。
填写连接详情。大多数设置对大多数数据库方言是通用的。如需了解详情,请参阅将 Looker 连接到您的数据库文档页面。下面将介绍其中一些设置:
- 名称:连接的名称。这是在 LookML 模型中引用连接的方式。
- 拨号器:选择 Apache Spark 3+。
- 主机:Thrift 服务器主机。
- 端口:Thrift 服务器端口(默认为 10000)。
- 数据库:要进行建模的默认架构/数据库。如果没有为表指定数据库,则假定如此。
- 用户名:Looker 将作为其进行身份验证的用户。
- 密码:Looker 用户的可选密码。
- 启用 PDT:使用此切换开关可启用永久性派生表。启用 PDT 后,连接窗口会显示其他 PDT 设置以及 PDT 覆盖部分。
- 临时数据库:用于存储 PDT 的临时架构/数据库。必须事先使用
CREATE SCHEMA looker_scratch;
等语句进行创建。 - 其他 JDBC 参数:在此处添加任何其他 Hive JDBC 参数,例如:
;spark.sql.inMemoryColumnarStorage.compressed=true
;auth=noSasl
- SSL:请勿选中此选项。
- 数据库时区:Spark 中存储的数据的时区。通常情况下,可以留空或设置为世界协调时间 (UTC)。
- 查询时区:用于显示 Looker 中查询的数据的时区。
如需验证连接是否成功,请点击 Test。如需了解问题排查信息,请参阅测试数据库连接文档页面。
如需保存这些设置,请点击连接。
功能支持
为了让 Looker 支持某些功能,您的数据库方言也必须支持这些功能。
Apache Spark 3 或更高版本
从 Looker 24.8 开始,Apache Spark 3+ 支持以下功能:
特征 | 是否支持? |
---|---|
支持级别 | 受支持 |
Looker (Google Cloud Core) | 是 |
对称聚合 | 是 |
派生表 | 是 |
永久性 SQL 派生表 | 是 |
永久性原生派生表 | 是 |
稳定版视图 | 是 |
查询终止 | 是 |
基于 SQL 的数据透视 | 是 |
时区 | 是 |
SSL | 是 |
小计 | 是 |
JDBC 其他参数 | 是 |
区分大小写 | 是 |
位置类型 | 是 |
列表类型 | 是 |
百分位 | 是 |
非重复百分位 | 否 |
SQL Runner 显示进程 | 否 |
SQL Runner 描述表 | 是 |
SQL Runner 显示索引 | 否 |
SQL Runner 优选 10 | 是 |
SQL 运行程序数量 | 是 |
SQL 说明 | 是 |
OAuth 凭据 | 否 |
上下文注释 | 是 |
连接池 | 否 |
HLL 素描 | 否 |
总体认知度 | 是 |
递增 PDT | 否 |
毫秒 | 是 |
微秒 | 是 |
具体化视图 | 否 |
近似计数不重复 | 否 |
后续步骤
创建连接后,请设置身份验证选项。