Mainframe Connector 架构

Mainframe Connector 通常作为 Java 应用进行部署。由于该应用是自包含的,因此您只需安装 IBM JRE 版本 8IBM JRE 版本 17 即可部署 Mainframe Connector。作业控制语言 (JCL) 过程是可用于调用 Mainframe Connector 的前端。下图概述了 Mainframe Connector 架构。

Mainframe Connector 架构
Mainframe Connector 架构

将数据文件上传到 Cloud Storage 时,Mainframe Connector 会使用 IBM z Integrated Information Processor (zIIP) 或通用处理器 (GP) 直接与 Cloud Storage API 通信。您还可以部署远程服务,将部分计算任务分流到 Google Cloud

将数据文件上传到 Cloud Storage 后,Mainframe Connector 会向 gRPC 服务发送远程过程调用 (RPC),以指示文件的位置、记录布局和输出位置。gRPC 服务从 Cloud Storage 读取文件,对数据进行转码,然后将多部分优化行列式 (ORC) 文件写入 Cloud Storage 输出位置。然后,Mainframe Connector 会直接与 BigQuery API 通信,以将 ORC 文件注册为外部表或将 ORC 文件加载到表中。

或者,您也可以在数据中心部署硬件设备,以使用虚拟磁带库 (VTL) 将数据直接从大型机存储系统转移到 Cloud Storage。此方法在将数据传输到 Cloud Storage 的过程中不使用 zIIP 或 GP,因为硬件设备使用 VTL 直接从大型机存储系统接收数据,根本不使用大型机。这样,大型主机就可以专注于处理关键业务任务。

数据加密

IBM 提供了一种与 JVM 搭配使用的 Java 加密扩展 (JCE) 实现,称为 Java 加密扩展通用加密架构 (IBMJCECCA)(Java 8Java 17),该实现使用 IBM z/OS 上的硬件加密系统。JVM 与 Google Cloud API 端点之间的传输层安全协议 (TLS) 连接使用 JCE 和硬件加密技术来保护提取、转换和加载 (ELT) 操作期间的数据。

JCL 过程

如需使用 JCL 过程,您必须在大型机过程库 (PROCLIB) 中安装 BQSH shell 解释器。JCL 过程中的标准环境 (STDENV) 数据用于在启动 Java 应用之前设置环境变量、JVM 实参和 Java 类路径。JCL 过程使用 IBM JVMLDM86 JVM 启动器启动 JVM 和主类 com.google.cloud.bqsh.Bqsh

BQSH shell 解释器

BQSH 主类充当 shell 解释器。它从 JCL 过程读取流输入,拆分输入行,并尝试将每一行解释为命令。

Java 应用

大型机连接器使用 Java Cloud 客户端库Apache ORC 和其他开源库。它使用 IBM 专有的 JZOS SDK 与 IBM z/OS 存储系统进行交互,并在 IBM z/OS 上的 JVM 和 Linux 上的 OpenJDK 上运行。

后续步骤