本指南介绍如何在 Google Cloud 上为 SAP HANA 横向扩容系统部署和配置性能优化的 SUSE Linux Enterprise Server (SLES) 高可用性 (HA) 集群。
本指南包含以下步骤：
- 配置内部直通式网络负载均衡器以在发生故障时重新路由流量
- 在 SLES 上配置 Pacemaker 集群，以在故障切换期间管理 SAP 系统和其他资源
本指南还包括配置 SAP HANA 系统复制的步骤；此外，另请参阅 SAP 文档来了解权威说明。
如需部署不包含 Linux 高可用性集群或备用节点主机的 SAP HANA 系统，请参阅 SAP HANA 部署指南。
本指南适用于熟悉 SAP HANA 的 Linux 高可用性配置的 SAP HANA 高级用户。
本指南部署的系统
按照本指南，您将部署一个为获得全可用区冗余而配置的多节点 SAP HANA HA 系统，并使用一个附加实例充当决胜者，也称为决胜节点，以确保在丢失一个可用区时，维持集群法定数。
最终部署包含以下资源：
- 主要站点和辅助站点，其中每个实例具有一个可用区级的对应实例。
- 为进行同步复制而配置的两个网站。
- 充当决胜者的单个计算实例。
- 具有防护机制的 Pacemaker 高可用性集群资源管理器。
- 挂接到每个 SAP HANA 实例的 SAP HANA 数据和日志卷的永久性磁盘。
本指南介绍了如何使用 Google Cloud 提供的 Terraform 模板来部署 Compute Engine 虚拟机 (VM) 和 SAP HANA 实例，以确保虚拟机和基本 SAP HANA 系统满足 SAP 可支持性要求并遵循当前的最佳实践。
本指南使用 SAP HANA Studio 来测试 SAP HANA 系统复制。如果愿意，您也可以改为使用 SAP HANA Cockpit。如需了解如何安装 SAP HANA Studio，请参阅：
前提条件
在创建 SAP HANA 高可用性集群之前，请确保满足以下前提条件：
- 您已阅读 SAP HANA 规划指南和 SAP HANA 高可用性规划指南。
- 您或您的组织已有一个 Google Cloud 账号，并且您已为 SAP HANA 部署创建了一个项目。如需了解如何创建 Google Cloud 账号和项目，请参阅 SAP HANA 部署指南中的设置 Google 账号。
- 如果您需要 SAP 工作负载根据数据驻留、访问权限控制、支持人员或监管要求运行，则必须创建所需的 Assured Workloads 文件夹。如需了解详情，请参阅 SAP on Google Cloud 的合规性和主权控制。
SAP HANA 安装媒体存储在可用于您的部署项目和区域的 Cloud Storage 存储桶中。如需了解如何将 SAP HANA 安装媒体上传到 Cloud Storage 存储桶，请参阅 SAP HANA 部署指南中的下载 SAP HANA。
如果在项目元数据中启用了 OS Login，则需要暂时停用 OS Login，直到部署完成。出于部署目的，此过程会在实例元数据中配置 SSH 密钥。启用 OS Login 后，基于元数据的 SSH 密钥配置会停用，并且此部署将失败。部署完成后，您可以再次启用 OS Login。
如需了解详情，请参阅以下主题：
如果您使用的是 VPC 内部 DNS，则项目元数据中
vmDnsSetting变量的值必须为GlobalOnly或ZonalPreferred，才能支持跨可用区解析节点名称。vmDnsSetting的默认设置为ZonalOnly。如需了解详情，请参阅以下主题：您已有一个 NFS 解决方案（例如代管式 Filestore 解决方案），用于在横向扩容 SAP HANA 系统中的主机之间共享 SAP HANA
/hana/shared和/hanabackup卷。如需部署 Filestore NFS 服务器，请参阅创建实例。- 请注意，主要网站和次要网站必须能够访问自己的专用 NFS 路径，以避免覆盖数据。若要使用单个 Filestore 实例，则必须将部署配置为使用不同的子目录作为装载路径。
创建网络
出于安全考虑，建议您创建一个新的网络。您可以通过添加防火墙规则或使用其他访问权限控制方法来控制哪些人有权访问该网络。
如果您的项目具有默认 VPC 网络，请勿使用。 请创建自己的 VPC 网络，以保证只有您明确创建的防火墙规则在起作用。
在部署期间，虚拟机实例通常需要访问互联网来下载 Google Cloud's Agent for SAP。如果您使用的是由 Google Cloud 提供的某一经 SAP 认证的 Linux 映像，那么虚拟机实例还需要访问互联网来注册许可以及访问操作系统供应商代码库。具有 NAT 网关和虚拟机网络标记的配置支持这种访问，即使目标虚拟机没有外部 IP 地址，也是如此。
如需设置网络，请执行以下操作：
控制台
- 在 Google Cloud 控制台中，转到 VPC 网络页面。
- 点击创建 VPC 网络。
- 输入网络的名称。
名称必须遵循命名惯例。VPC 网络使用 Compute Engine 命名惯例。
- 对于子网创建模式，选择自定义。
- 在新子网部分，为子网指定以下配置参数：
- 输入子网的名称。
- 对于区域，请选择您要在其中创建子网的 Compute Engine 区域。
- 对于 IP 栈类型，请选择 IPv4（单栈），然后输入 CIDR 格式的 IP 地址范围，例如
10.1.0.0/24。这是子网的主要 IPv4 地址范围。如果您计划添加多个子网，请为网络中的每个子网分配互不重叠的 CIDR IP 地址范围。请注意，每个子网及其内部 IP 地址范围都映射到一个区域。
- 点击完成。
- 如需添加更多子网，请点击添加子网，然后重复上述步骤。您可以在创建网络后向网络添加更多子网。
- 点击创建。
gcloud
- 转至 Cloud Shell。
- 如需在自定义子网模式下创建新网络，请运行以下命令：
gcloud compute networks create NETWORK_NAME --subnet-mode custom
将
NETWORK_NAME替换为新网络的名称。名称必须遵循命名惯例。VPC 网络使用 Compute Engine 命名惯例。指定
--subnet-mode custom可避免使用默认的自动模式，该模式会自动在每个 Compute Engine 区域创建一个子网。如需了解详情，请参阅子网创建模式。 - 创建一个子网，并指定区域和 IP 地址范围：
gcloud compute networks subnets create SUBNETWORK_NAME \ --network NETWORK_NAME --region REGION --range RANGE替换以下内容：
SUBNETWORK_NAME：新子网的名称NETWORK_NAME：您在上一步中创建的网络的名称REGION：该子网所在的区域RANGE：以 CIDR 格式指定的 IP 地址范围，例如10.1.0.0/24如果您计划添加多个子网，请为网络中的每个子网分配互不重叠的 CIDR IP 地址范围。请注意，每个子网及其内部 IP 地址范围均映射到一个区域。
- （可选）重复上述步骤并添加更多子网。
设置 NAT 网关
如果您需要创建一个或多个没有公共 IP 地址的虚拟机，则需要使用网络地址转换 (NAT) 以使虚拟机能够访问互联网。使用 Cloud NAT，这是 Google Cloud 提供的一项软件定义的代管式服务，可让虚拟机将出站数据包发送到互联网，并接收任何对应的已建立入站响应数据包。或者，您可以将单独的虚拟机设置为 NAT 网关。
如需为项目创建 Cloud NAT 实例，请参阅使用 Cloud NAT。
为项目配置 Cloud NAT 后，虚拟机实例可以在没有公共 IP 地址的情况下安全地访问互联网。
添加防火墙规则
默认情况下，隐式防火墙规则会阻止从 Virtual Private Cloud (VPC) 网络外部传入的连接。如需允许传入的连接，请为您的虚拟机设置防火墙规则。在与虚拟机建立传入的连接后，防火墙会允许通过此连接的双向流量。
您还可以创建防火墙规则，允许对指定端口进行外部访问，或限制同一网络中各虚拟机之间的访问。如果使用 default VPC 网络类型，则系统还会应用一些其他默认规则（例如 default-allow-internal 规则），以允许在同一网络中所有端口上的各虚拟机之间建立连接。
您可能需要通过创建防火墙规则来隔离或限制与数据库主机的连接，具体取决于适用于您的环境的 IT 政策。
根据您的使用场景，您可以创建防火墙规则来允许下列各项中的访问：
- 所有 SAP 产品的 TCP/IP 中列出的默认 SAP 端口。
- 从您的计算机或公司网络环境到 Compute Engine 虚拟机实例的连接。如果您不确定使用哪个 IP 地址，请与您公司的网络管理员联系。
如需创建防火墙规则，请执行以下操作：
控制台
在 Google Cloud 控制台中，进入 Compute Engine 防火墙页面。
点击页面顶部的创建防火墙规则。
- 在网络字段中，选择虚拟机所在的网络。
- 在目标字段中，指定要应用此规则的 Google Cloud 资源。例如，指定网络中的所有实例。或者，若要将规则限制为仅应用于 Google Cloud 上的特定实例，请在指定的目标标记中输入标记。
- 在来源过滤条件字段中，选择下列选项之一：
- IP 地址范围：用于允许从特定 IP 地址传入的流量。 请在来源 IP 地址范围字段中指定相应 IP 地址范围。
- 子网：用于允许从特定子网传入的流量。请在下面的子网字段中指定相应子网名称。此选项可用于允许 3 层式或横向扩缩式配置中的各虚拟机之间互相访问。
- 在协议和端口部分，选择指定的协议和端口并输入
tcp:PORT_NUMBER。
点击创建以创建防火墙规则。
gcloud
使用以下命令创建防火墙规则：
$ gcloud compute firewall-rules create firewall-name
--direction=INGRESS --priority=1000 \
--network=network-name --action=ALLOW --rules=protocol:port \
--source-ranges ip-range --target-tags=network-tags部署虚拟机和 SAP HANA
如需部署为获得全可用区冗余而配置的多节点 SAP HANA 高可用性系统，请使用适用于 SAP HANA 的 Cloud Deployment Manager 模板作为配置的基础，并使用其他模板来部署决胜实例。
部署包括以下内容：
- 两个匹配的 SAP HANA 系统，每个系统有两个或更多工作器节点。
- 单个决胜实例（也称为决胜节点），可确保在丢失一个可用区时，维持集群法定数。
您可以将所有系统的定义添加到同一 YAML 文件中，以便 Deployment Manager 将所有资源部署在一个部署下。成功部署 SAP HANA 系统和决胜实例后，您可以定义和配置高可用性集群。
以下说明使用的是 Cloud Shell，但一般也适用于 Google Cloud CLI。
确认资源（例如永久性磁盘和 CPU）的当前配额是否满足您要安装的 SAP HANA 系统的要求。如果配额不足，则部署将失败。如需了解 SAP HANA 配额要求，请参阅有关 SAP HANA 的价格和配额考虑因素。
打开 Cloud Shell；如果已在本地工作站上安装了 gcloud CLI，则打开一个终端。
在 Cloud Shell 或 gcloud CLI 中输入以下命令，将用于 SAP HANA 高可用性集群的
template.yaml配置文件模板下载到您的工作目录中：wget https://storage.googleapis.com/cloudsapdeploy/deploymentmanager/latest/dm-templates/sap_hana/template.yaml
（可选）重命名
template.yaml文件以标识其定义的配置。在 Cloud Shell 代码编辑器中打开
template.yaml文件，如果您使用的是 gcloud CLI，则使用您选择的文本编辑器。如需打开 Cloud Shell 代码编辑器，请点击 Cloud Shell 终端窗口右上角的铅笔图标。
在
template.yaml文件中，完成主要 SAP HANA 系统的定义。通过将括号及其内容替换为安装值来指定属性值。下表介绍了这些属性。如需在不安装 SAP HANA 的情况下创建虚拟机实例，请删除或注释掉以
sap_hana_开头的所有行。属性 数据类型 说明 类型 字符串 指定要在部署期间使用的 Deployment Manager 模板的位置、类型和版本。
YAML 文件包含两个
type规范，其中一个被注释掉。默认处于活跃状态的type规范将模板版本指定为latest。注释掉的type规范使用时间戳指定特定模板版本。如果您需要所有部署都使用相同的模板版本，请使用包含时间戳的
type规范。instanceName字符串 当前正在定义的虚拟机实例的名称。 请在主虚拟机定义和辅助虚拟机定义中指定不同的名称。必须以小写字母、数字或连字符指定名称。 instanceType字符串 需要运行 SAP HANA 的 Compute Engine 虚拟机的类型。如果您需要自定义虚拟机类型，请指定一个预定义虚拟机类型，其中 vCPU 的数量最接近但仍大于所需的数量。部署完成后，修改 vCPU 数量和内存量。决胜实例的建议 instanceType至少为n1-standard-2或至少与 2 个 CPU 核心和 2 GB 内存等效。zone字符串 在其中部署您正在定义的虚拟机实例的 Google Cloud 可用区。请在同一区域中为主要 HANA、辅助 HANA 和决胜实例定义指定不同的可用区。可用区必须在您为子网选择的区域内。 subnetwork字符串 您在上一步中创建的子网的名称。如果您要部署到共享 VPC，请以 [SHAREDVPC_PROJECT]/[SUBNETWORK]的格式指定此值。例如myproject/network1。linuxImage字符串 您用于 SAP HANA 的 Linux 操作系统映像或映像系列的名称。如需指定映像系列，请将前缀 family/添加到系列名称中，例如family/sles-15-sp1-sap。如需指定某一特定映像，请仅指定该映像的名称。 如需查看可用映像和系列的列表，请参阅 Google Cloud 控制台中的映像页面。linuxImageProject字符串 您要使用的映像所属的 Google Cloud 项目。此项目可以是您自己的项目，也可以是某个 Google Cloud 映像项目，例如 suse-sap-cloud。如需详细了解 Google Cloud 映像项目，请参阅 Compute Engine 文档中的映像页面。sap_hana_deployment_bucket字符串 您在前面步骤上传的 SAP HANA 安装和修订文件所属项目中的 Google Cloud Storage 存储桶的名称。存储桶中的任何升级修订文件都将在部署过程中应用于 SAP HANA。 sap_hana_sid字符串 SAP HANA 系统 ID (SID)。 此 ID 必须由 3 个字母数字字符组成，并以字母开头。所有字母必须大写。 sap_hana_instance_number整数 SAP HANA 系统的实例编号（0 到 99）。默认值为 0。 sap_hana_sidadm_password字符串 操作系统管理员的密码。密码必须至少包含 8 个字符，并且至少包含 1 个大写字母、1 个小写字母和 1 个数字。 sap_hana_system_password字符串 数据库超级用户的密码。密码必须至少包含 8 个字符，并且至少包含 1 个大写字母、1 个小写字母和 1 个数字。 sap_hana_sidadm_uid整数 SID_LCadm用户 ID 的默认值为900，以避免用户创建的组与 SAP HANA 发生冲突。您可以根据需要将其更改为其他值。sap_hana_sapsys_gid整数 sapsys 的默认组 ID 是 79。您可以通过在其上指定一个值来根据需要替换此值。sap_hana_scaleout_nodes整数 指定 1或更大整数。sap_hana_shared_nfs字符串 /hana/shared卷的 NFS 装载点。 例如10.151.91.122:/hana_shared_nfs。sap_hana_backup_nfs字符串 /hanabackup卷的 NFS 装载点。 例如10.216.41.122:/hana_backup_nfs。networkTag字符串 表示用于防火墙或路由的虚拟机实例的网络标记。如果您指定 publicIP: No而不指定网络标记，请务必另外提供一种访问互联网的方法。nic_type字符串 可选，但建议使用（如果适用于目标机器和操作系统版本）。指定要用于虚拟机实例的网络接口。您可以指定值 GVNIC或VIRTIO_NET。如需使用 Google 虚拟 NIC (gVNIC)，您需要指定一个支持 gVNIC 的操作系统映像作为linuxImage属性的值。如需查看操作系统映像列表，请参阅操作系统详细信息。如果您没有为此属性指定值，则系统会根据您为
此参数在 Deployment Manager 模板版本instanceType属性指定的机器类型自动选择网络接口。202302060649或更高版本中提供。publicIP布尔值 可选。决定是否为虚拟机实例添加一个公共 IP 地址。默认为 Yes。serviceAccount字符串 可选。指定主机虚拟机以及主机虚拟机上运行的程序将使用的服务账号。指定服务账号的电子邮件地址。 例如，svc-acct-name@project-id.iam.gserviceaccount.com。默认情况下，系统会使用 Compute Engine 默认服务账号。如需了解详情，请参阅 Google Cloud 上的 SAP 程序的身份和访问权限管理。 创建辅助 SAP HANA 系统的定义，方法是复制主要 SAP HANA 系统的定义，然后将副本粘贴到主要 SAP HANA 系统定义后面。请参阅以下步骤的示例。
在辅助 SAP HANA 系统的定义中，为以下属性指定值（这些值不能与在主要 SAP HANA 系统定义中指定的值相同）：
nameinstanceNamezone
下载
sap_majoritymaker.yaml决胜实例配置文件：wget https://storage.googleapis.com/cloudsapdeploy/deploymentmanager/latest/dm-templates/sap_majoritymaker/template.yaml -O sap_majoritymaker.yaml
将 YAML 规范从
sap_majoritymaker.yaml文件（从第 6 行及其下方的行开始）复制并粘贴到 SAP HANAtemplate.yaml文件的底部。完成决胜实例的定义：
- 指定不同于两个 SAP HANA 系统的
zone。 - 建议的
instanceType至少为n1-standard-2，或等效于至少 2 个 CPU 核心和 2 GB 内存。
现在，您的 YAML 文件中应该列出了三个资源（两个 SAP HANA 集群和一个决胜实例）及其可配置属性。
- 指定不同于两个 SAP HANA 系统的
创建实例：
gcloud deployment-manager deployments create DEPLOYMENT_NAME --config TEMPLATE_NAME.yaml
上面的命令会调用 Deployment Manager。Deployment Manager 将完全根据
template.yaml文件中的规格部署虚拟机，从存储桶下载 SAP HANA 软件，并安装 SAP HANA。部署处理包含两个阶段。在第一阶段，Deployment Manager 会将其状态写入控制台。在第二阶段，部署脚本会将其状态写入 Cloud Logging。
完整 template.yaml 配置文件的示例
以下示例展示了一个已完成的 template.yaml 配置文件，该文件部署了两个安装了 SAP HANA 系统且横向扩容的集群，以及一个充当决胜者的虚拟机实例。
该文件包含要部署的两个资源（sap_hana_primary 和 sap_hana_secondary）的定义。每个资源定义都包含一个虚拟机和一个 SAP HANA 实例的定义。
sap_hana_secondary 资源定义是通过以下方式创建的：复制并粘贴第一个定义，然后修改 name、instanceName、zone 属性的值。两个资源定义中的所有其他属性值都相同。
networkTag、serviceAccount、sap_hana_sidadm_uid、sap_hana_sapsys_gid 属性来自配置文件模板的“高级选项”部分。其中包含的属性 sap_hana_sidadm_uid 和 sap_hana_sapsys_gid 将显示所用的默认值，因为这些属性已被注释掉。
resources:
- name: sap_hana_primary
type: https://storage.googleapis.com/cloudsapdeploy/deploymentmanager/latest/dm-templates/sap_hana/sap_hana.py
#
# By default, this configuration file uses the latest release of the deployment
# scripts for SAP on Google Cloud. To fix your deployments to a specific release
# of the scripts, comment out the type property above and uncomment the type property below.
#
# type: https://storage.googleapis.com/cloudsapdeploy/deploymentmanager/yyyymmddhhmm/dm-templates/sap_hana/sap_hana.py
#
properties:
instanceName: hana-ha-vm-1
instanceType: n2-highmem-32
zone: us-central1-a
subnetwork: example-subnet-us-central1
linuxImage: family/sles-15-sp1-sap
linuxImageProject: suse-sap-cloud
sap_hana_deployment_bucket: hana2-sp4-rev46
sap_hana_sid: HA1
sap_hana_instance_number: 22
sap_hana_sidadm_password: Tempa55word
sap_hana_system_password: Tempa55word
sap_hana_scaleout_nodes: 2
sap_hana_shared_nfs: 10.151.91.123:/hana_shared_nfs
sap_hana_backup_nfs: 10.216.41.123:/hana_backup_nfs
networkTag: cluster-ntwk-tag
serviceAccount: limited-roles@example-project-123456.iam.gserviceaccount.com
# sap_hana_sidadm_uid: 900
# sap_hana_sapsys_gid: 79
- name: sap_hana_secondary
type: https://storage.googleapis.com/cloudsapdeploy/deploymentmanager/latest/dm-templates/sap_hana/sap_hana.py
#
# By default, this configuration file uses the latest release of the deployment
# scripts for SAP on Google Cloud. To fix your deployments to a specific release
# of the scripts, comment out the type property above and uncomment the type property below.
#
# type: https://storage.googleapis.com/cloudsapdeploy/deploymentmanager/yyyymmddhhmm/dm-templates/sap_hana/sap_hana.py
#
properties:
instanceName: hana-ha-vm-2
instanceType: n2-highmem-32
zone: us-central1-c
subnetwork: example-subnet-us-central1
linuxImage: family/sles-15-sp1-sap
linuxImageProject: suse-sap-cloud
sap_hana_deployment_bucket: hana2-sp4-rev46
sap_hana_sid: HA1
sap_hana_instance_number: 22
sap_hana_sidadm_password: Google123
sap_hana_system_password: Google123
sap_hana_scaleout_nodes: 2
sap_hana_shared_nfs: 10.141.91.124:/hana_shared_nfs
sap_hana_backup_nfs: 10.106.41.124:/hana_backup_nfs
networkTag: cluster-ntwk-tag
serviceAccount: limited-roles@example-project-123456.iam.gserviceaccount.com
# sap_hana_sidadm_uid: 900
# sap_hana_sapsys_gid: 79
- name: sap_majoritymaker
type: https://storage.googleapis.com/cloudsapdeploy/deploymentmanager/latest/dm-templates/sap_majoritymaker/sap_majoritymaker.py
#
# By default, this configuration file uses the latest release of the deployment
# scripts for SAP on Google Cloud. To fix your deployments to a specific release
# of the scripts, comment out the type property above and uncomment the type property below.
#
# type: https://storage.googleapis.com/cloudsapdeploy/deploymentmanager/202208181245/dm-templates/sap_majoritymaker/sap_majoritymaker.py
properties:
instanceName: sap-majoritymaker
instanceType: n1-standard-2
zone: us-central1-b
subnetwork: example-subnet-us-central1
linuxImage: family/sles-15-sp1-sap
linuxImageProject: suse-sap-cloud
publicIP: No
创建允许访问主机虚拟机的防火墙规则
请创建允许从以下来源访问每个主机虚拟机的防火墙规则（如果您尚未执行此操作）：
- 您的本地工作站、堡垒主机或跳转服务器（用于配置用途）
- 高可用性集群中的其他主机虚拟机（用于集群节点之间的访问）
创建 VPC 防火墙规则时，请指定您在 template.yaml 配置文件中定义的网络标记，以将您的主机虚拟机指定为规则的目标。
若要验证部署，请定义规则以允许在端口 22 上从堡垒主机或本地工作站进行 SSH 连接。
对于集群节点之间的访问，请添加防火墙规则，用于允许在任何端口上从同一子网中的其他虚拟机建立所有类型的连接。
在继续下一部分之前，请确保已创建用于验证部署的防火墙规则以及用于集群内通信的防火墙规则。如需了解相关说明，请参阅添加防火墙规则。
验证虚拟机和 SAP HANA 的部署
如需验证部署，请检查 Cloud Logging 中的部署日志，并检查主要主机和辅助主机的虚拟机上的磁盘和服务。
在 Google Cloud 控制台中，打开 Cloud Logging 以监控安装进度并检查错误。
过滤日志：
日志浏览器
在日志浏览器页面中，转到查询窗格。
从资源下拉菜单中选择全局，然后点击添加。
如果您没有看到全局选项，请在查询编辑器中输入以下查询：
resource.type="global" "Deployment"点击运行查询。
旧式日志查看器
- 在旧版日志查看器页面中，从基本选择器菜单选择全局作为日志记录资源。
分析过滤后的日志：
- 如果显示
"--- Finished"，则表示部署已完成处理，您可以继续执行下一步。 如果出现配额错误，请执行以下步骤：
对于任何不符合 SAP HANA 规划指南中列出的 SAP HANA 要求的配额，请在“IAM 和管理”的配额页面上提高配额。
在 Deployment Manager 的部署页面上，删除部署以清理失败安装中的虚拟机和永久性磁盘。
重新运行部署。
- 如果显示
检查决胜者的部署状态
您可以使用以下命令检查决胜者的部署状态。
gcloud compute instances describe MAJORITY_MAKER_HOSTNAME --zone MAJORITY_MAKER_ZONE --format="table[box,title='Deployment Status'](name:label=Instance_Name,metadata.items.status:label=Status)"
如果显示 Complete 状态，则表示决胜实例已成功部署。对于正在进行的部署，则显示 <blank> 状态。
检查虚拟机和 SAP HANA 的配置
部署 SAP HANA 系统后（没有出现错误），使用 SSH 连接到每个虚拟机。您可以在 Compute Engine 的虚拟机实例页面中点击每个虚拟机实例对应的 SSH 按钮，也可以使用自己偏好的 SSH 方法。
切换到根用户。
$sudo su -在命令提示符处，输入
df -h。在每个虚拟机上，确保您看到/hana目录，例如/hana/data。Filesystem Size Used Avail Use% Mounted on /dev/sda2 30G 4.0G 26G 14% / devtmpfs 126G 0 126G 0% /dev tmpfs 126G 0 126G 0% /dev/shm tmpfs 126G 17M 126G 1% /run tmpfs 126G 0 126G 0% /sys/fs/cgroup /dev/sda1 200M 9.7M 191M 5% /boot/efi /dev/mapper/vg_hana-shared 251G 49G 203G 20% /hana/shared /dev/mapper/vg_hana-sap 32G 240M 32G 1% /usr/sap /dev/mapper/vg_hana-data 426G 7.0G 419G 2% /hana/data /dev/mapper/vg_hana-log 125G 4.2G 121G 4% /hana/log /dev/mapper/vg_hanabackup-backup 512G 33M 512G 1% /hanabackup tmpfs 26G 0 26G 0% /run/user/900 tmpfs 26G 0 26G 0% /run/user/899 tmpfs 26G 0 26G 0% /run/user/1000
在以下命令中，将
SID_LC替换为您在配置文件模板中指定的系统 ID，以切换到 SAP 管理员用户。对于任何字母，请使用小写字母。#su - SID_LCadm输入以下命令，确保 SAP HANA 服务（例如
hdbnameserver、hdbindexserver及其他服务）正在实例上运行：>HDB info如果您使用的是 RHEL for SAP 9.0 或更高版本，请确保虚拟机实例上已安装软件包
chkconfig和compat-openssl11。如需详细了解 SAP，请参阅 SAP 备注 3108316 - Red Hat Enterprise Linux 9.x：安装和配置。
验证 Google Cloud 的 Agent for SAP 的安装
部署虚拟机并安装您的 SAP 系统后，请验证 Google Cloud's Agent for SAP 是否正常运行。
验证 Google Cloud 的 Agent for SAP 是否正在运行
如需验证代理是否正在运行，请按照以下步骤操作：
与主机虚拟机实例建立 SSH 连接。
运行以下命令：
systemctl status google-cloud-sap-agent
如果代理正常运行，则输出包含
active (running)。例如：google-cloud-sap-agent.service - Google Cloud Agent for SAP Loaded: loaded (/usr/lib/systemd/system/google-cloud-sap-agent.service; enabled; vendor preset: disabled) Active: active (running) since Fri 2022-12-02 07:21:42 UTC; 4 days ago Main PID: 1337673 (google-cloud-sa) Tasks: 9 (limit: 100427) Memory: 22.4 M (max: 1.0G limit: 1.0G) CGroup: /system.slice/google-cloud-sap-agent.service └─1337673 /usr/bin/google-cloud-sap-agent
如果代理未在运行，请重启代理。
验证 SAP Host Agent 正在接收指标
如需验证基础架构指标是否由 Google Cloud's Agent for SAP 收集并正确发送到 SAP Host Agent，请按照以下步骤操作：
- 在您的 SAP 系统中，输入事务
ST06。 在概览窗格中，检查以下字段的可用性和内容，以确保 SAP 与 Google 监控基础架构的端到端设置正确无误：
- Cloud Provider：
Google Cloud Platform - Enhanced Monitoring Access：
TRUE - Enhanced Monitoring Details：
ACTIVE
- Cloud Provider：
为 SAP HANA 设置监控
（可选）您可以使用 Google Cloud 的 Agent for SAP 来监控 SAP HANA 实例。从 2.0 版开始，您可以将代理配置为收集 SAP HANA 监控指标并将其发送到 Cloud Monitoring。借助 Cloud Monitoring，您可以创建信息中心以直观呈现这些指标，并根据指标阈值设置提醒等。
如需详细了解如何使用 Google Cloud 的 Agent for SAP 收集 SAP HANA 监控指标，请参阅 SAP HANA 监控指标收集。
（可选）创建脚本自动化实例列表
如需在配置 SAP HANA 系统和 Pacemaker 集群期间半自动执行一些重复性任务，您可以使用 bash 脚本。在本指南中，此类 bash 脚本用于加快 SAP HANA 系统和 Pacemaker 集群的配置。这些脚本需要将所有已部署的虚拟机实例及其相应可用区的列表作为输入。
如需启用这种自动化功能，请创建一个名为 nodes.txt 的文件，其中包含采用以下格式的所有已部署虚拟机实例的详细信息：可用区名称、空格和虚拟机实例名称。本指南中使用了以下示例文件：
# cat nodes.txt us-west1-a hana-ha-vm-1 us-west1-a hana-ha-vm-1w1 us-west1-a hana-ha-vm-1w2 us-west1-b hana-majoritymaker us-west1-c hana-ha-vm-2 us-west1-c hana-ha-vm-2w1 us-west1-c hana-ha-vm-2w2
设置无密码 SSH 访问
如需配置 Pacemaker 集群并同步 SAP HANA 安全存储 (SSFS) 密钥，所有节点（包括决胜实例）之间都需要无密码 SSH 访问权限。为了获得无密码 SSH 访问权限，您需要将 SSH 公钥添加到所有已部署实例的实例元数据中。
元数据的格式为 USERNAME: PUBLIC-KEY-VALUE。
如需详细了解如何将 SSH 密钥添加到虚拟机，请参阅将 SSH 密钥添加到使用基于元数据的 SSH 密钥的虚拟机。
手动步骤
对于主要和辅助系统中的每个实例以及决胜实例，收集用户
root的公钥。gcloud compute ssh --quiet --zone ZONE_ID INSTANCE_NAME -- sudo cat /root/.ssh/id_rsa.pub
在密钥前面添加字符串
root:，并将密钥作为新行写入名为public-ssh-keys.txt的文件中，例如：root:ssh-rsa AAAAB3NzaC1JfuYnOI1vutCs= root@INSTANCE_NAME
收集所有 SSH 公钥后，将密钥作为元数据上传到所有实例：
gcloud compute instances add-metadata --metadata-from-file ssh-keys=public-ssh-keys.txt --zone ZONE_ID INSTANCE_NAME
自动步骤
或者，如需自动为 nodes.txt 中列出的所有实例设置无密码 SSH 访问权限，请在 Google Cloud 控制台中执行以下步骤：
创建一个列表，其中包含所有已部署实例中的公钥：
while read -u10 ZONE HOST ; do echo "Collecting public-key from $HOST"; { echo 'root:'; gcloud compute ssh --quiet --zone $ZONE $HOST --tunnel-through-iap -- sudo cat /root/.ssh/id_rsa.pub; } | tr -ds '\n' " " >> public-ssh-keys.txt; done 10< nodes.txt将 SSH 公钥作为元数据条目分配给所有实例：
while read -u10 ZONE HOST ; do echo "Adding public keys to $HOST"; gcloud compute instances add-metadata --metadata-from-file ssh-keys=public-ssh-keys.txt --zone $ZONE $HOST; done 10< nodes.txt
停用 SAP HANA 自动启动
手动步骤
对于集群中的每个 SAP HANA 实例，请确保已停用 SAP HANA 自动启动。对于故障切换，Pacemaker 将负责管理集群中 SAP HANA 实例的启动和停止。
在每个主机上，以 SID_LCadm 身份停止 SAP HANA：
>HDB stop在每个主机上，使用编辑器（例如 vi）打开 SAP HANA 配置文件：
vi /usr/sap/SID/SYS/profile/SID_HDBINST_NUM_HOST_NAME
将
Autostart属性设置为0：Autostart=0
保存该配置文件。
在每个主机上，以 SID_LCadm 身份启动 SAP HANA：
>HDB start
自动步骤
或者，如需为 nodes.txt 中列出的所有实例停用 SAP HANA 自动启动，请从 Google Cloud 控制台运行以下脚本：
while read -u10 ZONE HOST ; do gcloud compute ssh --verbosity=none --zone $ZONE $HOST -- "echo Setting Autostart=0 on \$HOSTNAME; sudo sed -i 's/Autostart=1/Autostart=0/g' /usr/sap/SID/SYS/profile/SID_HDBINST_NUM_\$HOSTNAME"; done 10< nodes.txt
启用 SAP HANA 快速重启
Google Cloud 强烈建议为 SAP HANA 的每个实例（尤其是较大的实例）启用 SAP HANA 快速重启。当 SAP HANA 终止但操作系统保持运行时，SAP HANA 快速重启可以减少重启时间。
Google Cloud 提供的自动化脚本会代您将操作系统和内核设置配置为支持 SAP HANA 快速重启。您只需定义 tmpfs 文件系统并配置 SAP HANA。
如需定义 tmpfs 文件系统并配置 SAP HANA，您可以按照手动步骤进行操作，也可以使用 Google Cloud 提供的自动化脚本来启用 SAP HANA 快速重启。如需了解详情，请参阅：
如需了解 SAP HANA 快速重启的完整权威说明，请参阅 SAP HANA 快速重启选项文档。
手动步骤
配置 tmpfs 文件系统
成功部署主机虚拟机和基本 SAP HANA 系统后，您需要在 tmpfs 文件系统中创建和装载 NUMA 节点的目录。
显示虚拟机的 NUMA 拓扑
在映射所需的 tmpfs 文件系统之前，您需要知道虚拟机有多少 NUMA 节点。如需显示 Compute Engine 虚拟机上的可用 NUMA 节点，请输入以下命令：
lscpu | grep NUMA
例如，m2-ultramem-208 虚拟机类型有四个 NUMA 节点（编号为 0-3），如以下示例所示：
NUMA node(s): 4 NUMA node0 CPU(s): 0-25,104-129 NUMA node1 CPU(s): 26-51,130-155 NUMA node2 CPU(s): 52-77,156-181 NUMA node3 CPU(s): 78-103,182-207
创建 NUMA 节点目录
为虚拟机中的每个 NUMA 节点创建一个目录，并设置权限。
例如，对于编号为 0-3 的四个 NUMA 节点：
mkdir -pv /hana/tmpfs{0..3}/SID
chown -R SID_LCadm:sapsys /hana/tmpfs*/SID
chmod 777 -R /hana/tmpfs*/SID
将 NUMA 节点目录装载到 tmpfs
装载 tmpfs 文件系统目录，并使用 mpol=prefer 为每个目录指定 NUMA 节点首选设置：
SID 使用大写字母指定 SID。
mount tmpfsSID0 -t tmpfs -o mpol=prefer:0 /hana/tmpfs0/SID mount tmpfsSID1 -t tmpfs -o mpol=prefer:1 /hana/tmpfs1/SID mount tmpfsSID2 -t tmpfs -o mpol=prefer:2 /hana/tmpfs2/SID mount tmpfsSID3 -t tmpfs -o mpol=prefer:3 /hana/tmpfs3/SID
更新 /etc/fstab
为了确保装载点在操作系统重新启动后可用，请将条目添加到文件系统表 /etc/fstab 中：
tmpfsSID0 /hana/tmpfs0/SID tmpfs rw,relatime,mpol=prefer:0 tmpfsSID1 /hana/tmpfs1/SID tmpfs rw,relatime,mpol=prefer:1 tmpfsSID1 /hana/tmpfs2/SID tmpfs rw,relatime,mpol=prefer:2 tmpfsSID1 /hana/tmpfs3/SID tmpfs rw,relatime,mpol=prefer:3
可选：设置内存用量限制
tmpfs 文件系统可以动态扩缩。
如需限制 tmpfs 文件系统使用的内存，您可以使用 size 选项设置 NUMA 节点卷的大小限制。例如：
mount tmpfsSID0 -t tmpfs -o mpol=prefer:0,size=250G /hana/tmpfs0/SID
您还可以通过设置 global.ini 文件的 [memorymanager] 部分中的 persistent_memory_global_allocation_limit 参数，限制给定 SAP HANA 实例和给定服务器节点的所有 NUMA 节点的总 tmpfs 内存用量。
快速重启的 SAP HANA 配置
要配置 SAP HANA 以使用快速重启，请更新 global.ini 文件并指定要存储在永久性内存中的表。
更新 global.ini 文件中的 [persistence] 部分
配置 SAP HANA global.ini 文件中的 [persistence] 部分以引用 tmpfs 位置。用英文分号分隔每个 tmpfs 位置：
[persistence] basepath_datavolumes = /hana/data basepath_logvolumes = /hana/log basepath_persistent_memory_volumes = /hana/tmpfs0/SID;/hana/tmpfs1/SID;/hana/tmpfs2/SID;/hana/tmpfs3/SID
上述示例为 4 个 NUMA 节点指定了 4 个内存卷，对应于 m2-ultramem-208。如果您是在 m2-ultramem-416 上运行，则需要配置 8 个内存卷 (0..7)。
修改 global.ini 文件后，重启 SAP HANA。
SAP HANA 现在可以将 tmpfs 位置用作永久性内存空间。
指定要存储在永久性内存中的表
指定要存储在永久性内存中的特定列表或分区。
例如，如需为现有表启用永久性内存，请执行 SQL 查询：
ALTER TABLE exampletable persistent memory ON immediate CASCADE
如需更改新表的默认设置，请在 indexserver.ini 文件中添加参数 table_default。例如：
[persistent_memory] table_default = ON
如需详细了解如何控制列、表以及哪些监控视图提供详细信息，请参阅 SAP HANA 永久性内存。
自动步骤
Google Cloud 提供的用于启用 SAP HANA 快速重启的自动化脚本会更改目录 /hana/tmpfs*、文件 /etc/fstab 和 SAP HANA 配置。运行脚本时，您可能需要执行其他步骤，具体取决于这是 SAP HANA 系统的初始部署，还是需要将机器大小调整为其他 NUMA 大小。
对于 SAP HANA 系统的初始部署或调整机器大小以增加 NUMA 节点的数量，请确保在执行 Google Cloud 提供的用于启用 SAP HANA 快速重启的自动化脚本期间正在运行 SAP HANA。
当您调整机器大小以减少 NUMA 节点的数量时，请确保在执行 Google Cloud 提供的用于启用 SAP HANA 快速重启的自动化脚本期间已停止 SAP HANA。执行脚本后，您需要手动更新 SAP HANA 配置以完成 SAP HANA 快速重启设置。如需了解详情，请参阅用于快速重启的 SAP HANA 配置。
如需启用 SAP HANA 快速重启，请按照以下步骤操作：
与主机虚拟机建立 SSH 连接。
切换到根用户：
sudo su -
下载
sap_lib_hdbfr.sh脚本：wget https://storage.googleapis.com/cloudsapdeploy/terraform/latest/terraform/lib/sap_lib_hdbfr.sh
让该文件可执行：
chmod +x sap_lib_hdbfr.sh
验证脚本没有错误：
vi sap_lib_hdbfr.sh ./sap_lib_hdbfr.sh -help
如果该命令返回错误，请与 Cloud Customer Care 团队联系。如需详细了解如何与 Customer Care 团队联系，请参阅获取 Google Cloud 上的 SAP 支持。
在替换 SAP HANA 数据库的 SYSTEM 用户的 SAP HANA 系统 ID (SID) 和密码后运行脚本。要安全地提供密码，我们建议您在 Secret Manager 中使用 Secret。
使用 Secret Manager 中的 Secret 名称运行脚本。此 Secret 必须存在于包含主机虚拟机实例的 Google Cloud 项目中。
sudo ./sap_lib_hdbfr.sh -h 'SID' -s SECRET_NAME
替换以下内容：
SID：使用大写字母指定 SID。例如AHA。SECRET_NAME：指定与 SAP HANA 数据库的 SYSTEM 用户密码相对应的 Secret 名称。此 Secret 必须存在于包含主机虚拟机实例的 Google Cloud 项目中。
或者，您可以使用纯文本密码运行脚本。启用 SAP HANA 快速重启后，请务必更改密码。不建议使用纯文本密码，因为密码将记录在虚拟机的命令行历史记录中。
sudo ./sap_lib_hdbfr.sh -h 'SID' -p 'PASSWORD'
替换以下内容：
SID：使用大写字母指定 SID。例如AHA。PASSWORD：指定 SAP HANA 数据库的 SYSTEM 用户的密码。
如果系统成功运行了初始运行，您应该会看到如下所示的输出：
INFO - Script is running in standalone mode
ls: cannot access '/hana/tmpfs*': No such file or directory
INFO - Setting up HANA Fast Restart for system 'TST/00'.
INFO - Number of NUMA nodes is 2
INFO - Number of directories /hana/tmpfs* is 0
INFO - HANA version 2.57
INFO - No directories /hana/tmpfs* exist. Assuming initial setup.
INFO - Creating 2 directories /hana/tmpfs* and mounting them
INFO - Adding /hana/tmpfs* entries to /etc/fstab. Copy is in /etc/fstab.20220625_030839
INFO - Updating the HANA configuration.
INFO - Running command: select * from dummy
DUMMY
"X"
1 row selected (overall time 4124 usec; server time 130 usec)
INFO - Running command: ALTER SYSTEM ALTER CONFIGURATION ('global.ini', 'SYSTEM') SET ('persistence', 'basepath_persistent_memory_volumes') = '/hana/tmpfs0/TST;/hana/tmpfs1/TST;'
0 rows affected (overall time 3570 usec; server time 2239 usec)
INFO - Running command: ALTER SYSTEM ALTER CONFIGURATION ('global.ini', 'SYSTEM') SET ('persistent_memory', 'table_unload_action') = 'retain';
0 rows affected (overall time 4308 usec; server time 2441 usec)
INFO - Running command: ALTER SYSTEM ALTER CONFIGURATION ('indexserver.ini', 'SYSTEM') SET ('persistent_memory', 'table_default') = 'ON';
0 rows affected (overall time 3422 usec; server time 2152 usec)
下载 SUSE 软件包
卸载用于纵向扩容部署的资源代理，并将其替换为用于横向扩容的资源代理。
手动步骤
在所有主机（包括决胜实例）上执行以下步骤：
卸载 HANA 纵向扩容资源代理：
zypper remove SAPHanaSR SAPHanaSR-doc
安装 HANA 横向扩容资源代理：
zypper in SAPHanaSR-ScaleOut SAPHanaSR-ScaleOut-doc
安装
socat：zypper install socat
安装最新的操作系统补丁程序：
zypper patch
自动步骤
或者，如需为 nodes.txt 中列出的所有实例自动执行此过程，请从 Google Cloud 控制台运行以下脚本：
while read -u10 HOST ; do gcloud compute ssh --zone $HOST -- "sudo zypper remove -y SAPHanaSR SAPHanaSR-doc; sudo zypper in -y SAPHanaSR-ScaleOut SAPHanaSR-ScaleOut-doc socat; sudo zypper patch -y"; done 10< nodes.txt
备份数据库
为数据库创建备份，以启动 SAP HANA 系统复制的数据库日志记录并创建恢复点。
如果您在 MDC 配置中有多个租户数据库，请备份每个租户数据库。
Deployment Manager 模板使用 /hanabackup/data/SID 作为默认备份目录。
如需创建新 SAP HANA 数据库的备份，请执行以下操作：
在主要主机上，切换到
SID_LCadm。该命令可能会有所不同，具体取决于您的操作系统映像。sudo -i -u SID_LCadm
创建数据库备份：
对于 SAP HANA 单数据库容器系统：
>hdbsql -t -u system -p SYSTEM_PASSWORD -i INST_NUM \ "backup data using file ('full')"以下示例显示了来自新 SAP HANA 系统的成功响应：
0 rows affected (overall time 18.416058 sec; server time 18.414209 sec)
对于 SAP HANA 多数据库容器系统 (MDC)，请创建系统数据库以及所有租户数据库的备份：
>hdbsql -t -d SYSTEMDB -u system -p SYSTEM_PASSWORD -i INST_NUM \ "backup data using file ('full')">hdbsql -t -d SID -u system -p SYSTEM_PASSWORD -i INST_NUM \ "backup data using file ('full')"
以下示例显示了来自新 SAP HANA 系统的成功响应：
0 rows affected (overall time 16.590498 sec; server time 16.588806 sec)
确认日志记录模式设置为正常：
>hdbsql -u system -p SYSTEM_PASSWORD -i INST_NUM \ "select value from "SYS"."M_INIFILE_CONTENTS" where key='log_mode'"您应该会看到：
VALUE "normal"
启用 SAP HANA 系统复制
作为启用 SAP HANA 系统复制的一部分，您需要将 SAP HANA 文件系统安全存储 (SSFS) 的数据和密钥文件从主要主机复制到辅助主机。此过程用于复制文件的方法只是您可以使用的其中一种方法。
在主要主机上，以
SID_LCadm身份启用系统复制：>hdbnsutil -sr_enable --name=PRIMARY_HOST_NAME在辅助主机上：
以
SID_LCadm身份停止 SAP HANA：>sapcontrol -nr INST_NUM -function StopSystem以根用户的身份对现有 SSFS 数据和密钥文件进行归档：
#cd /usr/sap/SID/SYS/global/security/rsecssfs/#mv data/SSFS_SID.DAT data/SSFS_SID.DAT-ARC#mv key/SSFS_SID.KEY key/SSFS_SID.KEY-ARC复制主要主机中的数据文件：
#scp -o StrictHostKeyChecking=no \ PRIMARY_HOST_NAME:/usr/sap/SID/SYS/global/security/rsecssfs/data/SSFS_SID.DAT \ /usr/sap/SID/SYS/global/security/rsecssfs/data/SSFS_SID.DAT复制主要主机中的密钥文件：
#scp -o StrictHostKeyChecking=no \ PRIMARY_HOST_NAME:/usr/sap/SID/SYS/global/security/rsecssfs/key/SSFS_SID.KEY \ /usr/sap/SID/SYS/global/security/rsecssfs/key/SSFS_SID.KEY更新文件的所有权：
#chown SID_LCadm:sapsys /usr/sap/SID/SYS/global/security/rsecssfs/data/SSFS_SID.DAT#chown SID_LCadm:sapsys /usr/sap/SID/SYS/global/security/rsecssfs/key/SSFS_SID.KEY更新文件的权限：
#chmod 644 /usr/sap/SID/SYS/global/security/rsecssfs/data/SSFS_SID.DAT#chmod 640 /usr/sap/SID/SYS/global/security/rsecssfs/key/SSFS_SID.KEY以 SID_LCadm 身份将辅助 SAP HANA 系统注册到 SAP HANA 系统复制：
>hdbnsutil -sr_register --remoteHost=PRIMARY_HOST_NAME --remoteInstance=INST_NUM \ --replicationMode=syncmem --operationMode=logreplay --name=SECONDARY_HOST_NAME以 SID_LCadm 身份启动 SAP HANA：
>sapcontrol -nr INST_NUM -function StartSystem
验证系统复制
在主要主机上，以 SID_LCadm 身份运行以下 Python 脚本来确认 SAP HANA 系统复制处于活跃状态：
$ python $DIR_INSTANCE/exe/python_support/systemReplicationStatus.py如果复制功能已正确设置，则除了其他指示符外，系统还将针对 xsengine、nameserver、indexserver 服务显示以下值：
Secondary Active Status为YESReplication Status为ACTIVE
此外，overall system replication status 将显示 ACTIVE。
启用 SAP HANA 高可用性/灾难恢复提供商钩子
SUSE 建议您启用 SAP HANA 高可用性/灾难恢复提供商钩子，这样一来，SAP HANA 就可以发出特定事件的通知并改进故障检测。SAP HANA 高可用性/灾难恢复提供商钩子需要 SAP HANA 2.0 SPS 03 或更高版本。
在主要和次要站点上，完成以下步骤：
以
SID_LCadm身份停止 SAP HANA：>sapcontrol -nr 00 -function StopSystem
以根用户或
SID_LCadm身份打开global.ini文件进行修改：>vi /hana/shared/SID/global/hdb/custom/config/global.ini将以下定义添加到
global.ini文件中：[ha_dr_provider_saphanasrmultitarget] provider = SAPHanaSrMultiTarget path = /usr/share/SAPHanaSR-ScaleOut/ execution_order = 1 [ha_dr_provider_sustkover] provider = susTkOver path = /usr/share/SAPHanaSR-ScaleOut/ execution_order = 2 sustkover_timeout = 30 [ha_dr_provider_suschksrv] provider = susChkSrv path = /usr/share/SAPHanaSR-ScaleOut/ execution_order = 3 action_on_lost = stop [trace] ha_dr_saphanasrmultitarget = info ha_dr_sustkover = info
以根用户身份运行以下命令，在
/etc/sudoers.d目录中创建一个自定义配置文件。在调用srConnectionChanged()钩子方法时，此新配置文件允许SID_LCadm用户访问集群节点属性。>sudo visudo -f /etc/sudoers.d/SAPHanaSR在
/etc/sudoers.d/SAPHanaSR文件中，添加以下文本：将
SID_LC替换为小写字母的 SID。SID_LCadm ALL=(ALL) NOPASSWD: /usr/sbin/crm_attribute -n hana_SID_LC_site_srHook_* SID_LCadm ALL=(ALL) NOPASSWD: /usr/sbin/crm_attribute -n hana_SID_LC_gsh * SID_LCadm ALL=(ALL) NOPASSWD: /usr/sbin/SAPHanaSR-hookHelper --sid=SID_LC *
确保
/etc/sudoers文件中包含以下文本：对于 SLES for SAP 15 SP3 及更高版本：
@includedir /etc/sudoers.d
对于 SLES for SAP 15 SP2 及之前的版本：
#includedir /etc/sudoers.d
请注意，此文本中的
#是语法的一部分，并不表示该行是注释。
以
SID_LCadm身份启动 SAP HANA：>sapcontrol -nr 00 -function StartSystem完成 SAP HANA 的集群配置后，您可以按照排查 SAPHanaSR Python 钩子问题和高可用性集群接管在 HANA 索引服务器故障上花费时间太长所述，验证钩子在故障切换测试期间是否正常运行。
配置 Cloud Load Balancing 故障切换支持
具有故障切换支持的内部直通式网络负载均衡器服务会根据健康检查服务将流量路由到 SAP HANA 集群中的活跃主机。
为虚拟 IP 地址预留 IP 地址
虚拟 IP (VIP) 地址（有时也称为浮动 IP 地址）跟随活跃 SAP HANA 系统。负载均衡器将发送到 VIP 的流量路由到当前正在托管活跃 SAP HANA 系统的虚拟机。
打开 Cloud Shell：
为虚拟 IP 地址预留 IP 地址。这是应用用于访问 SAP HANA 的 IP 地址。如果您省略
--addresses标志，系统会为您选择指定子网中的 IP 地址：$gcloud compute addresses create VIP_NAME \ --region CLUSTER_REGION --subnet CLUSTER_SUBNET \ --addresses VIP_ADDRESS如需详细了解如何预留静态 IP 地址，请参阅预留静态内部 IP 地址。
确认 IP 地址预留：
$gcloud compute addresses describe VIP_NAME \ --region CLUSTER_REGION您应该会看到类似于以下示例的输出：
address: 10.0.0.19 addressType: INTERNAL creationTimestamp: '2020-05-20T14:19:03.109-07:00' description: '' id: '8961491304398200872' kind: compute#address name: vip-for-hana-ha networkTier: PREMIUM purpose: GCE_ENDPOINT region: https://www.googleapis.com/compute/v1/projects/example-project-123456/regions/us-central1 selfLink: https://www.googleapis.com/compute/v1/projects/example-project-123456/regions/us-central1/addresses/vip-for-hana-ha status: RESERVED subnetwork: https://www.googleapis.com/compute/v1/projects/example-project-123456/regions/us-central1/subnetworks/example-subnet-us-central1
为您的主机虚拟机创建实例组
在 Cloud Shell 中，创建两个非代管实例组，并将主要主实例主机虚拟机分配给其中一个实例组，同时将辅助主实例主机虚拟机分配给另一个实例组：
$gcloud compute instance-groups unmanaged create PRIMARY_IG_NAME \ --zone=PRIMARY_ZONE$gcloud compute instance-groups unmanaged add-instances PRIMARY_IG_NAME \ --zone=PRIMARY_ZONE \ --instances=PRIMARY_HOST_NAME$gcloud compute instance-groups unmanaged create SECONDARY_IG_NAME \ --zone=SECONDARY_ZONE$gcloud compute instance-groups unmanaged add-instances SECONDARY_IG_NAME \ --zone=SECONDARY_ZONE \ --instances=SECONDARY_HOST_NAME确认已创建实例组：
$gcloud compute instance-groups unmanaged list您应该会看到类似于以下示例的输出：
NAME ZONE NETWORK NETWORK_PROJECT MANAGED INSTANCES hana-ha-ig-1 us-central1-a example-network example-project-123456 No 1 hana-ha-ig-2 us-central1-c example-network example-project-123456 No 1
创建 Compute Engine 健康检查
在 Cloud Shell 中，创建健康检查。对于健康检查使用的端口，请选择专用范围 (49152-65535) 内的端口，以避免与其他服务发生冲突。检查间隔和超时值略大于默认值，其目的是为了在 Compute Engine 实时迁移事件期间提高故障切换容忍度。您可以根据需要调整这些值：
$gcloud compute health-checks create tcp HEALTH_CHECK_NAME --port=HEALTHCHECK_PORT_NUM \ --proxy-header=NONE --check-interval=10 --timeout=10 --unhealthy-threshold=2 \ --healthy-threshold=2确认已创建健康检查：
$gcloud compute health-checks describe HEALTH_CHECK_NAME您应该会看到类似于以下示例的输出：
checkIntervalSec: 10 creationTimestamp: '2020-05-20T21:03:06.924-07:00' healthyThreshold: 2 id: '4963070308818371477' kind: compute#healthCheck name: hana-health-check selfLink: https://www.googleapis.com/compute/v1/projects/example-project-123456/global/healthChecks/hana-health-check tcpHealthCheck: port: 60000 portSpecification: USE_FIXED_PORT proxyHeader: NONE timeoutSec: 10 type: TCP unhealthyThreshold: 2
为健康检查创建防火墙规则
为专用范围内的端口定义防火墙规则，用于允许从 Compute Engine 健康检查使用的 IP 地址范围（35.191.0.0/16 和 130.211.0.0/22）访问您的主机虚拟机。如需了解详情，请参阅为健康检查创建防火墙规则。
如果您还没有为主机虚拟机添加网络标记，请先添加。此网络标记由防火墙规则用于健康检查。
$gcloud compute instances add-tags PRIMARY_HOST_NAME \ --tags NETWORK_TAGS \ --zone PRIMARY_ZONE$gcloud compute instances add-tags SECONDARY_HOST_NAME \ --tags NETWORK_TAGS \ --zone SECONDARY_ZONE如果您还没有防火墙规则，请创建一条防火墙规则来允许健康检查：
$gcloud compute firewall-rules create RULE_NAME \ --network NETWORK_NAME \ --action ALLOW \ --direction INGRESS \ --source-ranges 35.191.0.0/16,130.211.0.0/22 \ --target-tags NETWORK_TAGS \ --rules tcp:HLTH_CHK_PORT_NUM例如：
gcloud compute firewall-rules create fw-allow-health-checks \ --network example-network \ --action ALLOW \ --direction INGRESS \ --source-ranges 35.191.0.0/16,130.211.0.0/22 \ --target-tags cluster-ntwk-tag \ --rules tcp:60000
配置负载均衡器和故障切换组
创建负载均衡器后端服务：
$gcloud compute backend-services create BACKEND_SERVICE_NAME \ --load-balancing-scheme internal \ --health-checks HEALTH_CHECK_NAME \ --no-connection-drain-on-failover \ --drop-traffic-if-unhealthy \ --failover-ratio 1.0 \ --region CLUSTER_REGION \ --global-health-checks将主实例组添加到后端服务：
$gcloud compute backend-services add-backend BACKEND_SERVICE_NAME \ --instance-group PRIMARY_IG_NAME \ --instance-group-zone PRIMARY_ZONE \ --region CLUSTER_REGION将辅助故障切换实例组添加到后端服务：
$gcloud compute backend-services add-backend BACKEND_SERVICE_NAME \ --instance-group SECONDARY_IG_NAME \ --instance-group-zone SECONDARY_ZONE \ --failover \ --region CLUSTER_REGION创建转发规则。对于 IP 地址，请指定您为 VIP 地址预留的 IP 地址。如果您需要从下面指定的区域外部访问 SAP HANA 系统，请在定义中添加
--allow-global-access标志：$gcloud compute forwarding-rules create RULE_NAME \ --load-balancing-scheme internal \ --address VIP_ADDRESS \ --subnet CLUSTER_SUBNET \ --region CLUSTER_REGION \ --backend-service BACKEND_SERVICE_NAME \ --ports ALL如需详细了解跨区域访问 SAP HANA 高可用性系统，请参阅内部 TCP/UDP 负载均衡。
测试负载均衡器配置
即使您的后端实例组在稍后完成相应配置之前不会被注册为运行状况良好，您仍然可以通过设置监听器响应健康检查来测试负载均衡器配置。设置监听器后，如果负载均衡器配置正确，则后端实例组的状态会变为运行状况良好。
以下部分介绍了可用于测试配置的各种不同方法。
使用 socat 实用程序测试负载均衡器
您可以使用 socat 实用程序来临时监听健康检查端口。无论如何，您都需要安装 socat 实用程序，因为稍后在配置集群资源时会用到它。
在主要和辅助主实例主机虚拟机上，以根用户的身份安装
socat实用程序：#zypper install -y socat启动
socat进程以监听健康检查端口 60 秒：#timeout 60s socat - TCP-LISTEN:HLTH_CHK_PORT_NUM,fork在 Cloud Shell 中，等待几秒钟，让健康检查检测到监听器，然后检查后端实例组的运行状况：
$gcloud compute backend-services get-health BACKEND_SERVICE_NAME \ --region CLUSTER_REGION您将看到如下所示的输出：
--- backend: https://www.googleapis.com/compute/v1/projects/example-project-123456/zones/us-central1-a/instanceGroups/hana-ha-ig-1 status: healthStatus: ‐ healthState: HEALTHY instance: https://www.googleapis.com/compute/v1/projects/example-project-123456/zones/us-central1-a/instances/hana-ha-vm-1 ipAddress: 10.0.0.35 port: 80 kind: compute#backendServiceGroupHealth --- backend: https://www.googleapis.com/compute/v1/projects/example-project-123456/zones/us-central1-c/instanceGroups/hana-ha-ig-2 status: healthStatus: ‐ healthState: HEALTHY instance: https://www.googleapis.com/compute/v1/projects/example-project-123456/zones/us-central1-c/instances/hana-ha-vm-2 ipAddress: 10.0.0.34 port: 80 kind: compute#backendServiceGroupHealth
使用端口 22 测试负载均衡器
如果主机虚拟机上的端口 22 对于 SSH 连接是打开的，则您可以将健康检查程序临时修改为使用端口 22，该端口上具有可以响应健康检查程序的监听器。
若要临时使用端口 22，请按以下步骤操作：
点击控制台中的健康检查：
点击修改。
在端口字段中，将端口号更改为 22。
点击保存，然后等待一两分钟。
在 Cloud Shell 中，检查后端实例组的运行状况：
$gcloud compute backend-services get-health BACKEND_SERVICE_NAME \ --region CLUSTER_REGION您将看到如下所示的输出：
--- backend: https://www.googleapis.com/compute/v1/projects/example-project-123456/zones/us-central1-a/instanceGroups/hana-ha-ig-1 status: healthStatus: ‐ healthState: HEALTHY instance: https://www.googleapis.com/compute/v1/projects/example-project-123456/zones/us-central1-a/instances/hana-ha-vm-1 ipAddress: 10.0.0.35 port: 80 kind: compute#backendServiceGroupHealth --- backend: https://www.googleapis.com/compute/v1/projects/example-project-123456/zones/us-central1-c/instanceGroups/hana-ha-ig-2 status: healthStatus: ‐ healthState: HEALTHY instance: https://www.googleapis.com/compute/v1/projects/example-project-123456/zones/us-central1-c/instances/hana-ha-vm-2 ipAddress: 10.0.0.34 port: 80 kind: compute#backendServiceGroupHealth
完成后，将健康检查端口号更改回原始端口号。
设置 Pacemaker
以下过程将在 SAP HANA 的 Compute Engine 虚拟机上配置 Pacemaker 集群的 SUSE 实现。
如需详细了解如何在 SLES 上配置高可用性集群，请参阅适用于您 SLES 版本的 SUSE Linux Enterprise 高可用性扩展程序文档。
下载资源代理脚本
手动步骤
以所有主要主机和辅助主机以及决胜主机上的根用户身份，下载所需的资源代理脚本：
#mkdir -p /usr/lib64/stonith/plugins/external#curl https://storage.googleapis.com/sapdeploy/pacemaker-gcp/gcpstonith -o /usr/lib64/stonith/plugins/external/gcpstonith#chmod +x /usr/lib64/stonith/plugins/external/gcpstonith
自动步骤
或者，如需下载 nodes.txt 中列出的所有实例所需的资源代理脚本，请从 Google Cloud 控制台运行以下脚本：
while read -u10 HOST ; do gcloud compute ssh --tunnel-through-iap --quiet --zone $HOST -- "echo 'CLOUDSDK_PYTHON=/usr/bin/python' | sudo tee -a /etc/sysconfig/pacemaker; sudo curl --silent https://storage.googleapis.com/sapdeploy/pacemaker-gcp/gcpstonith -o /usr/lib64/stonith/plugins/external/gcpstonith; sudo chmod +x /usr/lib64/stonith/plugins/external/gcpstonith"; done 10< nodes.txt
初始化集群
在主要主机上，以根用户身份初始化集群：
SLES 15
crm cluster init -y
SLES 12
ha-cluster-init -y
忽略与 SBD 和默认密码相关的警告。此部署中未使用 SBD 和默认密码。
配置集群
在主要主机上，以根用户身份执行以下步骤。
启用维护模式
将 Pacemaker 集群置于维护模式：
crm configure property maintenance-mode="true"
配置常规集群属性
配置以下常规集群属性：
crm configure property stonith-timeout="300s" crm configure property stonith-action="reboot" crm configure property stonith-enabled="true" crm configure property cluster-infrastructure="corosync" crm configure property cluster-name="hacluster" crm configure property placement-strategy="balanced" crm configure property no-quorum-policy="freeze" crm configure property concurrent-fencing="true" crm configure rsc_defaults migration-threshold="50" crm configure rsc_defaults resource-stickiness="1000" crm configure op_defaults timeout="600"
修改 corosync.conf 默认设置
使用您选择的编辑器打开
/etc/corosync/corosync.conf文件。移除
consensus参数。根据 Google Cloud 的建议修改其余参数。
下表显示了 Google Cloud 推荐值的totem参数，以及更改值的影响。如需了解这些参数的默认值（可能因 Linux 发行版而异），请参阅 Linux 发行版的文档。参数 推荐值 更改值的影响 secauthoff停用所有 totem消息的身份验证和加密。join60 (ms) 增加节点在成员资格协议中等待 join消息的时间。max_messages20 增加在接收令牌后节点可能发送的消息数上限。 token20000 (ms) 增加在节点声明令牌丢失，假定节点故障，并开始执行操作之前节点等待
totem协议令牌的时长。增加
token参数的值可让集群对瞬时基础设施事件（例如实时迁移）的容忍度更高。但是，这也可能会使集群需要更长的时间来检测节点故障并从节点故障中恢复。token参数的值还决定了consensus参数的默认值，后者用于控制节点在尝试重新建立配置成员资格前等待达成共识的时间。consensus不适用 指定在开始新一轮成员资格配置之前等待达成共识的时长（以毫秒为单位）。
我们建议您省略此参数。如果未指定
但是，如果您明确为consensus参数，Corosync 会将其值设置为token参数的值的 1.2 倍。如果您使用token参数的建议值20000，则consesus参数会设置为值24000。consensus指定值，请确保该值为24000或1.2*token，以较大者为准。token_retransmits_before_loss_const10 增加节点在由于收件人节点发生故障和执行操作前令牌重新递送的尝试次数。 transport- 对于 SLES：
udpu - 对于 RHEL 8 或更高版本：
knet - 对于 RHEL 7：
udpu
指定 corosync 使用的传输机制。 - 对于 SLES：
将所有主机加入 Pacemaker 集群
将所有其他主机（包括决胜主机）加入主要主机上的 Pacemaker 集群：
手动步骤
SLES 15
crm cluster join -y -c PRIMARY_HOST_NAME
SLES 12
ha-cluster-join -y -c PRIMARY_HOST_NAME
自动步骤
或者，如需为 nodes.txt 中列出的所有实例自动执行此过程，请从 Google Cloud 控制台运行以下脚本：
while read -u10 HOST ; do echo "Joining $HOST to Pacemaker cluster"; gcloud compute ssh --tunnel-through-iap --quiet --zone $HOST -- sudo ha-cluster-join -y -c PRIMARY_HOST_NAME; done 10< nodes.txt
忽略将主节点加入其自身时触发的错误消息 ERROR: cluster.join: Abort: Cluster is currently active。
在任何主机上，以根用户身份确认集群显示所有节点：
# crm_mon -s您将看到如下所示的输出：
CLUSTER OK: 5 nodes online, 0 resources configured
设置防护功能
您可以通过使用每个主机虚拟机的防护代理定义集群资源来设置防护功能。
为了确保执行防护操作后的事件序列正确无误，您还可以配置操作系统，以在防护虚拟机后延迟 Corosync 的重启。此外，您还需要调整 Pacemaker 的重启超时，以将该延迟考虑在内。
创建防护设备资源
手动步骤
在主要主机上，以根用户身份为主要集群和次要集群中的所有节点创建防护资源：
将
PRIMARY_HOST_NAME替换为主要集群中节点的主机名后，运行以下命令：#crm configure primitive STONITH-"PRIMARY_HOST_NAME" stonith:external/gcpstonith \ op monitor interval="300s" timeout="120s" \ op start interval="0" timeout="60s" \ params instance_name="PRIMARY_HOST_NAME" gcloud_path="/usr/bin/gcloud" logging="yes" \ pcmk_reboot_timeout=300 pcmk_monitor_retries=4 pcmk_delay_max=30对主要集群中的所有其他节点重复上一步。
将
SECONDARY_HOST_NAME替换为次要集群中节点的主机名后，运行以下命令。#crm configure primitive STONITH-"SECONDARY_HOST_NAME" stonith:external/gcpstonith \ op monitor interval="300s" timeout="120s" \ op start interval="0" timeout="60s" \ params instance_name="SECONDARY_HOST_NAME" gcloud_path="/usr/bin/gcloud" logging="yes" \ pcmk_reboot_timeout=300 pcmk_monitor_retries=4对次要集群中的所有其他节点重复上一步。
将
MAJORITY_MAKER_HOSTNAME替换为决胜主机实例的主机名后，运行以下命令：#crm configure primitive STONITH-"MAJORITY_MAKER_HOSTNAME" stonith:external/gcpstonith \ op monitor interval="300s" timeout="120s" \ op start interval="0" timeout="60s" \ params instance_name="MAJORITY_MAKER_HOSTNAME" gcloud_path="/usr/bin/gcloud" logging="yes" \ pcmk_reboot_timeout=300 pcmk_monitor_retries=4设置防护设备的位置：
#crm configure location LOC_STONITH_"PRIMARY_HOST_NAME" \ STONITH-"PRIMARY_HOST_NAME" -inf: "PRIMARY_HOST_NAME"对主要和次要集群上的所有其他主机（包括决胜主机）重复前上一步。
自动步骤
或者，如需为 nodes.txt 中列出的所有实例设置防护，请从 Google Cloud 控制台运行以下脚本：
while read -u10 HOST; do gcloud compute ssh --tunnel-through-iap --quiet --zone $HOST -- "sudo crm configure primitive STONITH-\$HOSTNAME stonith:external/gcpstonith op monitor interval=\"300s\" timeout=\"60s\" on-fail=\"restart\" op start interval=\"0\" timeout=\"60s\" onfail=\"restart\" params instance_name=\$HOSTNAME gcloud_path=\"/usr/bin/gcloud\" logging=\"yes\" pcmk_reboot_timeout=300 pcmk_monitor_retries=4; sudo crm configure location LOC_STONITH_\$HOSTNAME STONITH-\$HOSTNAME -inf: \$HOSTNAME"; done 10< nodes.txt
设置 Corosync 重启延迟
手动步骤
在所有主机上，以根用户身份创建一个
systemd普适性文件，该文件用于延迟 Corosync 的启动，以确保在重启经过防护的虚拟机后具有正确的事件序列：systemctl edit corosync.service
将以下代码行添加到文件中：
[Service] ExecStartPre=/bin/sleep 60
保存文件并退出编辑器。
重新加载 systemd 管理器配置。
systemctl daemon-reload
确认已创建普适性文件：
service corosync status
您应能看到普适性文件所对应的行，如以下示例所示：
● corosync.service - Corosync Cluster Engine Loaded: loaded (/usr/lib/systemd/system/corosync.service; disabled; vendor preset: disabled) Drop-In: /etc/systemd/system/corosync.service.d └─override.conf Active: active (running) since Tue 2021-07-20 23:45:52 UTC; 2 days ago
自动步骤
或者，如需为 nodes.txt 中列出的所有实例自动执行此过程，请从 Google Cloud 控制台运行以下脚本：
while read -u10 HOST; do gcloud compute ssh --tunnel-through-iap --quiet --zone $HOST -- "sudo mkdir -p /etc/systemd/system/corosync.service.d/; sudo echo -e '[Service]\nExecStartPre=/bin/sleep 60' | sudo tee -a /etc/systemd/system/corosync.service.d/override.conf; sudo systemctl daemon-reload"; done 10< nodes.txt
为 VIP 地址创建本地集群 IP 资源
要在操作系统中配置 VIP 地址，请为您之前预留的 VIP 地址创建一个本地集群 IP 资源：
# crm configure primitive rsc_vip_int-primary IPaddr2 \
params ip=VIP_ADDRESS cidr_netmask=32 nic="eth0" op monitor interval=3600s timeout=60s设置帮助程序健康检查服务
负载均衡器在每个主机的健康检查端口上使用监听器来确定 SAP HANA 集群主实例的运行位置。
如需管理集群中的监听器，请为监听器创建资源。
这里的说明使用 socat 实用程序作为监听器。
在两个主机上，以根用户身份安装
socat utility：#zypper in -y socat在主要主机上，为帮助程序健康检查服务创建资源：
crm configure primitive rsc_healthcheck-primary anything \ params binfile="/usr/bin/socat" \ cmdline_options="-U TCP-LISTEN:HEALTHCHECK_PORT_NUM,backlog=10,fork,reuseaddr /dev/null" \ op monitor timeout=20s interval=10s \ op_params depth=0
将 VIP 地址和帮助程序健康检查服务资源组合在一起
#crm configure group g-primary rsc_vip_int-primary rsc_healthcheck-primary meta resource-stickiness="0"
创建 SAPHanaTopology 原初资源
您可以在临时配置文件（随后会上传到 Corosync）中定义 SAPHanaTopology 原初资源。
在主要主机上，以根用户身份执行以下操作：
为 SAPHanaTopology 配置参数创建临时配置文件：
#vi /tmp/cluster.tmp将 SAPHanaTopology 资源定义复制并粘贴到
/tmp/cluster.tmp文件中：primitive rsc_SAPHanaTopology_SID_HDBINST_NUM ocf:suse:SAPHanaTopology \ operations \$id="rsc_sap2_SID_HDBINST_NUM-operations" \ op monitor interval="10" timeout="600" \ op start interval="0" timeout="600" \ op stop interval="0" timeout="300" \ params SID="SID" InstanceNumber="INST_NUM" clone cln_SAPHanaTopology_SID_HDBINST_NUM rsc_SAPHanaTopology_SID_HDBINST_NUM \ meta clone-node-max="1" target-role="Started" interleave="true" location SAPHanaTop_not_on_majority_maker cln_SAPHanaTopology_SID_HDBINST_NUM -inf: MAJORITY_MAKER_HOSTNAME
修改
/tmp/cluster.tmp文件以将变量文本替换为 SAP HANA 系统的 SID 和实例编号。在主要主机上，以根用户身份将
/tmp/cluster.tmp文件的内容加载到 Corosync 中：crm configure load update /tmp/cluster.tmp
创建 SAPHana 原初资源
您可以定义 SAPHana 原初资源，方法是使用您用于 SAPHanaTopology 资源的相同方法：在临时配置文件（随后会上传到 Corosync）中进行定义。
替换临时配置文件：
#rm /tmp/cluster.tmp#vi /tmp/cluster.tmp将 SAPHana 资源定义复制并粘贴到
/tmp/cluster.tmp文件中：primitive rsc_SAPHana_SID_HDBINST_NUM ocf:suse:SAPHanaController \ operations \$id="rsc_sap_SID_HDBINST_NUM-operations" \ op start interval="0" timeout="3600" \ op stop interval="0" timeout="3600" \ op promote interval="0" timeout="3600" \ op demote interval="0" timeout="3600" \ op monitor interval="60" role="Master" timeout="700" \ op monitor interval="61" role="Slave" timeout="700" \ params SID="SID" InstanceNumber="INST_NUM" PREFER_SITE_TAKEOVER="true" \ DUPLICATE_PRIMARY_TIMEOUT="7200" AUTOMATED_REGISTER="true" ms msl_SAPHana_SID_HDBINST_NUM rsc_SAPHana_SID_HDBINST_NUM \ meta master-node-max="1" master-max="1" clone-node-max="1" \ target-role="Started" interleave="true" colocation col_saphana_ip_SID_HDBINST_NUM 4000: g-primary:Started \ msl_SAPHana_SID_HDBINST_NUM:Master order ord_SAPHana_SID_HDBINST_NUM Optional: cln_SAPHanaTopology_SID_HDBINST_NUM \ msl_SAPHana_SID_HDBINST_NUM location SAPHanaCon_not_on_majority_maker msl_SAPHana_SID_HDBINST_NUM -inf: MAJORITY_MAKER_HOSTNAME
对于多层级 SAP HANA 高可用性集群，如果您使用的是 SAP HANA 2.0 SP03 之前的版本，请将
AUTOMATED_REGISTER设置为false。这可以防止恢复的实例尝试向已配置复制目标的 HANA 系统自行注册以进行复制。在 SAP HANA 2.0 SP03 或更高版本中，对于使用多层级系统复制的 SAP HANA 配置，您可以将AUTOMATED_REGISTER设置为true。如需了解详情，请参阅：在主要主机上，以根用户身份将
/tmp/cluster.tmp文件的内容加载到 Corosync 中：crm configure load update /tmp/cluster.tmp
确认 SAP HANA 系统复制处于活跃状态
在主要主机上，以 SID_LCadm 身份检查复制状态：
# python $DIR_INSTANCE/exe/python_support/systemReplicationStatus.py激活集群
在主要主机上，以根用户身份将集群设为非维护模式：
#crm configure property maintenance-mode="false"如果系统提示您移除“维护”，请输入
y。等待 15 秒，然后在主要主机上以根用户身份检查集群的状态：
#crm status以下示例显示了已正确配置的活跃集群的状态：
7 nodes configured
21 resources configured
Online: [ hana-ha-vm-1 hana-ha-vm-1w1 hana-ha-vm-1w2 hana-ha-vm-2 hana-ha-vm-2w1 hana-ha-vm-2w2 sap-majoritymaker ]
Full list of resources:
STONITH-hana-ha-vm-1 (stonith:external/gcpstonith): Started hana-ha-vm-1w2
STONITH-hana-ha-vm-1w1 (stonith:external/gcpstonith): Started hana-ha-vm-1
STONITH-hana-ha-vm-1w2 (stonith:external/gcpstonith): Started hana-ha-vm-2
STONITH-sap-majoritymaker (stonith:external/gcpstonith): Started hana-ha-vm-1w2
STONITH-hana-ha-vm-2 (stonith:external/gcpstonith): Started hana-ha-vm-2w1
STONITH-hana-ha-vm-2w1 (stonith:external/gcpstonith): Started hana-ha-vm-2w2
STONITH-hana-ha-vm-2w2 (stonith:external/gcpstonith): Started sap-majoritymaker
Clone Set: cln_SAPHanaTopology_HA1_HDB22 [rsc_SAPHanaTopology_HA1_HDB22]
Started: [ hana-ha-vm-1 hana-ha-vm-1w1 hana-ha-vm-1w2 hana-ha-vm-2 hana-ha-vm-2w1 hana-ha-vm-2w2 ]
Stopped: [ sap-majoritymaker ]
Resource Group: g-primary
rsc_vip_int-primary (ocf::heartbeat:IPaddr2): Started hana-ha-vm-1
rsc_healthcheck-primary (ocf::heartbeat:anything): Started hana-ha-vm-1
Clone Set: msl_SAPHana_HA1_HDB22 [rsc_SAPHana_HA1_HDB22] (promotable)
Masters: [ hana-ha-vm-1 ]
Slaves: [ hana-ha-vm-1w1 hana-ha-vm-1w2 hana-ha-vm-2 hana-ha-vm-2w1 hana-ha-vm-2w2 ]
Stopped: [ sap-majoritymaker ]
测试故障切换
通过在主要主机上模拟故障来测试集群。在发布系统以供使用之前，请使用测试系统或在生产系统上运行测试。
在测试前备份系统。
您可以通过多种方式模拟故障，包括：
HDB stopHDB killreboot（活跃节点上）ip link set eth0 downecho c > /proc/sysrq-trigger
这里的说明使用 ip link set eth0 down 来将网络接口设为离线，因为它将同时验证故障切换和防护。
在活跃主机上，以根用户身份将网络接口设为离线：
#ip link set eth0 down使用 SSH 重新连接到任一主机并切换到根用户。
输入
crm status以确认主要主机在辅助主机以前所在的虚拟机上当前处于活跃状态。集群中已启用自动重启，因此已停止的主机将重启并担任辅助主机的角色，如以下示例所示。Stack: corosync Current DC: hana-ha-vm-2 (version 2.0.1+20190417.13d370ca9-3.9.1-2.0.1+20190417.13d370ca9) - partition with quorum Last updated: Fri Jun 12 16:46:07 2020 Last change: Fri Jun 12 16:46:07 2020 by root via crm_attribute on hana-ha-vm-2 2 nodes configured 8 resources configured Online: [ hana-ha-vm-1 hana-ha-vm-2 hana-ha-vm-1w1 hana-ha-vm-2w1] Full list of resources: STONITH-hana-ha-vm-1 (stonith:external/gcpstonith): Started hana-ha-vm-2 STONITH-hana-ha-vm-2 (stonith:external/gcpstonith): Started hana-ha-vm-1 STONITH-hana-ha-vm-1w1 (stonith:external/gcpstonith): Started hana-ha-vm-2w1 STONITH-hana-ha-vm-1w1 (stonith:external/gcpstonith): Started hana-ha-vm-mm STONITH-hana-ha-vm-mm (stonith:external/gcpstonith): Started hana-ha-vm-1w1 Clone Set: cln_SAPHanaTopology_HA1_HDB22 [rsc_SAPHanaTopology_HA1_HDB22] Started: [ hana-ha-vm-1 hana-ha-vm-2 hana-ha-vm-1w1 hana-ha-vm-2w1 Stopped: [ hana-ha-vm-mm ]] Resource Group: g-primary rsc_vip_int-primary (ocf::heartbeat:IPaddr2): Started hana-ha-vm-2 rsc_healthcheck-primary (ocf::heartbeat:anything): Started hana-ha-vm-2 Clone Set: msl_SAPHana_HA1_HDB22 [rsc_SAPHana_HA1_HDB22] (promotable) Masters: [ hana-ha-vm-2 ] Slaves: [ hana-ha-vm-1 hana-ha-vm-1w1 hana-ha-vm-2w1 Stopped: [ hana-ha-vm-mm ]]
评估 SAP HANA 工作负载
如需对 Google Cloud 上运行的 SAP HANA 高可用性工作负载自动执行持续验证检查，您可以使用 Workload Manager。
借助 Workload Manager，您可以根据 SAP、Google Cloud 和操作系统供应商的最佳实践自动扫描和评估 SAP HANA 高可用性工作负载。这有助于提高工作负载的质量、性能和可靠性。
如需了解 Workload Manager 支持用于评估 Google Cloud 上运行的 SAP HANA 高可用性工作负载的最佳实践，请参阅适用于 SAP 的 Workload Manager 最佳实践。如需了解如何使用 Workload Manager 创建和运行评估，请参阅创建和运行评估。
问题排查
如需排查 SLES 上的 SAP HANA 高可用性配置问题，请参阅排查 SAP 高可用性配置。
获取 SLES 上的 SAP HANA 的支持
如果您在解决 SLES 上的 SAP HANA 高可用性集群问题时需要帮助，请收集必要的诊断信息并与 Cloud 客户服务联系。如需了解详情，请参阅 SLES 上的高可用性集群诊断信息。
支持
如有 Google Cloud 基础架构或服务方面的问题，请与 Customer Care 联系。您可以在 Google Cloud 控制台中的“支持概览”页面上找到联系信息。如果 Customer Care 确定问题在于您的 SAP 系统，会将您引荐给 SAP 支持。
对于与 SAP 产品有关的问题，请通过 SAP 支持记录您的支持请求。
SAP 会评估支持服务工单，如果该问题似乎是 Google Cloud 基础架构问题，则将工单转移到 Google Cloud 组成团队 BC-OP-LNX-GOOGLE 或 BC-OP-NT-GOOGLE。
支持要求
您必须满足最低支持方案要求，才能获得对 SAP 系统及其使用的 Google Cloud 基础架构和服务的支持。
如需详细了解 Google Cloud 上的 SAP 的最低支持要求，请参阅：
连接到 SAP HANA
如果主机虚拟机没有 SAP HANA 的外部 IP 地址，则您将只能使用 SSH 通过堡垒实例连接到 SAP HANA 实例，或使用 SAP HANA Studio 通过 Windows 服务器连接到 SAP HANA 实例。
如需通过堡垒实例连接到 SAP HANA，请使用您选择的 SSH 客户端连接到堡垒主机，然后再连接到 SAP HANA 实例。
如需通过 SAP HANA Studio 连接到 SAP HANA 数据库，请使用远程桌面客户端连接到 Windows Server 实例。连接后，手动安装 SAP HANA Studio 并访问 SAP HANA 数据库。
部署后任务
完成部署后，请完成以下步骤：
更改 SAP HANA 系统管理员和数据库超级用户的临时密码。例如：
sudo passwd SID_LCadm
如需了解 SAP 提供的有关更改密码的信息，请参阅重置系统数据库的系统用户密码。
在使用 SAP HANA 实例之前，请先配置和备份新的 SAP HANA 数据库。
如果 SAP HANA 系统部署在 VirtIO 网络接口上，我们建议您确保 TCP 参数
/proc/sys/net/ipv4/tcp_limit_output_bytes的值设置为1048576。此修改有助于提高 VirtIO 网络接口上的总体网络吞吐量，而不会影响网络延迟时间。
如需了解详情，请参阅以下主题：
后续步骤
如需了解详情，请参阅以下资源：