重置 Anthos Clusters on Bare Metal 中的故障节点

Version 1.13 

• 最新
• 版本 1.16
• 早期版本（不受支持）

如果 Anthos Clusters on Bare Metal 中的节点发生故障（例如由于存储、网络或操作系统配置错误），则需要高效地恢复集群运行状况。恢复集群运行状况后，您可以排查节点故障问题。

本文档介绍如何通过重置节点并在需要时强制移除节点来从节点故障场景恢复。

如果要在节点未发生故障的正常情况下在集群中添加节点或者从集群中移除节点，请参阅更新集群。

概览

有时候，在节点发生故障时，您无法在节点上运行重置命令，因为节点可能无法访问。您可能需要从集群强制移除节点。

当您彻底重置节点并更新集群时，会发生以下操作：

1. 该节点会重置（类似于 kubeadm reset），机器会还原到预安装的状态。
2. 系统会从节点池和集群自定义资源中移除对节点的相关引用。

注意：在以下一些用于重置节点的 bmctl 命令中，--force 参数会指示是否应跳过重置命令（第 1 步）。如果使用 --force 参数，则 bmctl 仅执行移除步骤（第 2 步），而不运行重置命令。

工作器节点

如需从集群中移除节点，请先尝试彻底移除该节点：

1. 尝试彻底重置节点。该节点重置后，系统会从集群中移除该节点：

   bmctl reset nodes \
     --addresses COMMA_SEPARATED_IPS \
     --cluster CLUSTER_NAME \
     --kubeconfig ADMIN_KUBECONFIG
   

   替换以下值：

   • COMMA_SEPARATED_IP：要重置的节点的 IP 地址，例如 10.200.0.8,10.200.0.9。
   • CLUSTER_NAME：包含故障节点的目标集群的名称。
   • ADMIN_KUBECONFIG：管理员集群 kubeconfig 文件的路径。

   现在，您可以诊断节点并修复导致初始故障的任何配置错误。跳过本部分的其余步骤。

2. 如果上一步重置节点失败，您可以强制从集群中移除该节点。此强制移除操作会跳过运行重置命令的上一步，并且仅执行从节点池和集群自定义资源中移除对节点的相关引用的步骤：

   bmctl reset nodes \
    --addresses COMMA_SEPARATED_IPS \
    --cluster CLUSTER_NAME \
    --kubeconfig ADMIN_KUBECONFIG \
    --force
   

   现在，您可以诊断节点并修复导致初始故障的任何配置错误。

3. 如果您在上一步中强制从节点集群中移除节点，请再次运行 bmctl reset 命令以重置节点：

   bmctl reset nodes \
     --addresses COMMA_SEPARATED_IPS \
     --cluster CLUSTER_NAME \
     --kubeconfig ADMIN_KUBECONFIG
   

单个控制平面节点故障

该过程与工作器节点相同。对于控制平面节点，bmctl 还会清除 etcd 成员资格。

注意：移除故障节点后，集群将变为非 HA 集群。如需恢复为高可用性状态，请将运行状况良好的节点添加到集群。

如需从集群中移除节点，请先尝试彻底移除该节点：

1. 尝试彻底重置节点。该节点重置后，系统会从集群中移除该节点：

   bmctl reset nodes \
     --addresses COMMA_SEPARATED_IPS \
     --cluster CLUSTER_NAME \
     --kubeconfig ADMIN_KUBECONFIG
   

   替换以下值：

   • COMMA_SEPARATED_IP：要重置的节点的 IP 地址，例如 10.200.0.8,10.200.0.9。
   • CLUSTER_NAME：包含故障节点的目标集群的名称。
   • ADMIN_KUBECONFIG：管理员集群 kubeconfig 文件的路径。

   现在，您可以诊断节点并修复导致初始故障的任何配置错误。跳过本部分的其余步骤。

2. 如果上一步重置节点失败，您可以强制从集群中移除该节点。此强制移除操作会跳过运行重置命令的上一步，并且仅执行从节点池和集群自定义资源中移除对节点的相关引用的步骤：

   bmctl reset nodes \
     --addresses COMMA_SEPARATED_IPS \
     --cluster CLUSTER_NAME \
     --kubeconfig ADMIN_KUBECONFIG \
     --force
   

   现在，您可以诊断节点并修复导致初始故障的任何配置错误。

3. 如果您在上一步中强制从节点集群中移除节点，请再次运行 bmctl reset 命令以重置节点：

   bmctl reset nodes \
     --addresses COMMA_SEPARATED_IPS \
     --cluster CLUSTER_NAME \
     --kubeconfig ADMIN_KUBECONFIG
   

HA 控制平面中丢失的仲裁

如果 HA 集群中有太多控制平面节点变为故障状态，则集群将丢失仲裁，并且不可用。

注意：如果您需要恢复管理集群，请不要在重置命令中提供 kubeconfig 文件。如果您为管理集群提供 kubeconfig 文件，该文件会强制新集群执行重置操作。恢复用户集群时，请提供 kubeconfig 文件的路径。

1. 如需恢复丢失仲裁的集群，请在其余运行状况良好的节点上运行以下命令：

   bmctl restore --control-plane-node CONTROL_PLANE_NODE \
     --cluster CLUSTER_NAME \
     [--kubeconfig KUBECONFIG_FILE]
   

   替换以下值：

   • CONTROL_PLANE_NODE：仍属于集群且运行状况良好的节点的 IP 地址。
   • CLUSTER_NAME：包含故障节点的目标集群的名称。
   • KUBECONFIG_FILE：如果恢复用户集群，则为用户集群 kubeconfig 文件的路径。

2. 恢复故障节点后，运行 bmctl reset 命令来重置节点：

   bmctl reset nodes \
     --addresses COMMA_SEPARATED_IPS \
     --cluster CLUSTER_NAME \
     [--kubeconfig KUBECONFIG_FILE]
   

   替换以下值：

   • COMMA_SEPARATED_IP：要重置的节点的 IP 地址，例如 10.200.0.8,10.200.0.9。
   • CLUSTER_NAME：包含故障节点的目标集群的名称。
   • KUBECONFIG_FILE：管理员集群 kubeconfig 文件的路径。

   如果故障节点是负载均衡器节点池的一部分，则在节点恢复后，它们可能会争用控制平面虚拟 IP 地址，使新集群不稳定。恢复节点后，尽快对故障节点运行重置命令。

注意：此过程仅处理 3 节点控制平面 HA 部署的灾难恢复。此过程不支持恢复具有 5 个或更多节点的 HA 设置。

后续步骤

如需详细了解如何在没有故障时在集群中添加节点或者从集群中移除节点以及检查节点状态，请参阅更新集群。