En este documento, se describe cómo renovar de forma manual los certificados vencidos en GKE en Bare Metal. Los componentes del plano de control de GKE en Bare Metal usan certificados de seguridad de la capa de transporte (TLS). Cuando estos certificados vencen, tu capacidad para administrar las cargas de trabajo y los ciclos de vida del clúster se bloquea hasta que se puedan renovar. Para obtener más información sobre el impacto de los certificados vencidos, consulta Vencimiento de los certificados.
De forma predeterminada, los certificados TLS tienen un período de vencimiento de 1 año. GKE en Bare Metal renueva estos certificados automáticamente durante las actualizaciones del clúster y cuando rotas autoridades certificadoras. Te recomendamos que actualices tus clústeres con regularidad para mantenerlos seguros y compatibles, y para evitar que los certificados TLS venzan.
Errores causados por el vencimiento del certificado
Si los certificados TLS en tu clúster vencen, los controladores principales no pueden establecer conexiones TLS con el servidor de la API de Kubernetes. Esta falta de conectividad genera los siguientes errores:
Unable to connect to the server: x509: Unable to connect to the server
Cuando usas
kubectl
para obtener los nodos del clúster, la respuesta incluye un error que hace referencia al vencimiento del certificado:kubectl get nodes --kubeconfig KUBECONFIG_PATH
Reemplaza
KUBECONFIG_PATH
por la ruta de acceso al archivo kubeconfig de tu clúster.Cuando los certificados vencen, la respuesta es similar a la siguiente:
Unable to connect to the server: x509: certificate has expired or is not yet valid
could not connect: x509
orejected connection
Los certificados vencidos bloquean el acceso al clúster de etcd, ya que los pares no pueden comunicarse entre sí. Los registros de etcd pueden contener entradas de error como las siguientes:
W | rafthttp: health check for peer 6221a1d241bb2d0a could not connect: x509: certificate has expired or is not yet valid I | embed: rejected connection from "10.200.0.4:46108" (error "remote error: tls: bad certificate", ServerName "")
Cómo verificar las fechas de vencimiento de los certificados
En esta sección, se incluyen instrucciones para verificar las fechas de vencimiento de los certificados que usa tu clúster. Realiza los siguientes pasos en cada nodo del plano de control.
Para verificar las fechas de vencimiento de los certificados, sigue estos pasos:
Accede a una de las máquinas de nodos del plano de control y ejecuta el siguiente comando:
sudo kubeadm certs check-expiration
El resultado del comando enumera los certificados que creó
kubeadm
para los componentes del plano de control y su vencimiento:CERTIFICATE EXPIRES RESIDUAL TIME CERTIFICATE AUTHORITY EXTERNALLY MANAGED admin.conf Nov 28, 2021 19:09 UTC 53m no apiserver Nov 28, 2021 19:09 UTC 53m ca no apiserver-etcd-client Nov 28, 2021 19:09 UTC 53m etcd-ca no apiserver-kubelet-client Nov 28, 2021 19:09 UTC 53m ca no controller-manager.conf Nov 28, 2021 19:09 UTC 53m no etcd-healthcheck-client Nov 28, 2021 19:09 UTC 53m etcd-ca no etcd-peer Nov 28, 2021 19:09 UTC 53m etcd-ca no etcd-server Nov 28, 2021 19:09 UTC 53m etcd-ca no front-proxy-client Nov 28, 2021 19:09 UTC 53m front-proxy-ca no scheduler.conf Nov 28, 2021 19:09 UTC 53m no CERTIFICATE AUTHORITY EXPIRES RESIDUAL TIME EXTERNALLY MANAGED ca Nov 26, 2031 18:06 UTC 9y no etcd-ca Nov 26, 2031 18:06 UTC 9y no front-proxy-ca Nov 26, 2031 18:06 UTC 9y no
Ejecuta el siguiente comando para verificar las fechas de vencimiento de los certificados
kubelet
:sudo openssl x509 -in /var/lib/kubelet/pki/kubelet-client-current.pem -text | grep Validity -A2 sudo openssl x509 -in /var/lib/kubelet/pki/kubelet-server-current.pem -text | grep Validity -A2
La respuesta de cada comando luce como el siguiente resultado:
Validity Not Before: Sep 17 22:27:53 2021 GMT Not After : Sep 17 22:33:16 2022 GMT
Si todos los nodos del plano de control se iniciaron al mismo tiempo, las horas de vencimiento del certificado son de pocos minutos entre sí. Esta relación de tiempo se aplica en todos los nodos del plano de control. Puedes verificar las horas de vencimiento mediante la ejecución de los comandos anteriores en cada nodo del plano de control.
Ejecuta el siguiente comando en la estación de trabajo de administrador para verificar la fecha de vencimiento del certificado de cliente en el archivo kubeconfig del clúster:
grep 'client-certificate-data' KUBECONFIG_PATH | \ awk '{print $2}' | base64 -d | openssl x509 -text | grep Validity -A2
La respuesta se ve como este resultado de muestra:
Validity Not Before: Sep 17 22:27:53 2021 GMT Not After : Sep 17 22:33:16 2022 GMT
Ejecuta el siguiente comando para buscar el vencimiento del certificado del clúster kubeconfig en el clúster de administrador:
kubectl get secret/CLUSTER_NAME-kubeconfig -n CLUSTER_NAMESPACE -o --kubeconfig=ADMIN_KUBECONFIG jsonpath='{.data.value}' | base64 --decode | grep client-certificate-data | awk '{print $2}' | base64 -d | openssl x509 -text | grep Validity -A2
Validity Not Before: Sep 17 22:27:53 2021 GMT Not After : Sep 17 22:33:16 2022 GMT
El certificado kubeconfig en el clúster de administrador y el certificado en el archivo kubeconfig en la estación de trabajo de administrador son los mismos. Por lo tanto, el resultado de este comando y el del paso anterior deben coincidir.
Renovar certificados de forma manual
Si quieres renovar de forma manual los certificados TLS para un clúster, usa las instrucciones de las siguientes secciones.
Renovar certificados en cada nodo del plano de control
Realiza los siguientes pasos en cada nodo del plano de control del clúster afectado:
Crea una copia de seguridad de la carpeta
/etc/kubernetes
.Ejecuta el siguiente comando de
kubeadm
para renovar todos los certificados:El comando renueva los certificados mediante las autoridades certificadas (CA) existentes en la máquina.
sudo kubeadm certs renew all
El resultado del comando es similar al siguiente ejemplo:
certificate embedded in the kubeconfig file for the admin to use and for kubeadm itself renewed certificate for serving the Kubernetes API renewed certificate the apiserver uses to access etcd renewed certificate for the API server to connect to kubelet renewed certificate embedded in the kubeconfig file for the controller manager to use renewed certificate for liveness probes to healthcheck etcd renewed certificate for etcd nodes to communicate with each other renewed certificate for serving etcd renewed certificate for the front proxy client renewed certificate embedded in the kubeconfig file for the scheduler manager to use renewed
Ejecuta el siguiente comando para verificar que los certificados tengan una hora de vencimiento nueva:
sudo kubeadm certs check-expiration
Reinicia los contenedores con los siguientes comandos:
No todos los componentes del plano de control admiten la recarga de certificados dinámicos, por lo que, en este paso, se reinician los siguientes contenedores:
kube-apiserver
,kube-scheduler
,kube-controller-manager
yetcd
para recoger los certificados renovados.Repite los siguientes pasos para cada uno de los cuatro contenedores:
Busca el ID de cada contenedor:
sudo crictl ps | grep CONTAINER_NAME
Reemplaza
CONTAINER_NAME
por el nombre de los siguientes contenedores:kube-apiserver
,kube-scheduler
,kube-controller-manager
oetcd
(noetcd-defrag
).La respuesta es similar al siguiente resultado:
c331ade490cb6 28df10594cd92 26 hours ago Running kube-apiserver ...
El ID del contenedor es el valor de la primera columna.
Detén cada contenedor:
sudo crictl stop CONTAINER_ID
Reemplaza CONTAINER_ID por el ID del contenedor del paso anterior.
Cuando sale el contenedor detenido, kubelet crea un contenedor nuevo en su lugar y borra el detenido. Si encuentras un error, como
context deadline exceeded
(código de errorDeadlineExceeded
), vuelve a ejecutar el comando.
Verifica que se restablezca la conectividad
En este punto, los certificados de kubeadm deben renovarse en todos los nodos del plano de control. Si vas a renovar certificados vencidos, realiza el siguiente paso.
Para verificar la conexión con el servidor de la API de Kubernetes, ejecuta el siguiente comando
kubectl
en cualquier nodo del plano de control:kubectl get nodes --kubeconfig=/etc/kubernetes/admin.conf
La respuesta debería mostrar la lista de nodos del clúster. Si los certificados se renuevan de forma correcta, no se mostrarán errores de TLS ni de certificados.
Reemplaza el archivo kubeconfig del clúster
Para reemplazar el archivo kubeconfig de tu clúster por uno que tenga los certificados renovados, sigue estos pasos:
Para crear el nuevo archivo kubeconfig, ejecuta el siguiente comando
kubectl
en la estación de trabajo de administrador:kubectl --kubeconfig="ADMIN_KUBECONFIG" get secret/CLUSTER_NAME-kubeconfig \ -n "CLUSTER_NAMESPACE" -o jsonpath='{.data.value}' | base64 --decode > new_kubeconfig.conf
Reemplaza lo siguiente:
ADMIN_KUBECONFIG: Es la ruta de acceso al archivo kubeconfig del clúster de administrador.
CLUSTER_NAME: Es el nombre del clúster para el que se renovarán los certificados.
CLUSTER_NAMESPACE: Es el espacio de nombres del clúster para el que deseas renovar los certificados.
El archivo
new_kubeconfig.conf
contiene los datos del certificado actualizados.Ejecuta cualquier comando
kubectl
con las credenciales nuevas para verificar que el kubeconfig nuevo funcione:kubectl get nodes --kubeconfig new_kubeconfig.conf
Reemplaza el contenido del archivo kubeconfig anterior guardado en el directorio del clúster de la estación de trabajo de administrador por el contenido del archivo kubeconfig nuevo
new-kubeconfig.conf
.De forma predeterminada, la ruta al archivo de configuración del clúster es
bmctl-workspace/CLUSTER_NAME/CLUSTER_NAME-kubeconfig
.
Verifica los certificados de kubelet y reinicia etcd-defrag
A fin de finalizar el proceso de renovación de los certificados del clúster de forma manual, realiza los siguientes pasos para cada nodo del plano de control:
Accede al nodo del plano de control y verifica el cliente de kubelet y la hora de vencimiento del certificado de entrega mediante la ejecución de los siguientes comandos:
Los certificados de Kubelet se rotan de forma automática siempre que se pueda acceder al plano de control. El período para la renovación automática de los certificados de kubelet es menor que el período de vencimiento de los certificados de componentes del plano de control. Por lo tanto, es probable que los certificados de kubelet se hayan renovado antes
sudo openssl x509 -in /var/lib/kubelet/pki/kubelet-client-current.pem -text | grep Validity -A2 sudo openssl x509 -in /var/lib/kubelet/pki/kubelet-server-current.pem -text | grep Validity -A2
El resultado de cualquiera de los comandos se verá como el siguiente ejemplo:
Validity Not Before: Nov 28 18:04:57 2022 GMT Not After : Nov 28 19:04:57 2023 GMT
Usa el siguiente comando para reiniciar el contenedor
etcd-defrag
:El contenedor
etcd-defrag
usa el certificado de clienteapiserver-etcd
para comunicarse con etcd y debe reiniciarse a fin de recoger los certificados actualizados.kubectl rollout restart daemonset etcd-defrag -n kube-system --kubeconfig KUBECONFIG_PATH
Completaste los pasos manuales para renovar los certificados de clústeres. Verifica que todos los pods se ejecuten de forma correcta y que no se informen errores de TLS para los contenedores del plano de control.