Supervisa las métricas de latencia de inicio

En esta página, se describen las métricas y los paneles disponibles para supervisar la latencia de inicio de las cargas de trabajo de Google Kubernetes Engine (GKE) y los nodos del clúster subyacentes. Puedes usar las métricas para hacer un seguimiento, solucionar problemas y reducir la latencia de inicio.

Esta página está destinada a los administradores y operadores de la plataforma que necesitan supervisar y optimizar la latencia de inicio de sus cargas de trabajo. Para obtener más información sobre los roles comunes a los que hacemos referencia en el contenido de Google Cloud , consulta Tareas y roles comunes de los usuarios de GKE Enterprise.

Descripción general

La latencia de inicio afecta de manera significativa la forma en que tu aplicación responde a los aumentos repentinos de tráfico, la rapidez con la que sus réplicas se recuperan de las interrupciones y la eficiencia de los costos operativos de tus clústeres y cargas de trabajo. Supervisar la latencia de inicio de tus cargas de trabajo puede ayudarte a detectar degradaciones de latencia y hacer un seguimiento del impacto de las actualizaciones de la carga de trabajo y la infraestructura en la latencia de inicio.

La optimización de la latencia de inicio de la carga de trabajo tiene los siguientes beneficios:

  • Reduce la latencia de respuesta de tu servicio a los usuarios durante los aumentos repentinos de tráfico.
  • Reduce la capacidad de publicación excesiva que se necesita para absorber los aumentos repentinos de la demanda mientras se crean réplicas nuevas.
  • Reduce el tiempo inactivo de los recursos que ya se implementaron y que esperan que se inicien los recursos restantes durante los cálculos por lotes.

Antes de comenzar

Antes de comenzar, asegúrate de haber realizado las siguientes tareas:

  • Habilita la API de Google Kubernetes Engine.
    • Habilitar la API de Google Kubernetes Engine
  • Si deseas usar Google Cloud CLI para esta tarea, instala y, luego, inicializa gcloud CLI. Si ya instalaste gcloud CLI, ejecuta gcloud components update para obtener la versión más reciente.

  • Habilita las APIs de Cloud Logging y Cloud Monitoring.

    Enable the APIs

Requisitos

Para ver las métricas y los paneles de latencia de inicio de las cargas de trabajo, tu clúster de GKE debe cumplir con los siguientes requisitos:

Roles y permisos requeridos

Para obtener los permisos que necesitas para habilitar la generación de registros y acceder a ellos y procesarlos, pídele a tu administrador que te otorgue los siguientes roles de IAM:

  • Consulta los clústeres, los nodos y las cargas de trabajo de GKE: Visualizador de Kubernetes Engine (roles/container.viewer) en tu proyecto
  • Accede a las métricas de latencia de inicio y consulta los paneles: Visualizador de supervisión (roles/monitoring.viewer) en tu proyecto
  • Accede a los registros con información de latencia, como los eventos de extracción de imágenes de Kubelet, y míralos en el Explorador de registros y Estadísticas de registros: Visor de registros (roles/logging.viewer) en tu proyecto

Para obtener más información sobre cómo otorgar roles, consulta Administra el acceso a proyectos, carpetas y organizaciones.

También puedes obtener los permisos necesarios mediante roles personalizados o cualquier otro rol predefinido.

Métricas de latencia de inicio

Las métricas de latencia de inicio se incluyen en las métricas del sistema de GKE y se exportan a Cloud Monitoring en el mismo proyecto que el clúster de GKE.

Los nombres de las métricas de Cloud Monitoring en esta tabla deben tener el prefijo kubernetes.io/. Este prefijo se omitió en las entradas de la tabla.

Tipo de métrica (niveles de jerarquía de recursos)
Nombre visible
Categoría, tipo, unidad
Recursos supervisados		 Descripción
Etiquetas
pod/latencies/pod_first_ready  (project)
Latencia de inicio de Pod
GAUGE, Double, s
k8s_pod 		La latencia de inicio de extremo a extremo del Pod (del Pod Created al Ready), incluidas las extracciones de imágenes. Se tomaron muestras cada 60 segundos.
node/latencies/startup  (project)
Latencia de inicio del nodo
GAUGE, INT64, s
k8s_node 		La latencia de inicio total del nodo, de CreationTimestamp a Kubernetes node ready de la instancia de GCE por primera vez. Se tomaron muestras cada 60 segundos.

accelerator_family: Es una clasificación de nodos basada en aceleradores de hardware: gpu, tpu y cpu.
kube_control_plane_available: Indica si se recibió la solicitud de creación de nodos cuando KCP (plano de control de kube) estaba disponible.
autoscaler/latencies/per_hpa_recommendation_scale_latency_seconds  (project)
Latencia por escala de recomendación de HPA
GAUGE, DOUBLE, s
k8s_scale 		Latencia de la recomendación de escalamiento del escalador automático horizontal de Pods (HPA) (tiempo transcurrido entre la creación de las métricas y la aplicación de la recomendación de escalamiento correspondiente al servidor de la API) para el objetivo de HPA. Se hace un muestreo cada 60 segundos. Luego del muestreo, los datos no son visibles durante un máximo de 20 segundos.

metric_type: Es el tipo de fuente de métricas. Debe ser "ContainerResource", "External", "Object", "Pods" o "Resource".

Consulta el panel Latencia de inicio para las cargas de trabajo

El panel Latencia de inicio para cargas de trabajo solo está disponible para las implementaciones. Para ver las métricas de latencia de inicio de las implementaciones, realiza los siguientes pasos en la consola de Google Cloud:

  1. Ir a la página Cargas de trabajo.

    Ir a Cargas de trabajo

  2. Para abrir la vista Detalles de la implementación, haz clic en el nombre de la carga de trabajo que deseas inspeccionar.

  3. Haz clic en la pestaña Observabilidad.

  4. Selecciona Latencia de inicio en el menú de la izquierda.

Cómo ver la distribución de latencia de inicio de los pods

La latencia de inicio de los Pods hace referencia a la latencia de inicio total, incluidas las extracciones de imágenes, que mide el tiempo desde el estado Created del Pod hasta el estado Ready. Puedes evaluar la latencia de inicio de los Pods con los siguientes dos gráficos:

  • Gráfico Distribución de latencia de inicio de Pod: Este gráfico muestra los percentiles de latencia de inicio de los Pods (cincuentavo percentil, noventa y cinco por ciento y noventa y nueve por ciento) que se calculan en función de las observaciones de los eventos de inicio de Pod en intervalos de tiempo fijos de 3 horas, por ejemplo, de 12:00 a.m. a 3:00 a.m. y de 3:00 a.m. a 6:00 a.m. Puedes usar este gráfico para los siguientes fines:

    • Comprende la latencia de inicio del Pod de referencia.
    • Identifica los cambios en la latencia de inicio de los Pods a lo largo del tiempo.
    • Correlaciona los cambios en la latencia de inicio de Pod con eventos recientes, como las implementaciones de cargas de trabajo o los eventos del escalador automático de clústeres. Puedes seleccionar los eventos en la lista Anotaciones que se encuentra en la parte superior del panel.
Gráfico de distribución de latencia de inicio de Pods
Figura: Gráfico de distribución de la latencia de inicio de Pods

  • Gráfico Cantidad de inicio de Pods: Este gráfico muestra la cantidad de Pods que se iniciaron durante los intervalos de tiempo seleccionados. Puedes usar este gráfico para los siguientes fines:

    • Comprende los tamaños de muestra de Pod que se usan para calcular los percentiles de distribución de latencia de inicio de Pod para un intervalo de tiempo determinado.
    • Comprende las causas de los inicios de Pods, como las implementaciones de cargas de trabajo o los eventos de Horizontal Pod Autoscaler. Puedes seleccionar los eventos en la lista Anotaciones en la parte superior del panel.
Gráfico de recuento de inicio de Pods
Figura: Gráfico de recuento de inicio de Pods

Consulta la latencia de inicio de Pods individuales

Puedes ver la latencia de inicio de Pods individuales en el gráfico de cronograma Latencia de primer Pod listo y en la lista asociada.

  • Usa el gráfico de cronograma Latencia de primer Pod listo para correlacionar los inicios de Pods individuales con eventos recientes, como los eventos del escalador automático horizontal de Pods o del escalador automático del clúster. Puedes seleccionar estos eventos en la lista Anotaciones en la parte superior del panel. Este gráfico te ayuda a determinar las posibles causas de cualquier cambio en la latencia de inicio en comparación con otros Pods.
  • Usa la lista Latencia de primer Pod listo para identificar los Pods individuales que tardaron más o menos tiempo en iniciarse. Puedes ordenar la lista por la columna Latencia. Cuando identifiques los Pods que tienen la latencia de inicio más alta, puedes solucionar problemas de degradación de latencia correlacionando los eventos de inicio del Pod con otros eventos recientes.
Gráfico de latencia de "listo" inicial de Pod
Figura: Gráfico de latencia de inicio de Pod

Para saber cuándo se creó un pod individual, observa el valor en el campo timestamp en el evento de creación de pod correspondiente. Para ver el campo timestamp, ejecuta la siguiente consulta en el Explorador de registros:

   log_id("cloudaudit.googleapis.com/activity") AND
   protoPayload.methodName="io.k8s.core.v1.pods.create" AND
   resource.labels.project_id=PROJECT_ID AND
   resource.labels.cluster_name=CLUSTER_NAME AND
   resource.labels.location=CLUSTER_LOCATION AND
   protoPayload.response.metadata.namespace=NAMESPACE AND
   protoPayload.response.metadata.name=POD_NAME

Para enumerar todos los eventos de creación de Pods de tu carga de trabajo, usa el siguiente filtro en la consulta anterior: protoPayload.response.metadata.name=~"POD_NAME_PREFIX-[a-f0-9]{7,10}-[a-z0-9]{5}"

Cuando comparas las latencias de Pods individuales, puedes probar el impacto de varias configuraciones en la latencia de inicio del Pod y, luego, identificar una configuración óptima según tus requisitos.

Determina la latencia de programación de pods

La latencia de programación de Pods es la cantidad de tiempo entre el momento en que se creó un Pod y el momento en que se programó en un nodo. La latencia de programación de pods contribuye al tiempo de inicio de extremo a extremo de un pod y se calcula restando las marcas de tiempo de un evento de programación de pods y una solicitud de creación de pods.

Puedes encontrar una marca de tiempo de un evento de programación de pod individual en el campo jsonPayload.eventTime de un evento de programación de pod correspondiente. Para ver el campo jsonPayload.eventTime, ejecuta la siguiente consulta en el Explorador de registros:

  log_id("events")
  jsonPayload.reason="Scheduled"
  resource.type="k8s_pod"
  resource.labels.project_id=PROJECT_ID
  resource.labels.location=CLUSTER_LOCATION
  resource.labels.cluster_name=CLUSTER_NAME
  resource.labels.namespace_name=NAMESPACE
  resource.labels.pod_name=POD_NAME

Para enumerar todos los eventos de programación de Pods para tu carga de trabajo, usa el siguiente filtro en la consulta anterior: resource.labels.pod_name=~"POD_NAME_PREFIX-[a-f0-9]{7,10}-[a-z0-9]{5}"

Cómo ver la latencia de extracción de imágenes

La latencia de extracción de imágenes de contenedor contribuye a la latencia de inicio del Pod en situaciones en las que la imagen aún no está disponible en el nodo o cuando se debe actualizar. Cuando optimizas la latencia de extracción de imágenes, reduces la latencia de inicio de la carga de trabajo durante los eventos de escalamiento horizontal del clúster.

Puedes ver la tabla Kubelet Image Pull Events para ver cuándo se extrajeron las imágenes del contenedor de la carga de trabajo y cuánto tiempo tardó el proceso.

Tabla de eventos de extracción de imágenes de Kubelet
Figura: Tabla de eventos de extracción de imágenes de Kubelet

La latencia de extracción de imágenes está disponible en el campo jsonPayload.message, que contiene un mensaje como el siguiente:

  "Successfully pulled image "gcr.io/example-project/image-name" in 17.093s (33.051s including waiting). Image size: 206980012 bytes."

Cómo ver la distribución de latencia de las recomendaciones de escalamiento de HPA

La latencia de las recomendaciones de escalamiento del Horizontal Pod Autoscaler (HPA) para el objetivo de HPA es la cantidad de tiempo entre el momento en que se crean las métricas y el momento en que se aplica la recomendación de escalamiento correspondiente al servidor de la API. Cuando optimizas la latencia de las recomendaciones de escalamiento de HPA, reduces la latencia de inicio de tu carga de trabajo durante los eventos de escalamiento horizontal.

Puedes ver el escalamiento del HPA en los siguientes dos gráficos:

  • Gráfico Distribución de la latencia de las recomendaciones de escalamiento de HPA: Este gráfico muestra los percentiles de la latencia de las recomendaciones de escalamiento de HPA (cincuenta por ciento, noventa y cinco por ciento y noventa y nueve por ciento) que se calculan en función de las observaciones de las recomendaciones de escalamiento de HPA en intervalos de tiempo de 3 horas. Puedes usar este gráfico para los siguientes fines:

    • Comprende la latencia de tu recomendación de escalamiento de HPA de referencia.
    • Identifica los cambios en la latencia de las recomendaciones de escalamiento de HPA a lo largo del tiempo.
    • Correlaciona los cambios en la latencia de las recomendaciones de escalamiento de HPA con los eventos recientes. Puedes seleccionar los eventos en la lista Anotaciones que se encuentra en la parte superior del panel.
Gráfico de distribución de latencia de las recomendaciones de escalamiento de HPA
Figura: Gráfico de distribución de latencia de las recomendaciones de escalamiento de HPA

  • Gráfico Recuento de recomendaciones de escalamiento de HPA: Este gráfico muestra el recuento de recomendaciones de escalamiento de HPA que se observaron durante el intervalo de tiempo seleccionado. Usa el gráfico para las siguientes tareas:

    • Comprende los tamaños de muestra de las recomendaciones de escalamiento de HPA. Las muestras se usan para calcular los percentiles en la distribución de latencia de las recomendaciones de escalamiento de HPA para un intervalo de tiempo determinado.
    • Correlaciona las recomendaciones de escalamiento de HPA con los eventos de inicio de Pod nuevos y con los eventos del Horizontal Pod Autoscaler. Puedes seleccionar los eventos en la lista Anotaciones que se encuentra en la parte superior del panel.
Gráfico de recuento de recomendaciones de escalamiento de HPA
Figura: Gráfico de recuento de recomendaciones de escalamiento de HPA

Cómo ver problemas de programación de pods

Los problemas de programación de pods pueden afectar la latencia de inicio de extremo a extremo de tu carga de trabajo. Para reducir la latencia de inicio de extremo a extremo de tu carga de trabajo, resuelve los problemas y reduce su cantidad.

Los siguientes son los dos gráficos disponibles para hacer un seguimiento de estos problemas:

  • El gráfico Pods no programables/pendientes/con errores muestra los recuentos de Pods no programables, pendientes y con errores a lo largo del tiempo.
  • El gráfico Contenedores con errores de retirada/espera/preparación muestra los recuentos de contenedores en estos estados a lo largo del tiempo.

Consulta el panel de latencia de inicio de los nodos

Para ver las métricas de latencia de inicio de los nodos, realiza los siguientes pasos en la consola de Google Cloud:

  1. Ve a la página Clústeres de Kubernetes.

    Ir a Clústeres de Kubernetes

  2. Para abrir la vista Detalles del clúster, haz clic en el nombre del clúster que deseas inspeccionar.

  3. Haz clic en la pestaña Observabilidad.

  4. En el menú de la izquierda, selecciona Latencia de inicio.

Cómo ver la distribución de latencia de inicio de los nodos

La latencia de inicio de un nodo hace referencia a la latencia de inicio total, que mide el tiempo desde el CreationTimestamp del nodo hasta el estado Kubernetes node ready. La latencia de inicio del nodo se puede ver en los siguientes dos gráficos:

  • Gráfico Distribución de latencia de inicio del nodo: Este gráfico muestra los percentiles de latencia de inicio del nodo (percentil cincuenta, percentil noventa y cinco y percentil noventa y nueve) que se calculan en función de las observaciones de los eventos de inicio del nodo en intervalos de tiempo fijos de 3 horas, por ejemplo, de 12:00 a.m. a 3:00 a.m. y de 3:00 a.m. a 6:00 a.m. Puedes usar este gráfico para los siguientes fines:

    • Comprende la latencia de inicio del nodo de referencia.
    • Identifica los cambios en la latencia de inicio del nodo a lo largo del tiempo.
    • Correlaciona los cambios en la latencia de inicio del nodo con eventos recientes, como actualizaciones de clústeres o actualizaciones de grupos de nodos. Puedes seleccionar los eventos en la lista Anotaciones que se encuentra en la parte superior del panel.
Gráfico de distribución de latencia de inicio del nodo
Figura: Gráfico de distribución de latencia de inicio del nodo

  • Gráfico Cantidad de inicios de nodos: Este gráfico muestra la cantidad de nodos que se iniciaron durante los intervalos de tiempo seleccionados. Puedes usar el gráfico para los siguientes fines:

    • Comprende los tamaños de muestra de los nodos, que se usan para calcular los percentiles de distribución de latencia de inicio de nodos para un intervalo de tiempo determinado.
    • Comprender las causas de los inicios de nodos, como las actualizaciones del grupo de nodos o los eventos del escalador automático del clúster Puedes seleccionar los eventos en la lista Anotaciones que se encuentra en la parte superior del panel.
Gráfico de recuento de inicio del nodo
Figura: Gráfico de recuento de inicio de nodos

Cómo ver la latencia de inicio de nodos individuales

Cuando comparas las latencias de nodos individuales, puedes probar el impacto de varias configuraciones de nodos en la latencia de inicio del nodo y, luego, identificar una configuración óptima según tus requisitos. Puedes ver la latencia de inicio de nodos individuales en el gráfico de cronograma Latencia de inicio de nodos y la lista asociada.

  • Usa el gráfico de cronograma Latencia de inicio de nodos para correlacionar los inicios de nodos individuales con eventos recientes, como actualizaciones de clústeres o actualizaciones de grupos de nodos. Puedes determinar las posibles causas de los cambios en la latencia de inicio en comparación con otros nodos. Puedes seleccionar los eventos en la lista Anotaciones que se encuentra en la parte superior del panel.

  • Usa la lista Latencia de inicio de nodos para identificar los nodos individuales que tardaron más o menos tiempo en iniciarse. Puedes ordenar la lista por la columna Latencia. Cuando identificas los nodos con la latencia de inicio más alta, puedes solucionar problemas de degradación de latencia correlacionando los eventos de inicio del nodo con otros eventos recientes.

Gráfico de latencia de inicio del nodo
Figura: Gráfico de latencia de inicio del nodo

Para saber cuándo se creó un nodo individual, observa el valor del campo protoPayload.metadata.creationTimestamp en un evento de creación de nodos correspondiente. Para ver el campo protoPayload.metadata.creationTimestamp, ejecuta la siguiente consulta en el Explorador de registros:

   log_id("cloudaudit.googleapis.com/activity") AND
   protoPayload.methodName="io.k8s.core.v1.nodes.create" AND
   resource.labels.project_id=PROJECT_ID AND
   resource.labels.cluster_name=CLUSTER_NAME AND
   resource.labels.location=CLUSTER_LOCATION AND
   protoPayload.response.metadata.name=NODE_NAME

Cómo ver la latencia de inicio en un grupo de nodos

Si tus grupos de nodos tienen configuraciones diferentes, por ejemplo, para ejecutar cargas de trabajo diferentes, es posible que debas supervisar la latencia de inicio de los nodos por separado según los grupos de nodos. Cuando comparas las latencias de inicio de los nodos en tus grupos de nodos, puedes obtener estadísticas sobre cómo la configuración de los nodos afecta la latencia de inicio de los nodos y, en consecuencia, optimizar la latencia.

De forma predeterminada, el panel Latencia de inicio de nodos muestra la distribución agregada de latencia de inicio y las latencias de inicio de nodos individuales en todos los grupos de nodos de un clúster. Para ver la latencia de inicio de un grupo de nodos específico, selecciona el nombre del grupo de nodos con el filtro $node_pool_name_var ubicado en la parte superior del panel.

¿Qué sigue?