Configura la cantidad máxima de instancias
Puedes controlar el comportamiento de escalamiento de tu función si configuras un número máximo de instancias de Cloud Run Functions. Configurar las instancias máximas controla el costo y evita que los recursos descendentes se sobrecarguen con el tráfico.
Cloud Run Functions escalan mediante la creación de instancias nuevas de tu función. Cada una de estas instancias solo puede manejar una solicitud a la vez, por lo que los picos grandes en el volumen de solicitudes pueden generar muchas instancias.
El ajuste de escala automático tiene ventajas la mayor parte del tiempo, pero en algunos casos es posible que desees limitar la cantidad total de instancias que pueden existir en un momento determinado. Por ejemplo, tu función puede interactuar con una base de datos que solo pueda controlar una cierta cantidad de conexiones abiertas.
Cloud Run Functions ofrecen simultaneidad como un mecanismo de escalamiento adicional. Una función configurada para la simultaneidad puede ejecutar varias solicitudes de forma simultánea en una sola instancia. Puedes configurar una función para usar simultaneidad y varias instancias para optimizar su rendimiento. Para obtener información sobre cómo configurar la simultaneidad, consulta Simultaneidad de Cloud Run Functions.
Configura el límite máximo de instancia
Puedes establecer una cantidad máxima de instancias para una función durante la implementación. Cada función tiene su propia configuración de instancia máxima. Las funciones se escalan de forma independiente unas de otras. Las funciones de Cloud Run Functions requieren un límite máximo definido de instancias.
Configura el límite máximo de instancia
Puedes establecer un límite máximo de instancias mediante Google Cloud CLI o la consola de Google Cloud. Si no especificas un límite, Cloud Run Functions establecerán un valor predeterminado de 100.
Para establecer un límite máximo de instancias, haz lo siguiente:
Console
Haz clic en Crear función.
Completa los campos obligatorios de la función.
Expande la sección Entorno de ejecución, compilación... al final de la página y haz clic en la pestaña Entorno de ejecución.
En el campo Cantidad máxima de instancias, en la sección Ajuste de escala automático, ingresa un valor o usa el valor predeterminado.
gcloud
Para establecer un límite máximo de instancias, ejecuta el comando deploy
con la marca --max-instances
:
gcloud functions deploy FUNCTION_NAME --max-instances MAX_INSTANCE_LIMIT
Reemplaza lo siguiente:
FUNCTION_NAME: Es el nombre de la función.
MAX_INSTANCE_LIMIT: el número que se establecerá como el límite máximo de instancias, por ejemplo, 3,000.
Límites y prácticas recomendadas
En esta sección, se brindan pautas para utilizar la cantidad máxima de instancias.
Elige un valor máximo de instancia
El valor óptimo para la configuración de instancias máximas depende de las características de tu función, incluido el tiempo que se tarda en ejecutarse una invocación, su frecuencia de invocación promedio y máxima esperada, y la tolerancia de tu aplicación ante las fallas de invocación. Una buena regla general es comenzar con un valor máximo de 3 instancias y, luego, supervisar las fallas de invocación y ajustar el valor máximo de instancias hacia arriba según sea necesario.
Controla las solicitudes cuando todas las instancias están ocupadas
En circunstancias normales, tu función se escala creando instancias nuevas para controlar la carga de tráfico entrante. Sin embargo, cuando estableces un límite máximo de instancias, puede darse una situación en la que no hay suficientes instancias para cumplir con esa carga de tráfico entrante.
En ese caso, Cloud Run Functions intenta entregar una solicitud entrante nueva durante un máximo de 30 segundos:
- Si una instancia termina de procesar su solicitud durante este período, es posible que comience a procesar la solicitud entrante nueva.
- Si no hay ninguna instancia disponible, la solicitud fallará.
Las solicitudes enviadas a funciones de HTTP sobrecargadas
fallan con un código de respuesta de 429 Too Many Requests
Los eventos destinados a funciones controladas por eventos se guardarán de forma automática hasta que la capacidad esté disponible.
Límites máximos de instancias que exceden la capacidad de escalamiento de Cloud Run Functions
Cuando especificas un límite máximo de instancias, estás estableciendo un límite superior. Establecer un límite grande no significa que tu función escalará verticalmente al número especificado de instancias. Solo significa que la cantidad de instancias que coexisten en cualquier momento no debe exceder el límite.
Además, establecer un límite máximo de instancias puede afectar las estrategias de escalamiento que Cloud Run Functions usa para satisfacer tu demanda de tráfico. En general, Cloud Run Functions priorizará el cumplimiento del límite especificado en lugar de escalarlo verticalmente y superarlo.
Controla los picos de tráfico
En algunos casos, como picos de tráfico rápidos, Cloud Run Functions puede, por un período breve, crear más instancias que el límite máximo especificado. Si tu función no puede tolerar este comportamiento temporal, tal vez desees tener en cuenta un margen de seguridad y establecer un valor de instancias máximo inferior al que puede tolerar tu función.
Implementaciones
Cuando implementas una nueva versión de tu función, Cloud Run Functions migra el tráfico de la versión anterior a la nueva. Debido a que los límites de instancias máximas se establecen para cada versión de tu función de forma independiente, puedes exceder temporalmente el límite especificado durante el período posterior a la implementación.
Por ejemplo, una función puede tener un límite máximo de 5 instancias. En circunstancias normales, la función escala verticalmente hasta 5 instancias mientras controla las solicitudes. Cuando se implementa una versión nueva de la función, esa versión tiene su propio límite máximo de 5 instancias.
Las solicitudes que controla la versión anterior de la función actualmente no se interrumpen cuando se implementa una versión nueva de la función. Por el contrario, estas solicitudes continuarán progresando. La versión de la función que se implementó recientemente controlará las solicitudes entrantes nuevas.
Por lo tanto, la función del ejemplo anterior puede tener hasta 10 instancias totales (5 para cada versión de tu función) durante el período posterior a la implementación de la versión nueva. El tiempo de finalización requerido de las instancias de la función anterior depende del tiempo requerido para que esas instancias terminen de controlar cualquier solicitud activa. Este es un factor adicional que se debe tener en cuenta cuando se selecciona un límite máximo de instancias.