Configurare il numero massimo di istanze (1ª generazione.)
Puoi controllare il comportamento di scalabilità della funzione impostando un numero massimo di istanze di funzioni Cloud Run. L'impostazione del numero massimo di istanze consente di controllare i costi e impedisce alle risorse a valle di essere sopraffatte dal traffico.
Le funzioni Cloud Run si ridimensionano creando nuove istanze della funzione. Ogni di queste istanze può gestire una sola richiesta alla volta, pertanto picchi elevati nel volume delle richieste potrebbero comportare la creazione di molte istanze.
La scalabilità automatica è vantaggiosa nella maggior parte dei casi, ma in alcuni casi potresti volere limitare il numero totale di istanze che possono esistere in un determinato momento. Ad esempio, la funzione potrebbe interagire con un database che può gestire solo un determinato numero di connessioni aperte.
Impostazione e eliminazione dei limiti di istanze massime
Puoi impostare un numero massimo di istanze per una funzione durante il deployment. Ogni funzione ha la propria impostazione di istanze massime. Le funzioni scalano in modo indipendente l'una dall'altra.
Impostazione dei limiti di istanze massime
Puoi impostare un limite massimo di istanze utilizzando Google Cloud CLI o la console Google Cloud. Se non specifichi un limite, Cloud Run imposta un valore predefinito di 3000.
Per impostare un limite massimo di istanze:
Console
Fai clic su Crea funzione.
Compila i campi obbligatori per la funzione.
Espandi la sezione Runtime, build… alla fine della pagina e fai clic sulla scheda Runtime.
Nel campo Numero massimo di istanze della sezione Scalabilità automatica, inserisci un valore o utilizza quello predefinito.
gcloud
Per impostare un limite massimo di istanze, esegui il comando deploy con il flag --max-instances:
gcloud functions deploy FUNCTION_NAME --max-instances MAX_INSTANCE_LIMIT
Sostituisci quanto segue:
FUNCTION_NAME: il nome della funzione.
MAX_INSTANCE_LIMIT: il numero da impostare come limite massimo di istanze, ad esempio 3000.
Annullamento dei limiti massimi di istanze
Puoi cancellare un limite massimo di istanze per una funzione utilizzando lo strumento a riga di comando gcloud o la console Google Cloud.
Console
Per cancellare un limite massimo di istanze per una funzione:
Fai clic su una funzione esistente per aprire la relativa pagina dei dettagli. Puoi vedere il limite attuale di istanze massime della funzione nella scheda Dettagli.
Fai clic su Modifica.
Espandi la sezione Runtime, build… alla fine della pagina e fai clic sulla scheda Runtime.
Nel campo Numero massimo di istanze della sezione Scalabilità automatica, inserisci
0.
gcloud
Per cancellare un limite massimo di istanze per una funzione,
esegui il comando deploy con il flag --clear-max-instances:
gcloud functions deploy FUNCTION_NAME --no-gen2 --clear-max-instances
Limiti e best practice
Questa sezione fornisce linee guida per l'utilizzo del numero massimo di istanze.
Scegli un valore massimo per l'istanza
Il valore ottimale per l'impostazione delle istanze massime dipende dalle caratteristiche della funzione, tra cui il tempo di esecuzione di una chiamata, la frequenza media e di picco prevista delle chiamate e la tolleranza dell'applicazione per gli errori di chiamata. Una buona regola empirica è iniziare con un valore di istanze massime pari a 3, quindi monitorare gli errori di chiamata e modificare il valore di istanze massime verso l'alto, se necessario.
Fai attenzione a non eseguire scale-up eccessivi
Se non viene specificato alcun limite massimo di istanze, le funzioni Cloud Run favoriscono il riscalata per soddisfare la domanda rispetto al limite della velocità in uscita. Ciò significa che il numero di istanze simultanee che la funzione potrebbe avere è effettivamente illimitato, a meno che tu non abbia configurato un limite di questo tipo.
Ti consigliamo di assegnare un limite --max-instances a tutte le funzioni che inviano richieste a servizi a valle con un throughput limitato o altrimenti non scalabili.
Un limite di istanze massime migliora la stabilità complessiva del sistema e aiuta a proteggersi da livelli di richieste anormalmente elevati.
Gestione delle richieste quando tutte le istanze sono occupate
In circostanze normali, la funzione esegue il ridimensionamento in alto creando nuove istanze per gestire il carico del traffico in entrata. Tuttavia, se hai impostato un limite di istanze massime, potresti riscontrare uno scenario in cui le istanze non sono sufficienti per soddisfare il carico del traffico in entrata.
In questo scenario, le funzioni Cloud Run tentano di soddisfare una nuova richiesta in entrata per un massimo di 30 secondi:
- Se un'istanza termina l'elaborazione della richiesta durante questo periodo di tempo, potrebbe iniziare a elaborare la nuova richiesta in entrata.
- Se non viene creata alcuna istanza, la richiesta non andrà a buon fine.
Le richieste inviate a funzioni HTTP sovraccarcate non vanno a buon fine con un codice di risposta
429 Too Many Requestsse è configurato un valore massimo di istanze oppure500 Internal Server Errorse non è configurato alcun valore per il numero massimo di istanze
Gli eventi destinati alle funzioni basate su eventi verranno salvati automaticamente fino a quando non sarà disponibile la capacità.
Limiti di istanze massime che superano la capacità di scalabilità delle funzioni Cloud Run
Quando specifichi un limite massimo di istanze, specifichi un limite superiore. L'impostazione di un limite elevato non significa che la funzione verrà scalata fino al numero specificato di istanze. Significa solo che il numero di istanze che coesistono in un determinato momento non deve superare il limite.
Inoltre, l'impostazione di un limite massimo di istanze potrebbe influire sulle strategie di scalabilità impiegate dalle funzioni Cloud Run per soddisfare la domanda di traffico. In generale, le funzioni Cloud Run daranno la priorità al rispetto del limite specificato anziché aumentare le dimensioni e potenzialmente superare il limite.
Gestione dei picchi di traffico
In alcuni casi, ad esempio in caso di picchi di traffico rapidi, le funzioni Cloud Run potrebbero, per un breve periodo di tempo, creare più istanze rispetto al limite di istanze massime specificato. Se la funzione non può tollerare questo comportamento temporaneo, ti consigliamo di prendere in considerazione un margine di sicurezza e di impostare un valore di istanze massime inferiore a quello tollerato dalla funzione.
Deployment
Quando esegui il deployment di una nuova versione della funzione, Cloud Run esegue la migrazione del traffico dalla versione precedente alla nuova. Poiché i limiti di istanze massime sono impostati in modo indipendente per ogni versione della funzione, potresti superare temporaneamente il limite specificato nel periodo successivo al deployment.
Ad esempio, una funzione potrebbe avere un limite massimo di istanze pari a 5. In circostanze normali, la funzione esegue lo scale up fino a 5 istanze man mano che gestisce le richieste. Quando viene eseguita il deployment di una nuova versione della funzione, questa ha un proprio limite di 5 istanze massime.
Le richieste già gestite dalla versione precedente della funzione non vengono interrotte quando viene implementata una nuova versione della funzione. Al contrario, queste richieste continueranno a essere elaborate. Le nuove richieste in entrata verranno gestite dalla versione appena implementata della funzione.
Pertanto, la funzione nell'esempio precedente potrebbe avere fino a 10 istanze totali (5 per ogni versione della funzione) durante il periodo successivo al deployment della nuova versione. Il tempo necessario per l'interruzione delle istanze della funzione precedente dipende dal tempo necessario per completare la gestione di eventuali richieste attive. Questo è un fattore aggiuntivo da prendere in considerazione quando si seleziona un limite di istanze massime appropriato.
Annullamento dei limiti massimi di istanze
Se imposti il numero massimo di istanze per una funzione su 0, viene cancellato il limite massimo di istanze esistente della funzione, ma la funzione non viene messa in pausa.