Configura il numero massimo di istanze
Puoi controllare il comportamento di scalabilità della funzione impostando un valore massimo di istanze di funzioni Cloud Run. Impostazione dei controlli per il numero massimo di istanze ed evita che le risorse downstream vengano sovraccaricate dal traffico.
Le funzioni Cloud Run scalano creando nuove istanze della funzione. Ciascuna istanze possono gestire una sola richiesta alla volta, per cui potrebbe comportare la creazione di molte istanze.
La scalabilità automatica è vantaggiosa nella maggior parte dei casi, ma in alcuni casi potresti volere limitare il numero totale di istanze che possono esistere in un determinato momento. Ad esempio, la funzione potrebbe interagire con un database che può gestire solo un determinato numero di connessioni aperte.
Le funzioni Cloud Run offrono la concorrenza come meccanismo di scalabilità aggiuntivo. Una funzione configurata per la contemporaneità può eseguire più richieste contemporaneamente su una singola istanza. Puoi configurare una funzione in modo che utilizzi entrambi e di più istanze per ottimizzarne le prestazioni. Per saperne di più configurazione della contemporaneità, consulta Contemporaneità delle funzioni Cloud Run.
Impostazione dei limiti massimi di istanze
Puoi impostare un numero massimo di istanze per una funzione durante il deployment. Ogni funzione ha la propria impostazione di istanze massime. Le funzioni scalano indipendentemente tra loro. Le funzioni Cloud Run richiedono un valore massimo definito di istanze gestite.
Impostazione dei limiti massimi di istanze
Puoi impostare un limite massimo di istanze utilizzando Google Cloud CLI o la console Google Cloud. Se non specifichi un limite, le funzioni Cloud Run impostano un il valore predefinito è 100.
Per impostare un limite massimo di istanze:
Console
Vai alla sezione Pagina Panoramica delle funzioni di Cloud Run.
Fai clic su Crea funzione.
Compila i campi obbligatori per la funzione.
Espandi la sezione Runtime, build... alla fine della pagina e fai clic su la scheda Runtime.
Nel campo Numero massimo di istanze della sezione Scalabilità automatica, inserisci un valore o utilizza quello predefinito.
gcloud
Per impostare un limite massimo di istanze, esegui il comando deploy con
Flag --max-instances:
gcloud functions deploy FUNCTION_NAME --max-instances MAX_INSTANCE_LIMIT
Sostituisci quanto segue:
FUNCTION_NAME: il nome della funzione.
MAX_INSTANCE_LIMIT: il numero da impostare come numero massimo di istanze limite, ad esempio 3000.
Limiti e best practice
Questa sezione fornisce linee guida per l'utilizzo del numero massimo di istanze.
Scegli un valore massimo per l'istanza
Il valore ottimale per l'impostazione delle istanze massime dipende dalle caratteristiche della funzione, tra cui il tempo di esecuzione di una chiamata, la frequenza media e di picco prevista delle chiamate e la tolleranza dell'applicazione per gli errori di chiamata. Una buona regola pratica è iniziare con un numero massimo di istanze valore 3, quindi monitora gli errori di chiamata e regola il numero massimo o aumentare il valore delle istanze.
Gestione delle richieste quando tutte le istanze sono occupate
In circostanze normali, la funzione fa lo scale up creando nuove istanze per per gestire il carico del traffico in entrata. Ma se imposti un limite massimo di istanze, potresti riscontrare uno scenario in cui non ci sono istanze sufficienti da soddisfare carico di traffico in entrata.
In questo scenario, Cloud Run Functions tenta di gestire una nuova richiesta in entrata per Fino a 30 secondi:
- Se un'istanza termina l'elaborazione della richiesta durante questo periodo di tempo, potrebbe iniziare a elaborare la nuova richiesta in entrata.
- Se nessuna istanza diventa disponibile, la richiesta avrà esito negativo.
Richieste inviate a funzioni HTTP con sovraccarico.
con un codice di risposta 429 Too Many Requests.
Gli eventi destinati alle funzioni basate su eventi verranno salvati automaticamente fino al giorno e la capacità di archiviazione è disponibile.
Limiti massimi di istanze che superano la capacità di scalabilità delle funzioni di Cloud Run
Quando specifichi un limite massimo di istanze, indichi un limite superiore. L'impostazione di un limite elevato non implica lo scale up della funzione di istanze VM specificato. Significa solo che il numero di istanze coesistenza in qualsiasi momento non deve superare il limite.
Inoltre, l'impostazione di un limite massimo di istanze potrebbe influire sulle strategie di scalabilità usate dalle funzioni di Cloud Run per soddisfare la domanda di traffico. In generale, le funzioni Cloud Run daranno la priorità al rispetto del limite specificato anziché al ridimensionamento e al superamento potenziale del limite.
Gestione dei picchi di traffico
In alcuni casi, ad esempio in caso di picchi di traffico rapidi, le funzioni Cloud Run potrebbero, per un breve periodo di tempo, creare più istanze rispetto al limite di istanze massime specificato. Se la funzione non è in grado di tollerare questo comportamento temporaneo, è consigliabile per tenere conto di un margine di sicurezza e impostare un valore massimo di istanze più basso del tuo una funzione può tollerare.
Deployment
Quando esegui il deployment di una nuova versione della funzione, le funzioni Cloud Run eseguono la migrazione del traffico dalla versione precedente alla nuova. Poiché i limiti di istanze massime sono impostati in modo indipendente per ogni versione della funzione, potresti superare temporaneamente il limite specificato nel periodo successivo al deployment.
Ad esempio, una funzione potrebbe avere un limite massimo di istanze pari a 5. In condizioni normali in circostanze eccezionali, la funzione fa lo scale up fino a 5 istanze mentre gestisce le richieste. Quando viene eseguito il deployment di una nuova versione della funzione, la nuova versione ha il proprio di 5 istanze.
Richieste già gestite dalla versione precedente della funzione non vengano interrotti quando viene eseguito il deployment di una nuova versione della funzione. Al contrario, queste richieste continueranno a essere elaborate. Le nuove richieste in entrata verranno e gestita dalla versione della funzione di cui è stato appena eseguito il deployment.
Pertanto, la funzione nell'esempio precedente potrebbe avere fino a 10 istanze totali (5 per ogni versione della funzione) durante il periodo successivo al deployment della nuova completamente gestita. Il tempo necessario per l'interruzione delle istanze della funzione precedente dipende dal tempo necessario per completare la gestione di eventuali richieste attive. Questo è un altro fattore da tenere in considerazione quando e selezionare un limite massimo di istanze appropriato.