Questo documento descrive le best practice per la progettazione, l'implementazione, il test e il deployment di Cloud Run Functions.
Correttezza
Questa sezione descrive le best practice generali per la progettazione e l'implementazione di Cloud Run functions.
Scrivere funzioni idempotenti
Le funzioni devono produrre lo stesso risultato anche se vengono chiamate più volte. In questo modo puoi riprovare un'invocazione se la precedente non va a buon fine a metà del codice. Per saperne di più, consulta Riprovare le funzioni basate su eventi.
Assicurati che le funzioni HTTP inviino una risposta HTTP
Se la tua funzione è attivata tramite HTTP, ricorda di inviare una risposta HTTP, come mostrato di seguito. In caso contrario, la funzione verrà eseguita fino al timeout. In questo caso, ti verrà addebitato l'intero periodo di timeout. I timeout possono anche causare comportamenti imprevedibili o avvii a freddo nelle invocazioni successive, con conseguenti comportamenti imprevedibili o latenza aggiuntiva.
Node.js
Python
Go
Java
C#
Ruby
PHP
Non avviare attività in background
L'attività in background è tutto ciò che accade dopo la chiusura della funzione.
Una chiamata di funzione termina quando la funzione restituisce o segnala
il completamento, ad esempio chiamando l'argomento callback
nelle funzioni basate su eventi Node.js. Qualsiasi codice eseguito dopo l'arresto normale non può accedere alla CPU e
non farà alcun progresso.
Inoltre, quando una chiamata successiva viene eseguita nello stesso ambiente,
l'attività in background riprende, interferendo con la nuova chiamata. Ciò potrebbe
comportare errori e comportamenti imprevisti difficili da diagnosticare. L'accesso
alla rete dopo la terminazione di una funzione di solito comporta il ripristino delle connessioni
(codice di errore ECONNRESET
).
L'attività in background può spesso essere rilevata nei log delle singole chiamate, trovando qualsiasi elemento registrato dopo la riga che indica che la chiamata è terminata. L'attività in background a volte può essere nascosta più in profondità nel codice, soprattutto quando sono presenti operazioni asincrone come callback o timer. Controlla il codice per assicurarti che tutte le operazioni asincrone vengano completate prima di terminare la funzione.
Eliminare sempre i file temporanei
Lo spazio di archiviazione del disco locale nella directory temporanea è un file system in memoria. I file che scrivi consumano la memoria disponibile per la tua funzione e a volte persistono tra le chiamate. Se non elimini esplicitamente questi file, alla fine potresti riscontrare un errore di memoria insufficiente e un successivo riavvio a freddo.
Puoi visualizzare la memoria utilizzata da una singola funzione selezionandola nell'elenco delle funzioni nella consoleGoogle Cloud e scegliendo il grafico Utilizzo della memoria.
Se hai bisogno di accedere a uno spazio di archiviazione a lungo termine, valuta la possibilità di utilizzare i volumi di Cloud Run con Cloud Storage o i volumi NFS.
Puoi ridurre i requisiti di memoria durante l'elaborazione di file più grandi utilizzando il pipelining. Ad esempio, puoi elaborare un file su Cloud Storage creando un flusso di lettura, passandolo attraverso un processo basato sul flusso e scrivendo il flusso di output direttamente in Cloud Storage.
Framework di Functions
Per garantire che le stesse dipendenze vengano installate in modo coerente in tutti gli ambienti, ti consigliamo di includere la libreria Functions Framework nel gestore dei pacchetti e di bloccare la dipendenza a una versione specifica di Functions Framework.
A questo scopo, includi la versione che preferisci nel file di blocco pertinente (ad esempio,
package-lock.json
per Node.js o requirements.txt
per Python).
Se Functions Framework non è elencato esplicitamente come dipendenza, verrà aggiunto automaticamente durante il processo di build utilizzando l'ultima versione disponibile.
Strumenti
Questa sezione fornisce linee guida su come utilizzare gli strumenti per implementare, testare e interagire con le funzioni Cloud Run.
Sviluppo locale
Il deployment della funzione richiede un po' di tempo, quindi spesso è più veloce testare il codice della funzione localmente.
Segnalazione degli errori
Nei linguaggi che utilizzano la gestione delle eccezioni, non generare eccezioni non rilevate, perché forzano gli avvii a freddo nelle invocazioni future.
Non uscire manualmente
L'uscita manuale può causare un comportamento imprevisto. Utilizza invece le seguenti espressioni idiomatiche specifiche per la lingua:
Node.js
Non utilizzare process.exit()
. Le funzioni HTTP devono inviare una risposta con
res.status(200).send(message)
, mentre le funzioni basate sugli eventi
termineranno una volta restituite (in modo implicito o esplicito).
Python
Non utilizzare sys.exit()
. Le funzioni HTTP devono restituire esplicitamente
una risposta come stringa e le funzioni basate su eventi vengono chiuse una volta
che restituiscono un valore (in modo implicito o esplicito).
Vai
Non utilizzare os.Exit()
. Le funzioni HTTP devono restituire esplicitamente
una risposta come stringa e le funzioni basate su eventi vengono chiuse una volta
che restituiscono un valore (in modo implicito o esplicito).
Java
Non utilizzare System.exit()
. Le funzioni HTTP devono inviare una risposta con
response.getWriter().write(message)
, mentre le funzioni basate sugli eventi
termineranno una volta restituite (in modo implicito o esplicito).
C#
Non utilizzare System.Environment.Exit()
. Le funzioni HTTP devono inviare una risposta con
context.Response.WriteAsync(message)
, mentre le funzioni basate sugli eventi
termineranno una volta restituite (in modo implicito o esplicito).
Ruby
Non utilizzare exit()
o abort()
. Le funzioni HTTP devono restituire esplicitamente
una risposta come stringa e le funzioni basate su eventi vengono chiuse una volta
che restituiscono un valore (in modo implicito o esplicito).
PHP
Non utilizzare exit()
o die()
. Le funzioni HTTP devono restituire esplicitamente
una risposta come stringa e le funzioni basate su eventi vengono chiuse una volta
che restituiscono un valore (in modo implicito o esplicito).
Utilizzare SendGrid per inviare email
Cloud Run Functions non consente connessioni in uscita sulla porta 25, pertanto non puoi stabilire connessioni non sicure a un server SMTP. Il modo consigliato per inviare email è utilizzare un servizio di terze parti come SendGrid. Puoi trovare altre opzioni per l'invio di email nell'esercitazione Invio di email da un'istanza per Google Compute Engine.
Prestazioni
Questa sezione descrive le best practice per ottimizzare il rendimento.
Evita una bassa concorrenza
Poiché gli avvii completi sono costosi, la possibilità di riutilizzare istanze avviate di recente durante un picco è un'ottima ottimizzazione per gestire il carico. La limitazione della concorrenza limita il modo in cui è possibile sfruttare le istanze esistenti, causando quindi più avvii a freddo.
L'aumento della concorrenza consente di posticipare più richieste per istanza, semplificando la gestione dei picchi di carico.Utilizzare le dipendenze in modo strategico
Poiché le funzioni sono stateless, l'ambiente di esecuzione viene spesso inizializzato da zero (durante quello che è noto come avvio a freddo). Quando si verifica un avvio a freddo, viene valutato il contesto globale della funzione.
Se le tue funzioni importano moduli, il tempo di caricamento di questi moduli può aumentare la latenza di chiamata durante un avvio a freddo. Puoi ridurre questa latenza, nonché il tempo necessario per il deployment della funzione, caricando correttamente le dipendenze e non caricando le dipendenze che la funzione non utilizza.
Utilizza le variabili globali per riutilizzare gli oggetti nelle chiamate future
Non è garantito che lo stato di una funzione Cloud Run venga preservato per le invocazioni future. Tuttavia, Cloud Run Functions spesso ricicla l'ambiente di esecuzione di una chiamata precedente. Se dichiari una variabile nell'ambito globale, il suo valore può essere riutilizzato nelle invocazioni successive senza dover essere ricalcolato.
In questo modo puoi memorizzare nella cache gli oggetti che potrebbero essere costosi da ricreare a ogni invocazione di funzione. Lo spostamento di questi oggetti dal corpo della funzione all'ambito globale può comportare miglioramenti significativi delle prestazioni. Il seguente esempio crea un oggetto pesante una sola volta per istanza di funzione e lo condivide tra tutte le chiamate di funzione che raggiungono l'istanza specificata:
Node.js
Python
Go
Java
C#
Ruby
PHP
È particolarmente importante memorizzare nella cache le connessioni di rete, i riferimenti alle librerie e gli oggetti client API nell'ambito globale. Per alcuni esempi, consulta le best practice per il networking.
Ridurre gli avvii a freddo impostando un numero minimo di istanze
Per impostazione predefinita, Cloud Run Functions adatta il numero di istanze in base al numero di richieste in entrata. Puoi modificare questo comportamento predefinito impostando un numero minimo di istanze che le funzioni Cloud Run devono mantenere pronte per gestire le richieste. L'impostazione di un numero minimo di istanze riduce gli avvii a freddo della tua applicazione. Se la tua applicazione è sensibile alla latenza, ti consigliamo di impostare un numero minimo di istanze e di completare l'inizializzazione al momento del caricamento.
Per scoprire come impostare un numero minimo di istanze, consulta Utilizzo delle istanze minime.
Note sull'avvio completo e sull'inizializzazione
L'inizializzazione globale avviene al momento del caricamento. Senza, la prima richiesta dovrebbe completare l'inizializzazione e caricare i moduli, con conseguente latenza maggiore.
Tuttavia, l'inizializzazione globale ha un impatto anche sugli avvii a freddo. Per ridurre al minimo questo impatto, inizializza solo ciò che è necessario per la prima richiesta, in modo da mantenere la latenza della prima richiesta il più bassa possibile.
Ciò è particolarmente importante se hai configurato le istanze minime come descritto sopra per una funzione sensibile alla latenza. In questo scenario, il completamento dell'inizializzazione al momento del caricamento e la memorizzazione nella cache dei dati utili garantiscono che la prima richiesta non debba farlo e venga gestita con una latenza bassa.
Se inizializzi le variabili nell'ambito globale, a seconda del linguaggio, tempi di inizializzazione lunghi possono comportare due comportamenti: - Per alcune combinazioni di linguaggi e librerie asincrone, il framework della funzione può essere eseguito in modo asincrono e restituire immediatamente un valore, causando l'esecuzione continua del codice in background, il che potrebbe causare problemi come l'impossibilità di accedere alla CPU. Per evitare questo problema, devi bloccare l'inizializzazione del modulo come descritto di seguito. In questo modo, le richieste non vengono pubblicate finché l'inizializzazione non è completata. - D'altra parte, se l'inizializzazione è sincrona, il lungo tempo di inizializzazione causerà avvii a freddo più lunghi, il che potrebbe essere un problema soprattutto con le funzioni a bassa concorrenza durante i picchi di carico.
Esempio di pre-riscaldamento di una libreria Node.js asincrona
Node.js con Firestore è un esempio di libreria Node.js asincrona. Per sfruttare min_instances, il seguente codice completa il caricamento e l'inizializzazione al momento del caricamento, bloccando il caricamento del modulo.
Viene utilizzato TLA, il che significa che è necessario ES6, utilizzando un'estensione .mjs
per
il codice node.js o aggiungendo type: module
al file package.json.
{ "main": "main.js", "type": "module", "dependencies": { "@google-cloud/firestore": "^7.10.0", "@google-cloud/functions-framework": "^3.4.5" } }
Node.js
import Firestore from '@google-cloud/firestore'; import * as functions from '@google-cloud/functions-framework'; const firestore = new Firestore({preferRest: true}); // Pre-warm firestore connection pool, and preload our global config // document in cache. In order to ensure no other request comes in, // block the module loading with a synchronous global request: const config = await firestore.collection('collection').doc('config').get(); functions.http('fetch', (req, res) => { // Do something with config and firestore client, which are now preloaded // and will execute at lower latency. });
Esempi di inizializzazione globale
Node.js
Python
Go
Java
C#
Ruby
PHP
Le funzioni PHP non possono conservare le variabili tra le richieste. L'esempio di ambiti riportato sopra utilizza il caricamento differito per memorizzare nella cache i valori delle variabili globali in un file.
Ciò è particolarmente importante se definisci più funzioni in un unico file e funzioni diverse utilizzano variabili diverse. A meno che tu non utilizzi l'inizializzazione differita, potresti sprecare risorse per variabili inizializzate ma mai utilizzate.
Risorse aggiuntive
Scopri di più sull'ottimizzazione del rendimento nel video "Google Cloud Performance Atlas" Tempo di avvio a freddo di Cloud Run Functions.