Questa pagina fornisce una panoramica del servizio memcache di App Engine. Elevata le applicazioni web scalabili per le prestazioni spesso utilizzano un insieme di dati in memoria distribuiti Cache di fronte o al posto di una solida archiviazione permanente per alcune attività. App Engine include un servizio di cache in memoria per questo scopo. Per scoprire come configurare, monitorare e utilizzare il servizio memcache, consulta Utilizzare Memcache.
Quando utilizzare una cache in memoria
Un utilizzo di una cache in memoria è velocizzare le query comuni del datastore. Se molti effettuano la stessa query con gli stessi parametri e le modifiche non devono apparire subito sul sito web, l'applicazione può memorizzare nella cache i risultati in memcache. Le richieste successive possono controllare la memcache e eseguire la query di Datastore solo se i risultati sono assenti o scaduti. Dati di sessione, preferenze utente e altri dati restituiti dalle query per le pagine web sono buoni candidati per la memorizzazione nella cache.
Memcache può essere utile per altri valori temporanei. Tuttavia, se consideriamo se memorizzare un valore esclusivamente in memcache e non è supportato da altri di archiviazione permanente, devi assicurarti che l'applicazione si comporti in modo accettabile quando è improvvisamente disponibile. I valori possono scadere dalla cache in qualsiasi momento e può essere scaduta prima della scadenza impostata per il valore. Per Ad esempio, se l'assenza improvvisa di dati della sessione di un utente causa la potrebbero non funzionare correttamente, è probabile che i dati vengano archiviati nel datastore in aggiunta nella memoria cache.
Livelli di servizio
App Engine supporta due livelli del servizio memcache:
Memcache condivisa è l'impostazione predefinita gratuita per le applicazioni App Engine. Fornisce la capacità della cache secondo il criterio del massimo impegno ed è soggetta alla domanda complessiva di tutte le applicazioni App Engine che utilizzano il servizio memcache condiviso.
Memcache dedicata fornisce una capacità della cache fissa assegnata in modo esclusivo alla tua applicazione. La fatturazione avviene in base alle dimensioni della cache in GB/h e richiede l'attivazione della fatturazione. Avere il controllo sulle dimensioni della cache consente all'app di funziona in modo più prevedibile e con meno letture da più costosi durevoli archiviazione.
Entrambi i livelli di servizio memcache utilizzano la stessa API. Per configurare il servizio memcache per la tua applicazione, consulta Utilizzare memcache.
La seguente tabella riassume le differenze tra le due classi di servizio memcache:
| Funzionalità | Memcache dedicata | Memcache condivisa |
|---|---|---|
| Prezzo | 0,06 $ per GB all'ora | Gratis |
| Capacità |
|
Capacità non garantita |
| Prestazioni | Fino a 10.000 letture o 5.000 scritture (esclusive) al secondo per GB (elementi < 1 kB). Per maggiori dettagli, consulta Statistiche della cache. | Non garantito |
| Negozio durevole | No | No |
| SLA | Nessuno | Nessuno |
La fatturazione di memcache dedicata viene addebitata in incrementi di 15 minuti. Se la valuta utilizzata per il pagamento è diversa da USD, si applicano i prezzi elencati nella tua valuta negli SKU di Cloud Platform.
Se l'app ha bisogno di maggiore capacità memcache, contatta il nostro team di vendita.
Limiti
Per l'utilizzo del servizio memcache si applicano i seguenti limiti:
- La dimensione massima di un valore di dati memorizzati nella cache è 1 MB (10^6) byte).
- Una chiave non può avere una dimensione superiore a 250 byte. Nel runtime Python, le chiavi sono stringhe superiori ai 250 byte. Gli altri runtime si comportano differently.)
- Il "multi" le operazioni batch possono avere un numero qualsiasi di elementi. La dimensione totale della chiamata e la dimensione totale dei dati recuperati non deve superare i 32 megabyte.
- Una chiave memcache non può contenere un byte null.
Consigli e best practice
Quando utilizzi Memcache, ti consigliamo di progettare le tue applicazioni per:
Gestisci il caso in cui un valore memorizzato nella cache non sia sempre disponibile.
- Memcache non è uno spazio di archiviazione duraturo. In base alle criterio di rimozione, le chiavi vengono rimosse quando si riempie di cache. Anche le modifiche alla configurazione della cache o agli eventi di manutenzione del datacenter possono svuotare la cache in parte o del tutto.
- Memcache potrebbe essere temporaneamente indisponibilità. Operazioni memcache potrebbero non riuscire per vari motivi, tra cui modifiche alla configurazione della cache degli eventi di manutenzione dei data center. Le applicazioni devono essere progettate per rilevare le operazioni non riuscite senza esporre questi errori agli utenti finali. Queste indicazioni si applicano in particolare alle operazioni con gli insiemi.
Utilizza la funzionalità di raggruppamento dell'API, se possibile.
- In questo modo puoi migliorare le prestazioni e l'efficienza della tua app, soprattutto per i piccoli oggetti.
Distribuisci il carico nello spazio chiavi di memcache.
Avere un singolo o un piccolo insieme di elementi memcache rappresenta un Una quantità sproporzionata di traffico ostacolerà la scalabilità della tua app. Queste indicazioni valgono sia per le operazioni/sec sia per la larghezza di banda. Puoi spesso possono mitigare questo problema eseguendo lo sharding esplicito dei dati.
Ad esempio, puoi suddividere un contatore aggiornato di frequente tra più chiavi, rileggerle e sommarle solo quando hai bisogno di un totale. Allo stesso modo, puoi suddividere un dato di 500.000 che deve essere letto su richiesta HTTP su più chiavi e rileggerele utilizzando un'unica chiamata API batch. Ancora meglio sarebbe memorizzare nella cache il valore dell'istanza memory.) Per Memcache dedicato, la frequenza di accesso di picco su una singola chiave deve essere inferiore di 1-2 ordini di grandezza rispetto alla classificazione per GB.
Mantieni le tue chiavi per recuperare i valori dalla cache.
- Memcache non fornisce un metodo per elencare le chiavi. A causa della natura della cache, non è possibile elencare le chiavi senza interrompere la cache. Inoltre, alcuni linguaggi, come Python, eseguono l'hash delle chiavi lunghe e le chiavi originali sono conosciute solo dall'applicazione.
Modalità di scadenza dei dati memorizzati nella cache
Memcache contiene coppie chiave/valore. Le coppie in memoria cambiano in qualsiasi momento vengono scritti e recuperati dalla cache.
Per impostazione predefinita, i valori memorizzati in memcache vengono conservati il più a lungo possibile. I valori possono essere espulsi dalla cache quando viene aggiunto un nuovo valore e la cache è in esaurimento di memoria. Quando i valori vengono espulsi a causa della pressione sulla memoria, vengono espulsi prima i valori meno di recente utilizzati.
L'app può fornire un'ora di scadenza quando viene memorizzato un valore, come un numero di secondi rispetto al momento in cui viene aggiunto il valore o come un'ora di epoch Unix assoluta futura (un numero di secondi dalla mezzanotte del 1° gennaio 1970). Il valore viene rimosso non più tardi di questo momento, anche se può essere rimosso in precedenza per altri motivi. L'incremento del valore memorizzato per una chiave esistente non aggiorna la relativa data e ora di scadenza.
In rari casi, i valori possono scomparire dalla cache anche prima della scadenza per motivi diversi dalla pressione della memoria. Sebbene memcache sia resiliente a errori del server, i valori memcache non vengono salvati su disco, pertanto un errore del servizio i valori potrebbero non essere più disponibili.
In generale, un'applicazione non dovrebbe aspettarsi che un valore memorizzato nella cache sia sempre disponibili.
Puoi cancellare l'intera cache di un'applicazione tramite l'API o nella sezione Memcache della console Google Cloud.
Statistiche cache
Operazioni al secondo per dimensioni dell'elemento
La memcache dedicata è valutata in operazioni al secondo per GB, dove un'operazione è definita come accesso a un singolo elemento della cache, ad esempio get,set o delete. La frequenza delle operazioni varia in base alle dimensioni degli articoli
in base alla seguente tabella. Il superamento di queste classificazioni potrebbe comportare un aumento della latenza o degli errori dell'API.
Le tabelle seguenti forniscono il numero massimo di eventi
esclusivi supportati
get-hit o set operazioni per GB di cache. Tieni presente che un'operazione get-hit
è una chiamata get che rileva un valore archiviato con la chiave specificata,
e restituisce quel valore.
| Dimensioni articolo (kB) | Massimo get-hit op/s |
Massimo set op/s |
|---|---|---|
| ≤1 | 10.000 | 5000 |
| 100 | 2000 | 1000 |
| 512 | 500 | 250 |
Un'app configurata per più GB di cache può in teoria raggiungere una frequenza di operazioni aggregate calcolata come il numero di GB moltiplicato per la tariffa per GB. Ad esempio, un'app configurata per 5 GB di cache potrebbe raggiungere 50.000 operazioni/sec di memcache su elementi di 1 KB. Per raggiungere questo livello è necessaria una buona distribuzione del carico nello spazio chiavi di Memcache.
Per ogni pattern I/O, i limiti sopra elencati si riferiscono alle letture o alle scritture. Per le letture e le scritture simultanee, i limiti sono su una scala scorrevole. Più letture vengono eseguite, meno scrittura è possibile eseguire e viceversa. Ciascuno dei seguenti è un esempio di IOP limiti per letture e scritture simultanee di valori di 1 kB per 1 GB di cache:
| IOPS di lettura | IOPS di scrittura |
|---|---|
| 10000 | 0 |
| 8000 | 1000 |
| 5000 | 2500 |
| 1000 | 4500 |
| 0 | 5000 |
Unità di calcolo memcache (MCU)
La velocità effettiva di Memcache può variare a seconda delle dimensioni dell'elemento a cui si accede e l'operazione che vuoi eseguire sull'elemento. Puoi associare approssimativamente un valore sui costi delle operazioni e stimare la capacità di traffico che puoi aspettarti una memcache dedicata utilizzando un'unità denominata Memcache Compute Unit (MCU). MCU è definita tale che puoi aspettarti 10.000 MCU al secondo per GB di memcache. La console Google Cloud mostra quanta MCU è attualmente in uso dalla tua app.
Tieni presente che l'MCU è una stima statistica approssimativa e non è lineare.
unità. Ogni operazione della cache che legge o scrive un valore ha un costo MCU corrispondente che dipende dalle dimensioni del valore. L'MCU di un set dipende da
dimensione del valore: il doppio del costo di un'operazione get-hit riuscita.
| Dimensione elemento valore (kB) | Costo dell'MCU per get-hit |
Costo di MCU per set |
|---|---|---|
| ≤1 | 1,0 | 2.0 |
| 2 | 1.3 | 2,6 |
| 10 | 1,7 | 3.4 |
| 100 | 5,0 | 10,0 |
| 512 | 20,0 | 40,0 |
| 1024 | 50,0 | 100,0 |
Le operazioni che non leggono o scrivono un valore hanno un costo di MCU fisso:
| Operazione | MCU |
|---|---|
get-miss |
1,0 |
delete |
2.0 |
increment |
2.0 |
flush |
100,0 |
stats |
100,0 |
Tieni presente che un'operazione get-miss è un get che rileva che non è presente alcun valore
con la chiave specificata.
Confronta e imposta
Confronta e imposta è una funzione che consente di ricevere più richieste e gestiti contemporaneamente per aggiornare atomicamente il valore della stessa chiave memcache, evitando le gare.
Componenti logici chiave di confronto e impostazione
Se stai aggiornando il valore di una chiave memcache che potrebbe ricevere altre richieste di scrittura simultanee, devi utilizzare l'oggetto memcache Client, che memorizza determinate informazioni sullo stato utilizzate dai metodi che supportano la funzionalità di confronto e impostazione. Non puoi utilizzare le funzioni memcache get() o
set() perché non sono stateless. Il corso Client in sé non è
thread-safe, quindi non è consigliabile utilizzare lo stesso oggetto Client in più di una
.
Quando recuperi le chiavi, devi utilizzare i metodi Client memcache che supportano la funzione di confronto e l'impostazione: gets() o get_multi() con il parametro for_cas impostato su
True.
Quando aggiorni una chiave, devi usare i metodi Client memcache che supportano
confronta e imposta: cas() o cas_multi().
L'altro componente logico chiave è il servizio memcache di App Engine e il suo comportamento per quanto riguarda i comandi di confronto e impostazione. Il servizio memcache di App Engine
a livello atomico. Vale a dire, quando due richieste in parallelo (per lo stesso ID app)
usa memcache, vanno alla stessa istanza di servizio memcache
il servizio memcache ha un blocco interno sufficiente per consentire alle richieste in parallelo
le stesse chiavi siano serializzate correttamente. In particolare, ciò significa che due richieste cas()
per la stessa chiave non vengono eseguite in parallelo: il servizio gestisce
la prima richiesta inviata fino al completamento (ovvero l'aggiornamento del valore e
del timestamp) prima di iniziare a gestire la seconda richiesta.
Per scoprire come utilizzare compare e impostare in Python, leggi Gestione delle scritture simultanee.
Passaggi successivi
- Scopri come configurare, monitorare e utilizzare memcache in Utilizzo di Memcache.
- Consulta la sezione Esempi di Memcache.