Transcodifica di file compressi in formato gzip

Questa pagina illustra la conversione dei file verso e da uno stato compresso con gzip. La pagina include una panoramica sulla transcodifica, best practice per lavorando con i metadati associati e il comportamento dei file compressi in Cloud Storage.

Transcodifica e gzip

gzip è un tipo di compressione dei dati: in genere riduce le dimensioni di un file. In questo modo, il file può essere trasferito più rapidamente e archiviato utilizzando meno spazio rispetto a un file non compresso. La compressione di un file può ridurre i costi e tempo di trasferimento. La transcodifica in Cloud Storage è la modifica automatica della compressione di un file prima che venga fornito a un richiedente. Durante la transcodifica provoca la compressione di un file in formato gzip, questo può essere considerato compressivo, mentre quando il risultato è un file non più compresso in gzip, può essere considerati decompressivi. Cloud Storage supporta la forma decompressiva della transcodifica.

Cloud Storage non supporta la transcodifica decompressiva per gli oggetti compressi con Brotli.

Transcodifica decompressiva

La transcodifica decompressiva ti consente di memorizzare versioni compresse dei file in Cloud Storage, che riduce i costi dell'archiviazione at-rest, il file stesso al richiedente, senza alcuna compressione. Questa funzionalità è utile, ad esempio, per pubblicare file per i clienti.

Affinché si verifichi la transcodifica decompressiva, un oggetto deve soddisfare due di classificazione:

  1. Il file viene compresso in gzip quando viene archiviato in Cloud Storage.

  2. I metadati dell'oggetto includono Content-Encoding: gzip.

Quando un oggetto soddisfa questi due criteri, viene sottoposto a transcodifica decompressiva quando viene pubblicato e la risposta contenente l'oggetto non contiene un header Content-Encoding o Content-Length.

Esistono due modi per impedire la transcodifica decompressiva di un oggetto altrimenti idoneo:

  • Se la richiesta per l'oggetto include un'intestazione Accept-Encoding: gzip, il valore viene pubblicato così com'è nella richiesta specifica, insieme Intestazione della risposta Content-Encoding: gzip.

  • Se il campo dei metadati Cache-Control per l'oggetto è impostato a no-transform, l'oggetto viene pubblicato come oggetto compresso in per le richieste successive, indipendentemente dalle intestazioni delle richieste Accept-Encoding.

La prevenzione della transcodifica decompressiva è utile, ad esempio, se si desidera ridurre i costi o il tempo per i trasferimenti di dati in uscita o se vuoi gli oggetti scaricati hanno i checksum crc32c/md5 previsti.

Considerazioni

Quando lavori con la transcodifica decompressiva, tieni presente quanto segue:

  • La transcodifica decompressiva invalida il controllo dell'integrità. Se i richiedenti dei tuoi dati si basano sul checksum per il controllo dell'integrità, transcodifica decompressiva.

  • La transcodifica decompressiva ti consente di archiviare gli oggetti in Cloud Storage in uno stato compresso, risparmiando spazio e costi. Tuttavia, ti vengono addebitati dei costi per il download si basano sulla sua dimensione decompressa, che è la dimensione dell'oggetto gestito.

  • Quando si accede da un bucket Cloud Storage montato con FUSE, gli oggetti non vengono sottoposti a transcodifica decompressiva e vengono letti come compressi.

Content-Type e Content-Encoding

Esistono diversi comportamenti di cui dovresti essere a conoscenza riguardo al modo in cui Content-Type e Content-Encoding si riferiscono alla transcodifica. Entrambi sono metadati archiviati insieme a un oggetto. Consulta la sezione Visualizzazione e modifica dei metadati degli oggetti per istruzioni dettagliate su come aggiungere metadati agli oggetti.

Content-Type deve essere incluso in tutti i caricamenti e indica il tipo di oggetto caricato. Ad esempio:

Content-Type: text/plain

indica che l'oggetto caricato è un file di testo normale. Anche se non è disponibile alcun controllo per garantire che il valore Content-Type specificato corrisponda alla vera natura di un l'oggetto caricato, specificando in modo errato il tipo, causerà nel migliore dei modi i richiedenti di ricevere qualcosa di diverso da quello che si aspettavano e che potrebbe comportamenti indesiderati.

Content-Encoding è facoltativo e può, se necessario, essere incluso nel caricamento di file compressi. Ad esempio:

Content-Encoding: gzip

indica che l'oggetto caricato è compresso con gzip. Come per Content-Type, non viene eseguito alcun controllo per garantire che il valore Content-Encoding specificato venga effettivamente applicato all'oggetto caricato e la specifica errata della codifica di un oggetto potrebbe comportare un comportamento indesiderato nelle richieste di download successive.

Buone prassi

  • Quando carichi un oggetto compresso con gzip, il modo consigliato per impostare i metadati è specificare sia Content-Type che Content-Encoding. Per per un file compresso di testo normale:

    Content-Type: text/plain
Content-Encoding: gzip

    In questo modo, chiunque acceda all'oggetto riceve le informazioni più dettagliate sul suo stato. In questo modo, l'oggetto diventa idoneo anche per la transcodificazione decompressiva quando viene scaricato in un secondo momento, consentendo alle applicazioni client di gestire correttamente la semantica di Content-Type.

  • In alternativa, puoi caricare l'oggetto con Content-Type impostato su indica la compressione e NESSUN Content-Encoding. Ad esempio:

    Content-Type: application/gzip

    Tuttavia, in questo caso l'unica cosa immediatamente nota dell'oggetto è che è compresso con gzip, senza informazioni relative alla tipo di oggetto. Inoltre, l'oggetto non è idoneo per l'uso o transcodifica multimediale.

Pratiche scoraggiate

  • Sebbene sia possibile, un file compresso con gzip non deve essere caricato con la natura compressa del file omessa. Ad esempio, per un di testo normale compresso con gzip, dovresti evitare di impostare solo Content-Type: text/plain. In questo modo viene rappresentato in modo ingannevole lo stato dell'oggetto poiché verrà consegnato a un richiedente.

  • Analogamente, gli oggetti non devono essere caricati con un valore Content-Type omesso, anche se è incluso un Content-Encoding. Ciò potrebbe causare Content-Type viene impostato su un valore predefinito, ma potrebbe comportare la richiesta vengano rifiutati, a seconda di come vengono eseguiti.

Pratiche errate

  • Non devi impostare i metadati in modo da segnalare in modo ridondante la compressione. dell'oggetto:

    Content-Type: application/gzip
Content-Encoding: gzip

    Ciò implica che stai caricando un oggetto compresso con gzip che è stato nuovamente compresso con gzip, cosa che di solito non accade (se effettivamente prevedi di comprimere un file due volte, consulta la sezione Utilizzare gzip sugli oggetti compressi di seguito). Quando avviene la transcodifica decompressiva su un oggetto segnalato erroneamente, l'oggetto viene pubblicato con codifica dell'identità, ma i richiedenti ritengono di aver ricevuto un oggetto a cui è associato ancora un livello di compressione. I tentativi di decompressione dell'oggetto non andranno a buon fine.

  • Analogamente, non devi caricare un file non compresso con gzip con Content-Encoding: gzip. In questo modo l'oggetto viene visualizzato per la transcodifica, ma quando vengono effettuate richieste dell'oggetto, tentativi di transcodifica non riusciti.

Utilizzo di gzip su oggetti compressi

Alcuni oggetti, come molti file video, audio e immagini, per non parlare del gzip sono già compressi. L'uso di gzip su questi oggetti offre praticamente nessun vantaggio: in quasi tutti i casi, ciò aumenta le dimensioni dell'oggetto a causa dell'overhead di gzip. Per questo motivo, l'uso di gzip sui file contenuti generalmente sconsigliati e possono causare comportamenti indesiderati.

Ad esempio, anche se Cloud Storage consente di caricare e archiviare oggetti "doppiamente compressi" (ovvero oggetti compressi con gzip, ma che hanno anche un Content-Type sottostante che è a sua volta compresso), non consente di servire oggetti in uno stato doppiamente compresso, a meno che i metadati Cache-Control non includano no-transform. ma rimuove il livello esterno, gzip, compressione, ignora l'intestazione della risposta Content-Encoding e pubblica risultante. Ciò si verifica anche per le richieste con Accept-Encoding: gzip. Il file ricevuto dal client non ha lo stesso checksum di quello caricato e archiviato in Cloud Storage, pertanto tutti i controlli di integrità non vanno a buon fine.

Utilizzare l'intestazione Range

Quando si verifica la transcodifica, se la richiesta dell'oggetto include un'intestazione Range, questa viene ignorata. Ciò significa che le richieste di contenuti parziali non vengono soddisfatte e la risposta serve invece l'intero oggetto richiesto. Ad esempio, se hai un oggetto di 10 GB idoneo per il transcoding, ma includi l'intestazione Range: bytes=0-10000 nella richiesta, ricevi comunque l'intero oggetto di 10 GB.

Questo comportamento si verifica perché non è possibile selezionare un intervallo da un file compresso senza prima decomprimerlo nella sua interezza: ogni richiesta di parte di un file sarebbe accompagnata dalla decompressione dell'intero file, potenzialmente di grandi dimensioni, che utilizzerebbe male le risorse. Tieni presente questo comportamento ed evita di utilizzare l'intestazione Range quando utilizzi la transcodifica, poiché gli addebiti vengono effettuati per la trasmissione dell'intero oggetto e non solo dell'intervallo richiesto. Per ulteriori informazioni sul comportamento consentito delle risposte alle richieste con intestazioni Range, consulta la specifica.

Se sono necessarie richieste con intestazioni Range, devi assicurarti che la transcodifica non venga eseguita per l'oggetto richiesto. Puoi farlo scegliendo le proprietà appropriate quando si caricano gli oggetti. Ad esempio: di richieste di intervallo per oggetti con Content-Type: application/gzip e nessuna Content-Encoding vengono eseguite come richiesto.

Passaggi successivi