Logging e monitoraggio del bilanciatore del carico delle applicazioni interno

Questo documento fornisce le informazioni necessarie per comprendere le metriche di logging e monitoraggio per gli Application Load Balancer interni. Le metriche di logging e monitoraggio per i bilanciatori del carico delle applicazioni interni regionali e i bilanciatori del carico delle applicazioni interni tra regioni sono le stesse.

Logging

Puoi abilitare il logging in base al servizio di backend. La mappa URL di un singolo bilanciatore del carico delle applicazioni interno può fare riferimento a più di un servizio di backend. A seconda della configurazione, potrebbe essere necessario abilitare il logging per più servizi di backend.

Campionamento e raccolta dei log

Google Cloud campiona i pacchetti che escono ed entrano nelle istanze di macchine virtuali (VM) backend del bilanciatore del carico. Questi pacchetti campionati vengono elaborati per generare i log.

Non tutti i pacchetti sono campionati. Google Cloud campiona un sottoinsieme variabile di pacchetti in base alla quantità di traffico sull'host fisico. La frequenza di campionamento più bassa possibile è di uno su 1024 pacchetti. La frequenza di campionamento è controllata in modo dinamico da Google Cloud. Non puoi regolare la frequenza di campionamento.

Il campionamento dei pacchetti interagisce con le regole firewall nei seguenti modi:

  • I pacchetti vengono campionati prima di applicare le regole firewall in uscita.
  • I pacchetti vengono campionati dopo l'applicazione delle regole firewall in entrata.

Dopo il campionamento, Google Cloud elabora i pacchetti campionati in base alla seguente procedura:

  1. Aggregazione:i pacchetti campionati vengono aggregati in un intervallo di 5 secondi per produrre una singola voce di flusso.

  2. Campionamento dei log configurabile (secondario): si tratta di un secondo processo di campionamento, il campionamento dei flussi. Puoi controllare la frazione delle voci di flusso emesse come voci di log in base al parametro logConfig.sampleRate. Quando logConfig.sampleRate è 1.0 (100%), significa che vengono elaborati tutti i pacchetti campionati.

  3. Scrivi nel logging: le voci di log vengono scritte in Cloud Logging.

Campi facoltativi

I record di log contengono campi obbligatori e facoltativi. La sezione Cosa viene registrato elenca i campi facoltativi e quelli obbligatori. Tutti i campi obbligatori sono sempre inclusi. Puoi personalizzare i campi facoltativi da conservare.

  • Se selezioni Includi tutti i campi facoltativi, tutti i campi facoltativi nel formato del record di log vengono inclusi nei log di flusso. Quando vengono aggiunti nuovi campi facoltativi al formato record, i nuovi campi vengono inclusi automaticamente nei log di flusso.

  • Se selezioni Escludi tutti gli elementi facoltativi, tutti i campi facoltativi vengono omessi.

  • Se selezioni personalizzato, puoi specificare i campi facoltativi che vuoi includere, ad esempio tls.protocol,tls.cipher.

Per istruzioni sulla personalizzazione dei campi facoltativi, consulta Abilitare il logging in un servizio di backend esistente.

Abilitazione del logging su un servizio di backend esistente

Per i bilanciatori del carico delle applicazioni interni regionali, segui questi passaggi:

Console

  1. Nella console Google Cloud, vai alla pagina Bilanciamento del carico.

    Vai a Bilanciamento del carico

  2. Fai clic sul nome del bilanciatore del carico.

  3. Fai clic su Modifica.

  4. Fai clic su Configurazione backend.

  5. Fai clic su Modifica accanto al tuo servizio di backend.

  6. Fai clic su Configurazioni avanzate (affinità sessione, timeout per svuotamento della connessione).

  7. Fai clic su Abilita il logging.

  8. Imposta una frazione della frequenza di campionamento. Puoi impostare un numero compreso tra 0.0 e 1.0, dove 0.0 indica che nessuna richiesta viene registrata e 1.0 indica che il 100% delle richieste viene registrato. Il valore predefinito è 1.0.

  9. (Facoltativo) Per includere tutti i campi facoltativi nei log, nella sezione Campi facoltativi, fai clic su Includi tutti i campi facoltativi.

  10. Per completare la modifica del servizio di backend, fai clic su Aggiorna.

  11. Per completare la modifica del bilanciatore del carico, fai clic su Aggiorna.

gcloud

Per aggiornare il servizio di backend in modo da abilitare il logging, utilizza il comando gcloud compute backend-services update.

gcloud compute backend-services update BACKEND_SERVICE \
    --enable-logging \
    --logging-sample-rate=RATE \
    --region=REGION \
    --logging-optional=LOGGING_OPTIONAL_MODE \
    --logging-optional-fields=OPTIONAL_FIELDS

dove

  • --enable-logging abilita il logging per il servizio di backend in questione.
  • --logging-sample-rate consente di specificare un valore compreso tra 0.0 e 1.0, dove 0.0 indica che non viene registrata alcuna richiesta e 1.0 indica che il 100% delle richieste viene registrato. Significativo solo con il parametro --enable-logging. Abilitare il logging, ma impostare la frequenza di campionamento su 0.0, è equivalente alla disattivazione del logging. Il valore predefinito è 1.0.
  • --logging-optional consente di specificare i campi facoltativi che vuoi includere nei log:

    • INCLUDE_ALL_OPTIONAL per includere tutti i campi facoltativi.

    • EXCLUDE_ALL_OPTIONAL (predefinito) per escludere tutti i campi facoltativi.

    • CUSTOM per includere un elenco personalizzato dei campi facoltativi che specifica in OPTIONAL_FIELDS.

  • --logging-optional-fields consente di specificare un elenco separato da virgole di campi facoltativi da includere nei log.

    Ad esempio, tls.protocol,tls.cipher può essere impostato solo se LOGGING_OPTIONAL_MODE è impostato su CUSTOM.

Per i bilanciatori del carico delle applicazioni interni tra regioni, segui questi passaggi:

Console

  1. Nella console Google Cloud, vai alla pagina Bilanciamento del carico.

    Vai a Bilanciamento del carico

  2. Fai clic sul nome del bilanciatore del carico.

  3. Fai clic su Modifica.

  4. Fai clic su Configurazione backend.

  5. Fai clic su Modifica accanto al tuo servizio di backend.

  6. Fai clic su Configurazioni avanzate (affinità sessione, timeout per svuotamento della connessione).

  7. Fai clic su Abilita il logging.

  8. Imposta una frazione della frequenza di campionamento. Puoi impostare un numero compreso tra 0.0 e 1.0, dove 0.0 indica che nessuna richiesta viene registrata e 1.0 indica che il 100% delle richieste viene registrato. Il valore predefinito è 1.0.

  9. (Facoltativo) Per includere tutti i campi facoltativi nei log, nella sezione Campi facoltativi, fai clic su Includi tutti i campi facoltativi.

  10. Per completare la modifica del servizio di backend, fai clic su Aggiorna.

  11. Per completare la modifica del bilanciatore del carico, fai clic su Aggiorna.

gcloud

Per aggiornare il servizio di backend in modo da abilitare il logging, utilizza il comando gcloud compute backend-services update.

gcloud compute backend-services update BACKEND_SERVICE \
    --enable-logging \
    --logging-sample-rate=RATE \
    --global \
    --logging-optional=LOGGING_OPTIONAL_MODE \
    --logging-optional-fields=OPTIONAL_FIELDS

dove

  • --enable-logging abilita il logging per il servizio di backend in questione.
  • --logging-sample-rate consente di specificare un valore compreso tra 0.0 e 1.0, dove 0.0 indica che non viene registrata alcuna richiesta e 1.0 indica che il 100% delle richieste viene registrato. Significativo solo con il parametro --enable-logging. Abilitare il logging, ma impostare la frequenza di campionamento su 0.0, è equivalente alla disattivazione del logging. Il valore predefinito è 1.0.
  • --logging-optional consente di specificare i campi facoltativi che vuoi includere nei log:

    • INCLUDE_ALL_OPTIONAL per includere tutti i campi facoltativi.

    • EXCLUDE_ALL_OPTIONAL (predefinito) per escludere tutti i campi facoltativi.

    • CUSTOM per includere un elenco personalizzato dei campi facoltativi che specifica in OPTIONAL_FIELDS.

  • --logging-optional-fields consente di specificare un elenco separato da virgole di campi facoltativi da includere nei log.

    Ad esempio, tls.protocol,tls.cipher può essere impostato solo se LOGGING_OPTIONAL_MODE è impostato su CUSTOM.

Dopo aver abilitato il logging nel servizio di backend, ogni richiesta HTTP(S) viene registrata utilizzando Cloud Logging.

Come visualizzare i log

Per visualizzare i log, nella console Google Cloud vai alla pagina Esplora log.

I log del bilanciatore del carico delle applicazioni interno vengono indicizzati prima per rete e poi per regione.

  • Per visualizzare i log di tutti i bilanciatori del carico delle applicazioni interni, seleziona Regola del bilanciatore del carico delle applicazioni interno nel primo menu a discesa.
  • Per visualizzare i log di una sola rete, seleziona Regola del bilanciatore del carico delle applicazioni interno, quindi seleziona il nome di una rete.
  • Per visualizzare i log di una sola regione della rete, seleziona Regola del bilanciatore del carico delle applicazioni interno > NETWORK > REGION.

I campi del log di tipo boolean vengono generalmente visualizzati solo se hanno il valore true. Se un campo booleano ha il valore false, questo campo viene omesso dal log.

La codifica UTF-8 viene applicata in modo forzato ai campi dei log. I caratteri che non sono caratteri UTF-8 vengono sostituiti da punti interrogativi.

Puoi configurare l'esportazione delle metriche basate su log per i log delle risorse (resource.type="internal_http_lb_rule"). Le metriche create si basano sulla risorsa "Regola del bilanciatore del carico delle applicazioni interno", disponibile nelle dashboard di Cloud Monitoring:

Vai a Monitoring

Che cosa viene registrato

Le voci di log del bilanciatore del carico delle applicazioni interno contengono informazioni utili per il monitoraggio e il debug del traffico HTTP(S). I record di log contengono campi obbligatori, che sono i campi predefiniti di ogni record di log, e campi facoltativi che aggiungono ulteriori informazioni sul traffico HTTP(S). Possono essere omessi per risparmiare sui costi di archiviazione. Le voci di log contengono i seguenti tipi di informazioni:

  • Informazioni generali mostrate nella maggior parte dei log di Google Cloud, come gravità, ID progetto, numero di progetto e timestamp, come descritto in LogEntry.
  • Campi log HttpRequest.

Alcuni campi dei log sono in un formato multicampo, con più di un dato in un determinato campo. Ad esempio, il campo tls è in formato TlsDetails, che contiene il protocollo TLS e la crittografia TLS in un unico campo. Questi campi multicampo sono descritti nella seguente tabella dei formati record.

Campo Tipo Tipo di campo: obbligatorio o facoltativo Descrizione
logName string Obbligatorio Il nome della risorsa del log a cui appartiene questa voce di log.
Nel formato "projects/PROJECT_ID/logs/requests".
timestamp string Obbligatorio L'ora in cui è iniziata la richiesta.
severity Formato LogSeverity Obbligatorio La gravità della voce di log. Il valore predefinito è LogSeverity.DEFAULT.
httpRequest Oggetto HttpRequest Obbligatorio Un protocollo HttpRequest che descrive la richiesta HTTP(S) registrata.
trace string Obbligatorio Il nome della risorsa della traccia associata alla voce di log, se presente. Se contiene un nome risorsa relativo, si presume che il nome sia relativo a https://tracing.googleapis.com. Esempio: projects/PROJECT_ID/traces/06796866738c859f2f19b7cfb3214824.

I bilanciatori del carico delle applicazioni interni non supportano questo campo.

spanId string Obbligatorio L'ID intervallo all'interno della traccia associata alla voce di log. Per gli intervalli di Trace, questa stringa ha lo stesso formato utilizzato dall'API Trace v2: una codifica esadecimale a 16 caratteri di un array a 8 byte, ad esempio 000000000000004a.

I bilanciatori del carico delle applicazioni interni non supportano questo campo.

resource Oggetto MonitoredResource Obbligatorio

La risorsa monitorata che ha generato questa voce di log.

L'oggetto MonitoredResourceDescriptor descrive lo schema di un oggetto MonitoredResource utilizzando un nome del tipo e un insieme di etichette.

Ad esempio, i descrittori risorsa monitorata per i bilanciatori del carico delle applicazioni interni hanno un tipo di risorsa internal_http_lb_rule e utilizzano le etichette delle risorse per identificare la risorsa effettiva e i relativi attributi. Per un elenco di etichette delle risorse, consulta Etichette delle risorse per resource.type="internal_http_lb_rule".

jsonPayload oggetto (formato Struct) Obbligatorio Il payload della voce di log espresso come oggetto JSON. L'oggetto JSON contiene i seguenti campi:
  • tls
  • proxyStatus
  • backendTargetProjectNumber
  • serviceDirectoryService
  • cloudFitExperiment
  • cloudFitFault
  • serviceExtensionInfo
  • mtls
string Obbligatorio

Il campo proxyStatus contiene una stringa che specifica perché l'Application Load Balancer interno ha restituito HttpRequest.status. Questo campo viene compilato solo quando il proxy restituisce un codice di errore.

Il campo non viene registrato se il valore è una stringa vuota. Questo può accadere se il proxy o il backend non restituisce un errore o un codice di errore diverso da 0, 4XX o 5XX.

Il campo proxyStatus è composto da due parti:

string Obbligatorio Il campo backendTargetProjectNumber contiene il numero di progetto che identifica il proprietario del servizio di backend o del bucket di backend.
string Obbligatorio Il campo serviceDirectoryService contiene il nome del servizio Service Directory su cui è stato configurato l'errore Cloud FIT.
string Obbligatorio Il campo cloudFitExperiment contiene il nome dell'esperimento Cloud FIT.
string Obbligatorio Il campo cloudFitFault contiene il nome dell'errore inserito da un esperimento di errore Cloud FIT in questo percorso di richiesta.
ServiceExtensionInfo Obbligatorio Il campo serviceExtensionInfo archivia informazioni sui flussi gRPC dal bilanciatore del carico a Service Extensions. Per ulteriori informazioni, consulta la sezione che cosa viene registrato per le estensioni callout.
TlsDetails Facoltativo Il campo tls contiene il valore TlsDetails che specifica i metadati TLS per la connessione tra il client e il bilanciatore del carico delle applicazioni interno. Questo campo è disponibile solo se il client utilizza la crittografia TLS/SSL.
MtlsDetails Facoltativo Il campo mtls contiene il valore MtlsDetails che specifica i metadati mTLS per la connessione tra il client e il bilanciatore del carico delle applicazioni interno. Questo campo è disponibile solo se il bilanciatore del carico utilizza TLS reciprocamente (mTLS) frontend.

Formato campo TlsDetails

Campo Formato del campo Tipo di campo: obbligatorio o facoltativo Descrizione
protocollo string Facoltativo Protocollo TLS utilizzato dai client per stabilire una connessione con il bilanciatore del carico. I valori possibili sono TLS 1.0, 1.1, 1.2, 1.3 o QUIC. Questo valore è impostato su NULL se il client non utilizza la crittografia TLS/SSL.
crittografia string Facoltativo Crittografia TLS utilizzata dai client per stabilire una connessione con il bilanciatore del carico. Questo valore è impostato su NULL se il client non utilizza HTTP(S) o non utilizza la crittografia TLS/SSL.

Formato campo MtlsDetails

Campo Formato del campo Tipo di campo: obbligatorio o facoltativo Descrizione
clientCertPresent bool Facoltativo

true se il client ha fornito un certificato durante l'handshake TLS; altrimenti, false.

clientCertChainVerified bool Facoltativo

true se la catena di certificati client viene verificata in base a un TrustStore configurato; altrimenti, false.

clientCertError string Facoltativo

Stringhe predefinite che rappresentano le condizioni di errore. Per ulteriori informazioni sulle stringhe di errore, consulta Modalità di convalida del client mTLS.

clientCertSha256Fingerprint string Facoltativo

Impronta SHA-256 con codifica Base64 del certificato client.

clientCertSerialNumber string Facoltativo

Il numero di serie del certificato client. Se il numero di serie è più lungo di 50 byte, la stringa client_cert_serial_number_exceeded_size_limit viene aggiunta a client_cert_error, mentre il numero di serie viene impostato su una stringa vuota.

clientCertValidStartTime string Facoltativo

Timestamp (nel formato di stringa per la data RFC 3339) prima del quale il certificato client non è valido. Ad esempio, 2022-07-01T18:05:09+00:00.

clientCertValidEndTime string Facoltativo

Timestamp (nel formato di stringa per la data RFC 3339) dopo il quale il certificato client non è valido. Ad esempio, 2022-07-01T18:05:09+00:00.

clientCertSpiffeId string Facoltativo

L'ID SPIFFE nel campo del nome alternativo dell'oggetto (SAN). Se il valore non è valido o supera i 2048 byte, l'ID SPIFFE viene impostato su una stringa vuota.

Se l'ID SPIFFE è più lungo di 2048 byte, la stringa client_cert_spiffe_id_exceeded_size_limit viene aggiunta a client_cert_error.

clientCertUriSans string Facoltativo

Elenco separato da virgole con codifica Base64 delle estensioni SAN di tipo URI. Le estensioni SAN vengono estratte dal certificato client. L'ID SPIFFE non è incluso nel campo client_cert_uri_sans.

Se il campo client_cert_uri_sans supera i 512 byte, la stringa client_cert_uri_sans_exceeded_size_limit viene aggiunta a client_cert_error e l'elenco separato da virgole viene impostato su una stringa vuota.

clientCertDnsnameSans string Facoltativo

Elenco separato da virgole con codifica Base64 delle estensioni SAN di tipo DNSName. Le estensioni SAN vengono estratte dal certificato client.

Se il campo client_cert_dnsname_sans supera i 512 byte, la stringa client_cert_dnsname_sans_exceeded_size_limit viene aggiunta a client_cert_error e l'elenco separato da virgole viene impostato su una stringa vuota.

clientCertIssuerDn string Facoltativo

Campo emittente completo con codifica Base64 del certificato.

Se il campo client_cert_issuer_dn è più lungo di 512 byte, la stringa client_cert_issuer_dn_exceeded_size_limit viene aggiunta a client_cert_error e client_cert_issuer_dn viene impostata su una stringa vuota.

clientCertSubjectDn string Facoltativo

Campo Oggetto completo con codifica Base64 del certificato.

Se il campo client_cert_subject_dn è più lungo di 512 byte, la stringa client_cert_subject_dn_exceeded_size_limit viene aggiunta a client_cert_error e client_cert_subject_dn viene impostata su una stringa vuota.

clientCertLeaf string Facoltativo

Il certificato foglia client per una connessione mTLS stabilita in cui il certificato ha superato la convalida. La codifica del certificato è conforme a RFC 9440: il certificato binario DER è codificato utilizzando Base64 (senza interruzioni di riga, spazi o altri caratteri esterni all'alfabeto Base64) e delimitato da due punti su entrambi i lati.

Se client_cert_leaf supera i 16 kB non codificati, la stringa client_cert_validated_leaf_exceeded_size_limit viene aggiunta a client_cert_error e client_cert_leaf viene impostata su una stringa vuota.

clientCertChain string Facoltativo

L'elenco di certificati, in ordine TLS standard, delimitato da virgole della catena di certificati client per una connessione mTLS stabilita in cui il certificato client ha superato la convalida, escluso il certificato foglia. La codifica dei certificati è conforme alla specifica RFC 9440.

Se le dimensioni combinate di client_cert_leaf e client_cert_chain prima della codifica Base64 superano i 16 kB, la stringa client_cert_validated_chain_exceeded_size_limit viene aggiunta a client_cert_error e client_cert_chain viene impostata su una stringa vuota.

campo errore proxyStatus

Il campo proxyStatus contiene una stringa che specifica perché il bilanciatore del carico ha restituito un errore. Il campo proxyStatus è costituito da due parti, proxyStatus error e proxyStatus details. Questa sezione descrive le stringhe supportate nel campo proxyStatus error.

Il campo proxyStatus error è applicabile ai seguenti bilanciatori del carico:

  • Bilanciatore del carico delle applicazioni esterno regionale
  • Bilanciatore del carico delle applicazioni interno tra regioni
  • Bilanciatore del carico delle applicazioni interno regionale
errore proxyStatus Descrizione Codici di risposta comuni di accompagnamento
destination_unavailable Il bilanciatore del carico considera il backend non disponibile. Ad esempio, i recenti tentativi di comunicazione con il backend non sono riusciti o un controllo di integrità potrebbe aver causato un errore. 500, 503
connection_timeout Il tentativo del bilanciatore del carico di aprire una connessione al backend è scaduto. 504
connection_terminated

La connessione del bilanciatore del carico al backend è terminata prima della ricezione di una risposta completa.

Questo valore proxyStatus error viene restituito in uno dei seguenti scenari:

  • La connessione del bilanciatore del carico al backend è terminata prima della ricezione di una risposta completa.
  • La connessione TLS non è riuscita durante l'handshake SSL e il client non ha stabilito una connessione con il bilanciatore del carico.

0, 502, 503
connection_refused La connessione del bilanciatore del carico al backend viene rifiutata. 502, 503
connection_limit_reached

Il bilanciatore del carico è configurato in modo da limitare il numero di connessioni di cui dispone al backend e questo limite è stato superato.

Questo valore proxyStatus error viene restituito in uno dei seguenti scenari:

  • Se un backend è in modalità di manutenzione, il traffico non può essere instradato al backend.
  • Se la richiesta è soggetta a limitazioni di frequenza locale.
  • Envoy sta gestendo condizioni di errore come l'esaurimento della memoria.
502, 503
destination_not_found Il bilanciatore del carico non è in grado di determinare il backend appropriato da utilizzare per questa richiesta. Ad esempio, il backend potrebbe non essere configurato. 500, 404
dns_error Il bilanciatore del carico ha riscontrato un errore DNS durante il tentativo di trovare un indirizzo IP per il nome host del backend. 502, 503
proxy_configuration_error Il bilanciatore del carico ha riscontrato un errore di configurazione interno. 500
proxy_internal_error Si è verificato un errore interno del bilanciatore del carico. 0, 500, 502
proxy_internal_response Il bilanciatore del carico ha generato la risposta senza tentare di connettersi al backend. Qualsiasi codice di risposta a seconda del tipo di problema. Ad esempio, il codice di risposta 410 indica che il backend non è disponibile a causa di inadempienza pagamenti.
http_response_timeout Il bilanciatore del carico ha raggiunto il limite configurato per il timeout del servizio di backend in attesa della risposta completa dal backend. 504, 408
http_request_error Il bilanciatore del carico ha riscontrato un errore HTTP 4xx, che indica la presenza di problemi con la richiesta del client. 400, 403, 405, 406, 408, 411, 413, 414, 415, 416, 417 o 429
http_protocol_error Il bilanciatore del carico ha riscontrato un errore del protocollo HTTP durante la comunicazione con il backend. 502
tls_protocol_error Il bilanciatore del carico ha riscontrato un errore TLS durante l'handshake TLS. 0
tls_certificate_error Il bilanciatore del carico ha riscontrato un errore durante la verifica del certificato presentato dal server o dal client quando mTLS è abilitato. 0
tls_alert_received Il bilanciatore del carico ha riscontrato un avviso TLS irreversibile durante l'handshake TLS. 0

campo dettagli proxyStatus

Il campo proxyStatus contiene una stringa che specifica perché il bilanciatore del carico ha restituito un errore. Il campo proxyStatus è costituito da due parti, proxyStatus error e proxyStatus details. Il campo proxyStatus details è facoltativo e viene visualizzato solo quando sono disponibili informazioni aggiuntive. Questa sezione descrive le stringhe supportate nel campo proxyStatus details.

Il campo proxyStatus details è applicabile ai seguenti bilanciatori del carico:

  • Bilanciatore del carico delle applicazioni esterno regionale
  • Bilanciatore del carico delle applicazioni interno regionale
  • Bilanciatore del carico delle applicazioni interno tra regioni
Dettagli proxyStatus Descrizione Codici di risposta comuni di accompagnamento
client_disconnected_before_any_response La connessione al client si è interrotta prima che il bilanciatore del carico inviasse qualsiasi risposta. 0
backend_connection_closed Il backend ha chiuso inaspettatamente la connessione al bilanciatore del carico. Questo può accadere se il bilanciatore del carico invia traffico a un'altra entità, ad esempio un'applicazione di terze parti con un timeout TCP inferiore al timeout di 10 minuti (600 secondi) del bilanciatore del carico. 502
failed_to_connect_to_backend Il bilanciatore del carico non è riuscito a connettersi al backend. Questo errore include i timeout durante la fase di connessione. 503
failed_to_pick_backend Il bilanciatore del carico non è riuscito a scegliere un backend integro per gestire la richiesta. 502
response_sent_by_backend La richiesta HTTP è stata trasferita correttamente tramite proxy al backend e la risposta è stata restituita dal backend. Il codice di risposta HTTP viene impostato dal software in esecuzione sul backend.
client_timed_out

La connessione tra il bilanciatore del carico e il client ha superato il timeout per inattività.

Per maggiori informazioni sul bilanciatore del carico delle applicazioni esterno regionale, consulta Timeout keepalive HTTP del client. Per maggiori informazioni sul bilanciatore del carico delle applicazioni interno, consulta Timeout keepalive HTTP del client.
0, 408
backend_timeout

Timeout del backend durante la generazione di una risposta.

502
http_protocol_error_from_backend_response La risposta del backend contiene un errore del protocollo HTTP. 501, 502
http_protocol_error_from_request La richiesta del client contiene un errore di protocollo HTTP. 400, 503
http_version_not_supported La versione del protocollo HTTP non è supportata. Sono supportati solo HTTP 0.9, 1.0, 1.1 e 2.0. 400
handled_by_identity_aware_proxy Questa risposta è stata generata da Identity-Aware Proxy (IAP) durante la verifica dell'identità del client prima di consentire l'accesso. 200, 302, 400, 401, 403, 500, 502
invalid_request_headers Le intestazioni della richiesta HTTP ricevute da un client non sono valide. 400, 404
ip_detection_failed Impossibile rilevare l'indirizzo IP originale. Qualsiasi codice di risposta possibile a seconda della natura dell'errore. Il valore deve essere compreso tra 400 e 599.
request_body_too_large Il corpo della richiesta HTTP ha superato la lunghezza massima supportata dal bilanciatore del carico. 413, 507
request_header_timeout L'intestazione della richiesta è scaduta perché il bilanciatore del carico non ha ricevuto la richiesta completa entro 5 secondi. 408, 504
denied_by_security_policy Il bilanciatore del carico ha rifiutato questa richiesta a causa di un criterio di sicurezza di Google Cloud Armor. 403
throttled_by_security_policy La richiesta è stata bloccata da una regola di limitazione di Google Cloud Armor. 429
client_cert_chain_invalid_eku Il certificato client o l'emittente non ha un utilizzo esteso della chiave che include clientAuth. Per maggiori informazioni, consulta Errori registrati per connessioni chiuse. 0
client_cert_chain_max_name_constraints_exceeded Un certificato intermedio fornito per la convalida aveva più di 10 vincoli di nomi. Per maggiori informazioni, consulta la pagina Errori registrati per le connessioni chiuse. 0
client_cert_invalid_rsa_key_size Un certificato foglia client o certificato intermedio aveva una dimensione della chiave RSA non valida. Per saperne di più, consulta Errori registrati per connessioni chiuse. 0
client_cert_not_provided Il client non ha fornito il certificato richiesto durante l'handshake. Per saperne di più, consulta Errori registrati per connessioni chiuse. 0
client_cert_pki_too_large L'infrastruttura a chiave pubblica da utilizzare per la convalida ha più di tre certificati intermedi che condividono gli stessi Subject e Subject Public Key Info. Per saperne di più, consulta Errori registrati per connessioni chiuse. 0
client_cert_unsupported_elliptic_curve_key Un certificato client o intermedio utilizza una curva ellittica non supportata. Per saperne di più, consulta Errori registrati per connessioni chiuse. 0
client_cert_unsupported_key_algorithm Un certificato client o intermedio utilizza un algoritmo non RSA o non ECDSA. Per saperne di più, consulta Errori registrati per connessioni chiuse. 0
client_cert_validation_failed Il certificato client non supera la convalida con TrustConfig. Per saperne di più, consulta Errori registrati per connessioni chiuse. 0
client_cert_validation_not_performed Hai configurato TLS reciprocamente senza configurare un TrustConfig. Per saperne di più, consulta Errori registrati per connessioni chiuse. 0
client_cert_validation_search_limit_exceeded Il limite di profondità o iterazione viene raggiunto durante il tentativo di convalidare la catena di certificati. Per saperne di più, consulta Errori registrati per connessioni chiuse. 0
client_cert_validation_timed_out È stato superato il limite di tempo (200 ms) durante la convalida della catena di certificati. Per saperne di più, consulta Errori registrati per connessioni chiuse. 0
tls_version_not_supported La versione del protocollo TLS è riconosciuta, ma non supportata. L'errore genera una connessione TLS chiusa. 0
unknown_psk_identity I server inviano questo errore quando è richiesta la creazione della chiave PSK, ma il client non fornisce un'identità PSK accettabile. L'errore genera una connessione TLS chiusa. 0
no_application_protocol Inviato dai server quando un'estensione client"application_layer_protocol_negotiation" pubblicizza solo protocolli non supportati dal server. Vedi Estensione di negoziazione del protocollo a livello di applicazione TLS. L'errore causa una connessione TLS chiusa. 0
no_certificate Nessun certificato trovato. L'errore causa una connessione TLS chiusa. 0
bad_certificate Un certificato non è valido o contiene firme che non è stato possibile verificare. L'errore causa una connessione TLS chiusa. 0
unsupported_certificate Il certificato è di un tipo non supportato. L'errore determina la chiusura di una connessione TLS. 0
certificate_revoked Un certificato è stato revocato dal firmatario. L'errore determina la chiusura di una connessione TLS. 0
certificate_expired Un certificato è scaduto o non è valido. L'errore determina la chiusura di una connessione TLS. 0
certificate_unknown Si sono verificati alcuni problemi non specificati durante l'elaborazione del certificato, che lo hanno reso inaccettabile. L'errore causa una connessione TLS chiusa. 0
unknown_ca È stata ricevuta una catena di certificati valida o una catena parziale, ma il certificato non è stato accettato perché non è stato possibile individuare il certificato CA o abbinarlo a un trust anchor noto. L'errore causa una connessione TLS chiusa. 0
unexpected_message È stato ricevuto un messaggio inappropriato, ad esempio un messaggio di handshake errato o dati prematuri dell'applicazione. L'errore causa una connessione TLS chiusa. 0
bad_record_mac È stato ricevuto un record che non può essere rimosso. L'errore genera una connessione TLS chiusa. 0
record_overflow È stato ricevuto un record TLSCiphertext con una lunghezza superiore a 214 + 256 byte oppure un record è stato decriptato in un record TLSPlaintext con più di 214 byte (o un altro limite negoziato). L'errore causa una connessione TLS chiusa. 0
handshake_failure Impossibile negoziare un set accettabile di parametri di sicurezza date le opzioni disponibili. L'errore causa una connessione TLS chiusa. 0
illegal_parameter Un campo dell'handshake non era corretto o non era coerente con altri campi. L'errore causa una connessione TLS chiusa. 0
access_denied È stato ricevuto un certificato o una PSK validi, ma quando è stato applicato il controllo dell'accesso dell'accesso, il client non ha proceduto alla negoziazione. L'errore causa una connessione TLS chiusa. 0
decode_error Impossibile decodificare un messaggio perché alcuni campi non rientrano nell'intervallo specificato o perché la lunghezza del messaggio non era corretta. L'errore genera una connessione TLS chiusa. 0
decrypt_error Un'operazione crittografica di handshake (non a livello di record) non è riuscita, inclusa l'impossibilità di verificare correttamente una firma o convalidare un messaggio finito o un binder PSK. L'errore causa una connessione TLS chiusa. 0
insufficient_security Una negoziazione non è riuscita, in particolare perché il server richiede parametri più sicuri di quelli supportati dal client. L'errore genera una connessione TLS chiusa. 0
inappropriate_fallback Inviato da un server in risposta a un nuovo tentativo di connessione non valido da un client. L'errore causa una connessione TLS chiusa. 0
user_cancelled L'utente annulla l'handshake per qualche motivo non correlato a un errore del protocollo. L'errore causa una connessione TLS chiusa. 0
missing_extension Inviato da endpoint che ricevono un messaggio di handshake non contenente un'estensione obbligatoria per l'invio per la versione TLS offerta o altri parametri negoziati. L'errore causa una connessione TLS chiusa. 0
unsupported_extension Inviato da endpoint che ricevono messaggi di handshake contenente un'estensione di cui è nota che non è consentita l'inclusione nel messaggio di handshake specificato, o che includono eventuali estensioni in ServerHello o Certificate che non sono state offerte prima nei corrispondenti ClientHello o CertificateRequest. L'errore causa una connessione TLS chiusa. 0
unrecognized_name Inviato dai server quando non esiste alcun server che possa essere identificato dal nome fornito dal client tramite l'estensione "server_name". Vedi Definizioni delle estensioni TLS. 0
bad_certificate_status_response Inviato dai client quando il server fornisce una risposta OCSP non valida o non accettabile tramite l'estensione "status_request". Vedi Definizioni delle estensioni TLS. L'errore causa una connessione TLS chiusa. 0
load_balancer_configured_resource_limits_reached Il bilanciatore del carico ha raggiunto i limiti configurati per le risorse, ad esempio il numero massimo di connessioni. 400, 500, 503

Voci di log per la connessione TLS non riuscite

In caso di errore della connessione TLS tra il client e il bilanciatore del carico prima della selezione di qualsiasi backend, le voci di log registrano gli errori. Puoi configurare i servizi di backend con diverse frequenze di campionamento dei log. Quando una connessione TLS non va a buon fine, la frequenza di campionamento dei log delle connessioni TLS non riuscite è la più alta per qualsiasi servizio di backend. Ad esempio, se hai configurato due servizi di backend con frequenza di campionamento di logging come 0.3 e 0.5, la frequenza di campionamento dei log delle connessioni TLS non riuscite è 0.5.

Puoi identificare le connessioni TLS non riuscite controllando i seguenti dettagli voce di log:

  • Il tipo di errore proxyStatus è tls_alert_received, tls_certificate_error, tls_protocol_error o connection_terminated.
  • Nessuna informazione di backend.

L'esempio seguente mostra una voce di log TLS con errori con il campo proxyStatus error:

   json_payload:    {
   @type: "type.googleapis.com/google.cloud.loadbalancing.type.LoadBalancerLogEntry"
   proxyStatus: "error="tls_alert_received"; details="server_to_client: handshake_failure""
   log_name: "projects/529254013417/logs/mockservice.googleapis.com%20name"
   }
   http_request {
    latency {
      nanos: 12412000
    }
    protocol: "HTTP/1.0"
    remote_ip: "127.0.0.2"
   }
  resource {
    type: "mock_internal_http_lb_rule"
    labels {
      backend_name: ""
      backend_scope: ""
      backend_scope_type: "UNKNOWN"
      backend_target_name: ""
      backend_target_type: "UNKNOWN"
      backend_type: "UNKNOWN"
      forwarding_rule_name: "l7-ilb-https-forwarding-rule-dev"
      matched_url_path_rule: "UNKNOWN"
      network_name: "lb-network"
      region: "REGION"
      target_proxy_name: "l7-ilb-https-proxy-dev"
      url_map_name: ""
    }
  }
  timestamp: "2023-08-15T16:49:30.850785Z"
  

Etichette risorse

Nella tabella seguente sono elencate le etichette delle risorse per resource.type="internal_http_lb_rule".

Campo Tipo Descrizione
network_name string Il nome della rete VPC del bilanciatore del carico.
project_id string L'identificatore del progetto Google Cloud associato a questa risorsa.
region string La regione in cui è definito il bilanciatore del carico.
url_map_name string Il nome dell'oggetto mappa URL configurato per selezionare un servizio di backend.
forwarding_rule_name string Il nome dell'oggetto della regola di forwarding.
target_proxy_name string Il nome dell'oggetto proxy di destinazione a cui fa riferimento la regola di forwarding.
matched_url_path_rule string La regola del percorso della mappa URL o la regola di route configurata nella chiave della mappa URL. Può essere UNMATCHED o UNKNOWN come opzioni di riserva.
  • UNMATCHED si riferisce a una richiesta che non corrisponde a nessuna regola di percorso dell'URL, quindi utilizza la regola di percorso predefinita.
  • UNKNOWN indica un errore interno.
backend_target_name string Il nome del backend selezionato per gestire la richiesta, in base alla regola del percorso della mappa degli URL o alla regola di route che corrisponde alla richiesta.
backend_target_type string Il tipo di destinazione del backend (BACKEND_SERVICE / UNKNOWN).
backend_name string Il nome del gruppo di istanza di backend o NEG.
backend_type string

Tipo di backend, gruppo di istanze o NEG oppure sconosciuto.

Cloud Logging registra le richieste quando backend_type è UNKNOWN anche se il logging è disabilitato. Ad esempio, se un client chiude la connessione al bilanciatore del carico prima che quest'ultimo possa selezionare un backend, backend_type viene impostato su UNKNOWN e la richiesta viene registrata. Questi log forniscono utili informazioni di debug sulle richieste del client che sono state chiuse perché il bilanciatore del carico non ha potuto selezionare un backend.

backend_scope string L'ambito del backend, il nome di una zona o di una regione. Potrebbe essere UNKNOWN quando backend_name è sconosciuto.
backend_scope_type string L'ambito del backend (REGION/ZONE). Potrebbe essere UNKNOWN ogni volta che backend_name è sconosciuto.
backend_target_cross_project_id String L'ID progetto del servizio o del bucket di destinazione del backend. Questo campo è disponibile solo se la risorsa di destinazione del backend viene creata in un progetto diverso da quello in cui è stata creata la risorsa url_map.

Visualizza i log per la convalida dei certificati client mTLS

Per visualizzare gli errori registrati per le connessioni chiuse durante la convalida dei certificati client TLS reciproca, completa i seguenti passaggi.

Console

  1. Nella console Google Cloud, vai alla pagina Esplora log.

    Vai a Esplora log

  2. Fai clic sul pulsante di attivazione/disattivazione Mostra query per abilitare l'editor query.

  3. Incolla il codice seguente nel campo Query. Sostituisci FORWARDING_RULE_NAME con il nome della regola di forwarding.

    jsonPayload.statusDetails=~"client_cert"
    jsonPayload.@type="type.googleapis.com/google.cloud.loadbalancing.type.LoadBalancerLogEntry"
    resource.labels.forwarding_rule_name=FORWARDING_RULE_NAME
    
  4. Fai clic su Esegui query.

Monitoraggio

I bilanciatori del carico delle applicazioni interni esportano i dati di monitoraggio in Monitoring.

Le metriche di monitoraggio possono essere utilizzate per i seguenti scopi:

  • Valutazione della configurazione, dell'utilizzo e delle prestazioni di un bilanciatore del carico
  • Risoluzione dei problemi
  • Migliorare l'utilizzo delle risorse e l'esperienza utente

Oltre alle dashboard predefinite in Monitoring, puoi creare dashboard personalizzate, configurare avvisi ed eseguire query sulle metriche tramite l'API Monitoring.

Visualizzazione delle metriche di Cloud Monitoring

Console

Per visualizzare le metriche per una risorsa monitorata utilizzando Metrics Explorer, segui questi passaggi:

  1. Nella console Google Cloud, vai alla pagina  Esplora metriche:

    Vai a Esplora metriche

    Se utilizzi la barra di ricerca per trovare questa pagina, seleziona il risultato con il sottotitolo Monitoring.

  2. Nell'elemento Metrica, espandi il menu Seleziona una metrica, inserisci Internal Application Load Balancer Rule nella barra dei filtri e utilizza i sottomenu per selezionare un tipo di risorsa e una metrica specifici:
    1. Nel menu Risorse attive, seleziona Regola del bilanciatore del carico delle applicazioni interno.
    2. Per selezionare una metrica, utilizza i menu Categorie di metriche attive e Metriche attive.
    3. Fai clic su Applica.
  3. Per rimuovere le serie temporali dalla visualizzazione, utilizza l'elemento Filter.

  4. Per combinare le serie temporali, utilizza i menu dell'elemento Aggregation. Ad esempio, per visualizzare l'utilizzo della CPU per le VM, in base alla zona, imposta il primo menu su Mean e il secondo su zone.

    Tutte le serie temporali vengono visualizzate quando il primo menu dell'elemento Aggregation è impostato su Non aggregato. Le impostazioni predefinite per l'elemento Aggregazione sono determinate dal tipo di metrica selezionato.

  5. Per la quota e altre metriche che registrano un campione al giorno:
    1. Nel riquadro Visualizzazione, imposta Tipo di widget su Grafico a barre in pila.
    2. Imposta il periodo di tempo su almeno una settimana.

Definizione dei criteri di avviso

Console

Puoi creare criteri di avviso per monitorare i valori delle metriche e ricevere una notifica quando queste metriche violano una condizione.

  1. Nella console Google Cloud, vai alla pagina  Avvisi:

    Vai ad Avvisi

    Se utilizzi la barra di ricerca per trovare questa pagina, seleziona il risultato con il sottotitolo Monitoring.

  2. Se non hai creato i canali di notifica e vuoi ricevere le notifiche, fai clic su Modifica canali di notifica e aggiungi i tuoi canali di notifica. Torna alla pagina Avvisi dopo aver aggiunto i canali.
  3. Nella pagina Avvisi, seleziona Crea criterio.
  4. Per selezionare la metrica, espandi il menu Seleziona una metrica e poi segui questi passaggi:
    1. Per limitare il menu alle voci pertinenti, inserisci Internal Application Load Balancer Rule nella barra dei filtri. Se non vengono mostrati risultati dopo aver filtrato il menu, disattiva il pulsante di attivazione/disattivazione Mostra solo risorse e metriche attive.
    2. Per Tipo di risorsa, seleziona Regola del bilanciatore del carico delle applicazioni interno.
    3. Seleziona una Categoria di metrica e una Metrica, quindi seleziona Applica.
  5. Fai clic su Avanti.
  6. Le impostazioni nella pagina Configura trigger avviso determinano quando l'avviso viene attivato. Seleziona un tipo di condizione e, se necessario, specifica una soglia. Per maggiori informazioni, consulta Creare criteri di avviso con soglia della metrica.
  7. Fai clic su Avanti.
  8. (Facoltativo) Per aggiungere notifiche al criterio di avviso, fai clic su Canali di notifica. Nella finestra di dialogo, seleziona uno o più canali di notifica dal menu, quindi fai clic su Ok.
  9. (Facoltativo) Aggiorna la Durata della chiusura automatica degli incidenti. Questo campo determina quando Monitoring chiude gli incidenti in assenza di dati delle metriche.
  10. (Facoltativo) Fai clic su Documentazione, quindi aggiungi tutte le informazioni che vuoi includere in un messaggio di notifica.
  11. Fai clic su Nome avviso e inserisci un nome per il criterio di avviso.
  12. Fai clic su Crea criterio.
Per saperne di più, consulta Criteri di avviso.

Definizione delle dashboard personalizzate di Monitoring

Console

Puoi creare dashboard di Monitoring personalizzate sulle metriche del bilanciatore del carico delle applicazioni interno:

  1. Nella console Google Cloud, vai alla pagina Monitoring.

    Vai a Monitoring

  2. Seleziona Dashboard > Crea dashboard.

  3. Fai clic su Aggiungi grafico.

  4. Assegna un titolo al grafico.

  5. Seleziona metriche e filtri. Per le metriche, il tipo di risorsa è Bilanciatore del carico HTTP/S interno.

  6. Fai clic su Salva.

Frequenza e fidelizzazione dei report sulle metriche

Le metriche per i bilanciatori del carico vengono esportate in Monitoring in batch con granularità di 1 minuto. I dati di monitoraggio vengono conservati per sei (6) settimane. La dashboard fornisce l'analisi dei dati a intervalli predefiniti di 1 ora (un'ora), 6 ore (sei ore), 1 giorno (un giorno), 1 sett. (una settimana) e 6 settimane (sei settimane). Puoi richiedere manualmente l'analisi in un intervallo compreso tra 6 W e 1 minuto.

Monitoraggio delle metriche per i bilanciatori del carico delle applicazioni interni

Le seguenti metriche per i bilanciatori del carico delle applicazioni interni vengono segnalate in Monitoring:

Metrica FQDN Descrizione
Conteggio delle richieste loadbalancing.googleapis.com/https/internal/request_count Il numero di richieste gestite dal bilanciatore del carico delle applicazioni interno.
Conteggio byte richiesta loadbalancing.googleapis.com/https/internal/request_bytes Il numero di byte inviati come richieste dai client al bilanciatore del carico delle applicazioni interno.
Conteggio byte risposta loadbalancing.googleapis.com/https/internal/response_bytes Il numero di byte inviati come risposte dal bilanciatore del carico HTTP(S) interno al client.
Latenze totali loadbalancing.googleapis.com/https/internal/total_latencies Una distribuzione della latenza, in millisecondi. La latenza viene misurata dal momento in cui il proxy riceve il primo byte della richiesta a quello in cui il proxy invia l'ultimo byte della risposta.
Latenze di backend loadbalancing.googleapis.com/https/internal/backend_latencies Una distribuzione della latenza, in millisecondi. La latenza viene misurata dal momento in cui il proxy invia il primo byte della richiesta al backend a quello in cui il proxy riceve l'ultimo byte della risposta dal backend.

Dimensioni di filtro per le metriche del bilanciatore del carico delle applicazioni interno

Le metriche sono aggregate per ogni bilanciatore del carico delle applicazioni interno. Puoi filtrare le metriche aggregate in base alle seguenti dimensioni.

Proprietà Descrizione
BACKEND_SCOPE La zona o regione Google Cloud del gruppo di backend che ha gestito la richiesta del client o una stringa speciale per i casi in cui il gruppo di backend non è stato assegnato. Esempi: us-central1-a, europe-west1-b, asia-east1, UNKNOWN.
PROXY_REGION Regione del bilanciatore del carico delle applicazioni interno, del client e del backend. Esempi: us-central1, europe-west1 o asia-east1.
BACKEND Il nome del gruppo di istanza di backend o NEG che ha gestito la richiesta del client.
BACKEND_TARGET Il nome del servizio di backend che ha gestito la richiesta del client.
MATCHED_URL_RULE La regola del percorso della mappa di URL o la regola di route corrispondente al prefisso della richiesta HTTP(S) del client (fino a 50 caratteri).

La metrica Response code class fraction è supportata per l'intero bilanciatore del carico. Non è supportata ulteriore granularità.

Passaggi successivi