L'integrazione di Apache Hadoop raccoglie le metriche dei nodi di nome relative allo spazio di archiviazione, come l'utilizzo della capacità, gli accessi ai file e i blocchi. L'integrazione raccoglie inoltre i log di Hadoop e li analizza in un payload JSON. Il risultato include campi per origine, livello e messaggio.
Per ulteriori informazioni su Hadoop, consulta Documentazione di Apache Hadoop.
Prerequisiti
Per raccogliere la telemetria di Hadoop, devi installare l'agente operativo:
- Per le metriche, installa la versione 2.11.0 o successive.
- Per i log, installa la versione 2.11.0 o successiva.
Questa integrazione supporta le versioni di Hadoop 2.10.x, 3.2.x e 3.3.x.
Configura l'istanza Hadoop
Per esporre un endpoint JMX, devi impostare com.sun.management.jmxremote.port
di sistema all'avvio della JVM. Ti consigliamo inoltre di impostare il
com.sun.management.jmxremote.rmi.port
proprietà di sistema alla stessa porta. A
esporre un endpoint JMX da remoto, devi anche impostare java.rmi.server.hostname
proprietà di sistema.
Per impostazione predefinita, queste proprietà sono impostate nel campo hadoop-env.sh
di un deployment Hadoop
.
Per impostare le proprietà di sistema utilizzando gli argomenti della riga di comando, anteponi al nome della proprietà -D
quando avvii la JVM. Ad esempio, per impostare com.sun.management.jmxremote.port
sulla porta 8004
, specifica quanto segue all'avvio della JVM:
-Dcom.sun.management.jmxremote.port=8004
Configurare Ops Agent per Hadoop
Seguendo la guida alla configurazione delle operazioni Agent, aggiungi gli elementi richiesti per raccogliere dati di telemetria dalle istanze Hadoop riavvia l'agente.
Configurazione di esempio
I seguenti comandi creano la configurazione per raccogliere e importare la telemetria per Hadoop e riavviare Ops Agent.
Configura la raccolta dei log
Per importare i log da Hadoop, devi creare un ricevitore per i log prodotti da Hadoop e poi una pipeline per il nuovo ricevitore.
Per configurare un destinatario per i log hadoop
, specifica i seguenti campi:
Campo | Predefinito | Descrizione |
---|---|---|
exclude_paths |
Un elenco di pattern di percorsi del file system da escludere dall'insieme corrispondente a include_paths . |
|
include_paths |
[/opt/hadoop/logs/hadoop-*.log, /opt/hadoop/logs/yarn-*.log] |
Un elenco di percorsi del file system da leggere tramite il comando tail di ogni file. Nei percorsi è possibile utilizzare un carattere jolly (* ). |
record_log_file_path |
false |
Se il criterio viene impostato su true , il percorso del file specifico da cui è stato ottenuto il record di log viene visualizzato nella voce di log di output come valore dell'etichetta agent.googleapis.com/log_file_path . Quando utilizzi un carattere jolly, viene registrato solo il percorso del file da cui è stato ottenuto il record. |
type |
Questo valore deve essere hadoop . |
|
wildcard_refresh_interval |
60s |
L'intervallo di aggiornamento dei percorsi dei file con caratteri jolly in include_paths . Data come durata di tempo, ad esempio 30s o 2m . Questa proprietà può essere utile in caso di velocità effettiva di logging elevate, in cui i file di log vengono ruotati più velocemente dell'intervallo predefinito. |
Che cosa viene registrato nei log
logName
è ricavato dagli ID dei destinatari specificati nella configurazione. Campi dettagliati all'interno
LogEntry
sono i seguenti.
I log hadoop
contengono i seguenti campi in LogEntry
:
Campo | Tipo | Descrizione |
---|---|---|
jsonPayload.message |
string | Messaggio di log |
jsonPayload.severity |
string | Livello voce di log |
jsonPayload.source |
string | La classe Java di origine della voce di log |
severity |
stringa (LogSeverity ) |
Livello di voce del log (tradotto). |
Configurazione della raccolta di metriche
Per importare le metriche da Hadoop, devi creare un ricevitore per le metriche prodotte da Hadoop e poi una pipeline per il nuovo ricevitore.
Questo ricevitore non supporta l'utilizzo di più istanze nella configurazione, ad esempio per monitorare più endpoint. Tutte queste istanze scrivono nella stessa serie temporale e Cloud Monitoring non ha modo di distinguerle.
Per configurare un destinatario per le metriche hadoop
, specifica i seguenti campi:
Campo | Predefinito | Descrizione |
---|---|---|
collect_jvm_metrics |
true |
Configura il ricevitore in modo che raccolga anche le metriche JVM supportate. |
collection_interval |
60s |
Un valore di durata, ad esempio 30s o 5m . |
endpoint |
localhost:8004 |
L'URL del servizio JMX o l'host e la porta utilizzati per creare l'URL del servizio. Questo valore deve essere nel formato service:jmx:<protocol>:<sap> o host:port . I valori nel formato host:port vengono utilizzati per creare un URL del servizio service:jmx:rmi:///jndi/rmi://<host>:<port>/jmxrmi . |
password |
La password configurata se JMX è configurato per richiedere l'autenticazione. | |
type |
Questo valore deve essere hadoop . |
|
username |
Il nome utente configurato se JMX è configurato per richiedere l'autenticazione. |
Che cosa viene monitorato
La tabella seguente fornisce l'elenco delle metriche raccolte da Ops Agent dall'istanza Hadoop.
Tipo di metrica | |
---|---|
Tipo, Tipo Risorse monitorate |
Etichette |
workload.googleapis.com/hadoop.name_node.block.corrupt
|
|
GAUGE , INT64 gce_instance |
node_name
|
workload.googleapis.com/hadoop.name_node.block.count
|
|
GAUGE , INT64 gce_instance |
node_name
|
workload.googleapis.com/hadoop.name_node.block.missing
|
|
GAUGE , INT64 gce_instance |
node_name
|
workload.googleapis.com/hadoop.name_node.capacity.limit
|
|
GAUGE , INT64 gce_instance |
node_name
|
workload.googleapis.com/hadoop.name_node.capacity.usage
|
|
GAUGE , INT64 gce_instance |
node_name
|
workload.googleapis.com/hadoop.name_node.data_node.count
|
|
GAUGE , INT64 gce_instance |
node_name state
|
workload.googleapis.com/hadoop.name_node.file.load
|
|
GAUGE , INT64 gce_instance |
node_name
|
workload.googleapis.com/hadoop.name_node.volume.failed
|
|
GAUGE , INT64 gce_instance |
node_name
|
Verificare la configurazione
Questa sezione descrive come verificare di aver configurato correttamente il ricevitore Hadoop. Potrebbero essere necessari uno o due minuti prima che Ops Agent inizi a raccogliere dati di telemetria.
per verificare che i log Hadoop vengano inviati Cloud Logging, segui questi passaggi:
-
Nella console Google Cloud, vai alla pagina Esplora log:
Se utilizzi la barra di ricerca per trovare questa pagina, seleziona il risultato con il sottotitolo Logging.
- Inserisci la seguente query nell'editor e poi fai clic su Esegui query:
resource.type="gce_instance" log_id("hadoop")
per verificare che le metriche Hadoop vengano inviate Cloud Monitoring, segui questi passaggi:
-
Nella console Google Cloud, vai alla pagina leaderboard Esplora metriche:
Se utilizzi la barra di ricerca per trovare questa pagina, seleziona il risultato con il sottotitolo Monitoring.
- Nella barra degli strumenti del riquadro Query Builder, seleziona il pulsante code MQL o code PromQL.
- Verifica che sia selezionato MQL nel pulsante di attivazione/disattivazione Lingua. Il pulsante di attivazione/disattivazione della lingua si trova nella stessa barra degli strumenti. consente di formattare la query.
- Inserisci la seguente query nell'editor e poi fai clic su Esegui query:
fetch gce_instance | metric 'workload.googleapis.com/hadoop.name_node.capacity.usage' | every 1m
Visualizza dashboard
Per visualizzare le metriche Hadoop, devi disporre di un grafico o di una dashboard configurato. L'integrazione di Hadoop include una o più dashboard. Le dashboard vengono installate automaticamente dopo aver configurato l'integrazione e dopo che Ops Agent ha iniziato a raccogliere i dati delle metriche.
Puoi anche visualizzare anteprime statiche delle dashboard senza installare l'integrazione.
Per visualizzare una dashboard installata:
-
Nella console Google Cloud, vai alla pagina Dashboard:
Se utilizzi la barra di ricerca per trovare questa pagina, seleziona il risultato con il sottotitolo Monitoring.
- Seleziona la scheda Elenco dashboard e poi scegli la categoria Integrazioni.
- Fai clic sul nome della dashboard che vuoi visualizzare.
Se hai configurato un'integrazione, ma la dashboard non è stata installata, controlla che l'agente operativo sia in esecuzione. Quando non c'è dati delle metriche per un grafico nella dashboard, l'installazione della dashboard non riesce. Dopo che Ops Agent inizia a raccogliere le metriche, la dashboard viene installata per te.
Per visualizzare un'anteprima statica della dashboard:
-
Nella console Google Cloud, vai alla Integrazioni pagina:
Vai a Integrations (Integrazioni).
Se utilizzi la barra di ricerca per trovare questa pagina, seleziona il risultato con il sottotitolo Monitoring.
- Fai clic sul filtro della piattaforma di deployment di Compute Engine.
- Individua la voce relativa a Hadoop e fai clic su Visualizza dettagli.
- Seleziona la scheda Dashboard per visualizzare un'anteprima statica. Se sia installata, quindi puoi accedervi facendo clic Visualizza dashboard.
Per ulteriori informazioni sulle dashboard in Cloud Monitoring, consulta Dashboard e grafici.
Per saperne di più sull'utilizzo della pagina Integrazioni, vedi Gestisci le integrazioni.
Installa i criteri di avviso
I criteri di avviso chiedono a Cloud Monitoring di inviarti una notifica quando si verificano condizioni specifiche. L'integrazione di Hadoop include uno o più criteri di avviso per da utilizzare. Puoi visualizzare e installare questi criteri di avviso dalla pagina Integrazioni in Monitoraggio.
Per visualizzare le descrizioni dei criteri di avviso disponibili e procedi nel seguente modo:
-
Nella console Google Cloud, vai alla pagina Integrazioni:
Vai a Integrations (Integrazioni).
Se utilizzi la barra di ricerca per trovare questa pagina, seleziona il risultato con il sottotitolo Monitoring.
- Individua la voce relativa a Hadoop e fai clic su Visualizza dettagli.
- Seleziona la scheda Avvisi. Questa scheda fornisce le descrizioni criteri di avviso disponibili e fornisce un'interfaccia per l'installazione che li rappresentano.
- Installa i criteri di avviso. I criteri di avviso devono sapere dove inviare le notifiche che indicano che l'avviso è stato attivato, quindi richiedono informazioni da te per l'installazione.
Per installare i criteri di avviso, segui questi passaggi:
- Nell'elenco dei criteri di avviso disponibili, seleziona quelli che vuoi installare.
Nella sezione Configura notifiche, seleziona uno o più canali di notifica. Puoi scegliere di disattivare l'uso dei canali di notifica, ma se lo fai, la funzione si attivano automaticamente. Puoi verificarne lo stato nella Monitoraggio, ma non riceverai notifiche.
Per ulteriori informazioni sui canali di notifica, consulta Gestisci canali di notifica.
- Fai clic su Crea criteri.
Per ulteriori informazioni sui criteri di avviso in Cloud Monitoring, consulta la pagina Introduzione agli avvisi.
Per ulteriori informazioni sull'utilizzo della pagina Integrazioni, consulta Gestire le integrazioni.
Passaggi successivi
Per una procedura dettagliata su come utilizzare Ansible per installare l'Ops Agent, configurare un'applicazione di terze parti e installare una dashboard di esempio, guarda il video Installa l'Ops Agent per risolvere i problemi relativi alle applicazioni di terze parti.