Apache HBase

Apache HBase 統合は、master とリージョン サーバーからクラスタ指標を収集します。リージョン サーバー指標は、ストレージ、リクエスト、レイテンシに関連しています。この統合では、master とリージョン サーバーのログも収集され、JSON ペイロードが生成されます。結果には、source、level、message のフィールドが含まれます。

HBase の詳細については、Apache HBase のドキュメントをご覧ください。

前提条件

HBase テレメトリーを収集するには、Ops エージェントをインストールする必要があります。

  • 指標の場合は、バージョン 2.11.0 以降をインストールします。
  • ログの場合は、バージョン 2.11.0 以降をインストールします。

このインテグレーションは、HBase バージョン 1.7.x、2.3.x、2.4.x をサポートしています。

HBase インスタンスを構成する

JMX エンドポイントを公開するには、JVM の起動時に com.sun.management.jmxremote.port システム プロパティを設定する必要があります。また、com.sun.management.jmxremote.rmi.port システム プロパティも同じポートに設定することをおすすめします。JMX エンドポイントをリモートで公開するには、java.rmi.server.hostname システム プロパティも設定する必要があります。

デフォルトでは、これらのプロパティは HBase デプロイの hbase-env.sh ファイルで設定されています。

コマンドライン引数を使用してシステム プロパティを設定するには、JVM の起動時にプロパティ名の前に -D を付けます。たとえば、com.sun.management.jmxremote.port をポート 10101 に設定するには、JVM の起動時に次のように指定します。

-Dcom.sun.management.jmxremote.port=10101

HBase 用に Ops エージェントを構成する

Ops エージェントの構成のガイドに従って、HBase インスタンスからテレメトリーを収集するために必要な要素を追加し、エージェントを再起動します。

構成の例

次のコマンドは、HBase のテレメトリーを収集して取り込み、Ops エージェントを再起動するための構成を作成します。

# Configures Ops Agent to collect telemetry from the app and restart Ops Agent.

set -e

# Create a back up of the existing file so existing configurations are not lost.
sudo cp /etc/google-cloud-ops-agent/config.yaml /etc/google-cloud-ops-agent/config.yaml.bak

# Configure the Ops Agent.
sudo tee /etc/google-cloud-ops-agent/config.yaml > /dev/null << EOF
metrics:
  receivers:
    hbase:
      type: hbase
      endpoint: service:jmx:rmi:///jndi/rmi://127.0.0.1:10101/jmxrmi
  service:
    pipelines:
      hbase:
        receivers:
          - hbase
logging:
  receivers:
    hbase_system:
      type: hbase_system
  service:
    pipelines:
      hbase_system:
        receivers:
          - hbase_system
EOF

sudo service google-cloud-ops-agent restart
sleep 60

ログの収集を構成する

HBase からログを取り込むには、HBase が生成するログのレシーバを作成し、新しいレシーバのパイプラインを作成する必要があります。

hbase_system ログのレシーバを構成するには、次のフィールドを指定します。

フィールド デフォルト 説明
exclude_paths include_paths の照合で除外するファイルシステム パスのパターンのリスト。
include_paths [/opt/hbase/logs/hbase-*-regionserver-*.log, /opt/hbase/logs/hbase-*-master-*.log] 各ファイルのテーリングで読み込むファイルシステムのパスのリスト。パスには、/var/log/hbase*/*.log のように、ワイルドカード（*）を使用できます。
record_log_file_path false true に設定すると、ログレコードの取得元のファイルのパスが agent.googleapis.com/log_file_path ラベルの値として出力ログエントリに表示されます。ワイルドカードを使用する場合、レコードを取得したファイルのパスのみが記録されます。
type 値は、hbase_system にする必要があります。
wildcard_refresh_interval 60s include_paths のワイルドカード ファイル パスの更新間隔。time.ParseDuration によって解析可能な時間として指定します（例: 30s または 2m）。このプロパティは、ログファイルのローテーションがデフォルトよりも短い間隔で実施され、ロギングのスループットが高い場合に有用な可能性があります。

ログの内容

logName は、構成で指定されたレシーバ ID から取得されます。LogEntry 内の詳細なフィールドは、次のとおりです。

hbase_system ログの LogEntry には次のフィールドが含まれます。

フィールド タイプ 説明
jsonPayload.level 文字列 ログエントリ レベル
jsonPayload.message 文字列 ログ メッセージ（指定した場合の詳細なスタックトレースを含む）
jsonPayload.module 文字列 ログが発生した HBase のモジュール
jsonPayload.source 文字列 ログの取得元
severity 文字列（LogSeverity） ログエントリ レベル（変換済み）。

指標の収集を構成する

HBase から指標を取り込むには、HBase が生成する指標のレシーバーを作成してから、新しいレシーバー用のパイプラインを作成する必要があります。

このレシーバーでは、複数のエンドポイントのモニタリングなど、構成で複数のインスタンスを使用することはできません。このようなインスタンスはすべて同じ時系列に書き込まれるため、Cloud Monitoring ではインスタンスを区別できません。

hbase 指標のレシーバーを構成するには、次のフィールドを指定します。

フィールド デフォルト 説明
collect_jvm_metrics true サポートされている JVM 指標も収集するようにレシーバを構成します。
collection_interval 60s 期間の値（例: 30s、5m）。
endpoint localhost:10101 JMX サービス URL、またはサービス URL の作成に使用されるホストとポート。この値は、service:jmx:<protocol>:<sap> または host:port の形式にする必要があります。host:port フォームの値は、service:jmx:rmi:///jndi/rmi://<host>:<port>/jmxrmi のサービス URL を作成するために使用されます。
password JMX が認証を要求するように構成されている場合、構成されたパスワード。
type 値は、hbase にする必要があります。
username JMX が認証を要求するように構成されている場合、構成されたユーザー名。

モニタリング対象

次の表に、Ops エージェントが HBase インスタンスから収集する指標の一覧を示します。

指標タイプ
種類、タイプ
モニタリング対象リソース		 ラベル
workload.googleapis.com/hbase.master.region_server.count
GAUGE、INT64
gce_instance 		state
workload.googleapis.com/hbase.master.regions_in_transition.count
GAUGE、INT64
gce_instance 		 
workload.googleapis.com/hbase.master.regions_in_transition.oldest_age
GAUGE、INT64
gce_instance 		 
workload.googleapis.com/hbase.master.regions_in_transition.over_threshold
GAUGE、INT64
gce_instance 		 
workload.googleapis.com/hbase.region_server.active_handler.count
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.authentication.count
GAUGE、INT64
gce_instance 		region_server
state
workload.googleapis.com/hbase.region_server.block_cache.operation.count
GAUGE、INT64
gce_instance 		region_server
state
workload.googleapis.com/hbase.region_server.blocked_update.time
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.disk.store_file.count
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.disk.store_file.size
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.files.local
GAUGE、DOUBLE
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.gc.old_gen.time
CUMULATIVE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.gc.time
CUMULATIVE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.gc.young_gen.time
CUMULATIVE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.open_connection.count
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.append.latency.max
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.append.latency.mean
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.append.latency.median
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.append.latency.min
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.append.latency.p99
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.delete.latency.max
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.delete.latency.mean
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.delete.latency.median
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.delete.latency.min
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.delete.latency.p99
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.get.latency.max
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.get.latency.mean
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.get.latency.median
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.get.latency.min
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.get.latency.p99
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.increment.latency.max
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.increment.latency.mean
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.increment.latency.median
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.increment.latency.min
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.increment.latency.p99
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.put.latency.max
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.put.latency.mean
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.put.latency.median
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.put.latency.min
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.put.latency.p99
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.replay.latency.max
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.replay.latency.mean
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.replay.latency.median
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.replay.latency.min
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operation.replay.latency.p99
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.operations.slow
GAUGE、INT64
gce_instance 		operation
region_server
workload.googleapis.com/hbase.region_server.queue.length
GAUGE、INT64
gce_instance 		region_server
state
workload.googleapis.com/hbase.region_server.queue.request.count
GAUGE、INT64
gce_instance 		region_server
state
workload.googleapis.com/hbase.region_server.region.count
GAUGE、INT64
gce_instance 		region_server
workload.googleapis.com/hbase.region_server.request.count
GAUGE、INT64
gce_instance 		region_server
state
workload.googleapis.com/hbase.region_server.write_ahead_log.count
GAUGE、INT64
gce_instance 		region_server

構成を確認する

このセクションでは、HBase レシーバーが正しく構成されていることを確認する方法について説明します。Ops エージェントがテレメトリーの収集を開始するまでに 1～2 分かかる場合があります。

HBase ログが Cloud Logging に送信されていることを確認するには、次のようにします。

  1. Google Cloud コンソールのナビゲーション パネルで、[ロギング] を選択してから、[ログ エクスプローラ] を選択します。

    [ログ エクスプローラ] に移動

  2. エディタに次のクエリを入力し、[クエリを実行] をクリックします。
    resource.type="gce_instance"
log_id("hbase_system")

HBase 指標が Cloud Monitoring に送信されていることを確認するには、次のようにします。

  1. Google Cloud コンソールのナビゲーション パネルで [Monitoring] を選択し、次に [ Metrics Explorer] を選択します。

    Metrics Explorer に移動

  2. クエリビルダー ペインのツールバーで、[MQL] または [PROMQL] という名前のボタンを選択します。
  3. [言語] で [MQL] が選択されていることを確認します。言語切り替えボタンは、クエリの書式設定と同じツールバーにあります。
  4. エディタに次のクエリを入力し、[クエリを実行] をクリックします。
    fetch gce_instance
| metric 'workload.googleapis.com/hbase.region_server.operation.append.latency.p99'
| every 1m

ダッシュボードを表示する

HBase 指標を表示するには、グラフまたはダッシュボードが構成されている必要があります。HBase インテグレーションには、1 つ以上のダッシュボードが含まれています。インテグレーションを構成して Ops エージェントが指標データの収集を開始すると、ダッシュボードは自動的にインストールされます。

インテグレーションをインストールすることなく、ダッシュボードの静的プレビューを表示することもできます。

インストールされているダッシュボードを表示する手順は次のとおりです。

  1. Google Cloud コンソールのナビゲーション パネルで、[Monitoring] を選択してから、[ダッシュボード] を選択します。

    [ダッシュボード] に移動

  2. [ダッシュボード リスト] タブを選択し、[統合] カテゴリを選択します。
  3. 表示するダッシュボードの名前をクリックします。

インテグレーションを構成してもダッシュボードがインストールされていない場合は、Ops エージェントが実行されていることを確認します。ダッシュボードにグラフの指標データがない場合、ダッシュボードのインストールは失敗します。Ops エージェントが指標の収集を開始した後に、ダッシュボードがインストールされます。

ダッシュボードの静的プレビューを表示する手順は次のとおりです。

  1. Google Cloud コンソールのナビゲーション パネルで、[Monitoring] を選択してから、[インテグレーション] を選択します。

    [インテグレーション] に移動

  2. [デプロイメント プラットフォーム] フィルタの [Compute Engine] をクリックします。
  3. HBase のエントリを見つけて [詳細を表示] をクリックします。
  4. [ダッシュボード] タブを選択すると、静的プレビューが表示されます。ダッシュボードがインストールされている場合は、[ダッシュボードを表示] をクリックして移動できます。

Cloud Monitoring のダッシュボードについて詳しくは、ダッシュボードとグラフをご覧ください。

[インテグレーション] ページの使用方法については、インテグレーションを管理するをご覧ください。

アラート ポリシーをインストールする

アラート ポリシーは、指定した条件が成立した際に通知するように Cloud Monitoring に指示します。HBase インテグレーションには、使用する 1 つ以上のアラート ポリシーが含まれています。これらのアラート ポリシーは、Monitoring の [インテグレーション] ページで表示してインストールできます。

使用可能なアラート ポリシーの説明を表示してインストールする手順は次のとおりです。

  1. Google Cloud コンソールのナビゲーション パネルで、[Monitoring] を選択してから、[インテグレーション] を選択します。

    [インテグレーション] に移動

  2. HBase のエントリを見つけて [詳細を表示] をクリックします。
  3. [アラート] タブを選択します。このタブには、利用可能なアラート ポリシーの説明と、それらをインストールするためのインターフェースが表示されます。
  4. アラート ポリシーをインストールします。アラート ポリシーでは、アラートがトリガーされた通知の送信先を特定する必要があるため、インストール環境の情報が必要になります。アラート ポリシーをインストールする手順は次のとおりです。
    1. 利用可能なアラート ポリシーのリストから、インストールするアラート ポリシーを選択します。

    2. [通知の構成] セクションで、1 つ以上の通知チャンネルを選択します。通知チャンネルの使用を無効にすることもできますが、無効にすると、アラート ポリシーは通知なく起動します。Monitoring でステータスを確認できますが、通知は受信しません。

      通知チャンネルの詳細については、通知チャンネルを管理するをご覧ください。

    3. [ポリシーの作成] をクリックします。

Cloud Monitoring のアラート ポリシーの詳細については、アラートの概要をご覧ください。

[インテグレーション] ページの使用方法については、インテグレーションを管理するをご覧ください。

次のステップ

Ansible を使用して Ops エージェントをインストールし、サードパーティ アプリケーションを構成してサンプル ダッシュボードをインストールする方法については、Ops エージェントをインストールして、サードパーティ アプリケーションのトラブルシューティングを行うの動画をご覧ください。