本頁面說明可協助您監控 Cloud Data Fusion 執行個體和管道的健康狀態和效能的各種指標。請使用 Cloud Monitoring 監控這些指標。這些指標可提供管道執行作業、執行個體詳細資料、API 要求和授權檢查的洞察資料。
指標分為管道指標或例項指標:
- 管道指標會提供個別管道執行作業的資料,例如執行狀態、時間長度、延遲時間和資料傳輸量。
- 執行個體指標會提供執行個體內管道匯總資訊,包括服務可用性、已部署管道數量和 API 要求數量。
使用指標和監控資源標籤,在 Monitoring 中篩選及匯總 Cloud Data Fusion 管道和執行個體指標。自訂指標檢視畫面時,您可以使用這兩種標籤類型之一或兩者皆用。
Cloud Data Fusion Pipeline 監控資源標籤
使用下列 Cloud Data Fusion 管道監控資源標籤篩選及匯總指標:
標籤名稱 | 說明 |
---|---|
resource_container |
客戶專案的 ID。 |
org_id |
客戶專案所屬機構的 ID。 |
location |
執行個體的託管區域或區域。 |
edition |
Cloud Data Fusion 執行個體的版本。 |
is_private_ip_enabled |
執行個體是否使用內部 IP 位址。 |
version |
執行個體的 Cloud Data Fusion 資料層版本。 |
instance_id |
Cloud Data Fusion 執行個體 ID。 |
namespace |
管道的命名空間。 |
pipeline_id |
管道 ID。 |
run_id |
管道的執行 ID。 |
pipeline 指標標籤
在 Monitoring 中使用下列 Cloud Data Fusion 指標標籤篩選及匯總指標:
名稱 | 指標 | 說明 | 指標標籤 |
---|---|---|---|
pipeline 執行作業狀態 | datafusion.googleapis.com/pipeline/v2/runs_completed_count |
已完成執行的管道累計數。 |
|
管道執行時間 | datafusion.googleapis.com/pipeline/v2/pipeline_duration |
管道執行作業所需的時間。 |
|
管道啟動延遲時間 | datafusion.googleapis.com/pipeline/v2/pipeline_start_latency |
管道達到「執行中」狀態所需的時間。 |
|
佈建延遲時間 | datafusion.googleapis.com/pipeline/v2/dataproc/provisioning_latency |
Dataproc 叢集佈建延遲時間。 |
|
Dataproc API 要求 | datafusion.googleapis.com/pipeline/v2/dataproc/api_request_count |
Dataproc API 要求的累積次數。 |
|
管道預覽執行時間 | datafusion.googleapis.com/pipeline/v2/preview_duration |
完成預覽所需的時間。 |
|
已寫入的 pipeline 位元組數 | datafusion.googleapis.com/pipeline/v2/write_bytes_count |
管道寫入的位元組累計數。 |
|
已讀取的 pipeline 位元組數 | datafusion.googleapis.com/pipeline/v2/read_bytes_count |
管道讀取的位元組累計數。 |
|
已重組的 pipeline 位元組數 | datafusion.googleapis.com/pipeline/v2/shuffle_bytes_count |
在管道中重新排序的位元組累計數量。 |
|
外掛程式處理的記錄筆數:輸入 | datafusion.googleapis.com/pipeline/v2/plugin/incoming_records_count |
進入外掛程式的記錄總數。 |
|
外掛程式處理的記錄筆數:輸出 | datafusion.googleapis.com/pipeline/v2/plugin/outgoing_records_count |
離開外掛程式的記錄累積計數。 |
|
Cloud Data Fusion 執行個體監控資源標籤
使用下列 Cloud Data Fusion 執行個體監控資源標籤,篩選及匯總指標:
標籤名稱 | 說明 |
---|---|
resource_container |
客戶專案的 ID。 |
org_id |
客戶專案所屬機構的 ID。 |
location |
執行個體的託管區域或區域。 |
edition |
執行個體的版本。 |
is_private_ip_enabled |
執行個體是否使用內部 IP 位址。 |
version |
執行個體的 Cloud Data Fusion 資料層版本。 |
instance_id |
Cloud Data Fusion 執行個體 ID。 |
namespace |
命名空間名稱。 |
執行個體指標標籤
在 Monitoring 中使用下列 Cloud Data Fusion 指標標籤篩選及匯總指標:
名稱 | 指標 | 說明 | 指標標籤 |
---|---|---|---|
服務狀態 | datafusion.googleapis.com/instance/v2/service_available |
Cloud Data Fusion 服務的供應情形。 |
|
已部署的 pipeline 數量 | datafusion.googleapis.com/instance/v2/pipelines |
已部署的管道數量。 |
|
並行執行的管道數量 | datafusion.googleapis.com/instance/v2/concurrent_pipelines_running |
同時執行的管道數量。 |
|
並行啟動管道的數量 | datafusion.googleapis.com/instance/v2/concurrent_pipelines_launched |
處於「Provisioning」或「Starting」狀態的管道數量。 |
|
收到的 CDAP REST API 要求 | datafusion.googleapis.com/instance/v2/api_request_count |
後端服務收到的 REST API 要求累積次數。 |
|
已傳送的 CDAP REST API 回應 | datafusion.googleapis.com/instance/v2/api_response_count |
後端服務傳送的 REST API 回應累積次數。 |
|
授權檢查次數 | datafusion.googleapis.com/instance/v2/authorization_check_count |
存取權違規偵測器執行的授權檢查累積次數。 |
|
授權檢查時間 | datafusion.googleapis.com/instance/v2/authorization_check_time |
存取權強制執行工具執行授權檢查的延遲時間。 |
|
草稿管道數量 | datafusion.googleapis.com/instance/v2/draft_pipelines |
草稿管道數量。 |
|
命名空間數量 | datafusion.googleapis.com/instance/v2/namespaces |
命名空間數量。 |
|