データプロファイルを分析する

正常に生成されたすべてのデータプロファイルを BigQuery に送信するように機密データの検出サービスを構成した場合は、それらのデータプロファイルにクエリを実行してデータに関する分析情報を取得できます。Looker Studio などの可視化ツールを使用して、ビジネスニーズに合わせたカスタムレポートを作成することもできます。または、機密データの保護が提供する事前作成済みのレポートを使用して、調整し、必要に応じて共有することもできます。

このページでは、データプロファイルについて詳しく確認するために使用できる SQL クエリの例を示します。また、Looker Studio でデータプロファイルを可視化する方法も説明します。

データプロファイルの詳細については、データプロファイルをご覧ください。

準備

このページでは、組織、フォルダ、またはプロジェクトのレベルでプロファイリングが構成されていることを前提としています。構成では、[Save data profile copies to BigQuery] 切り替えボタンをクリックして、データプロファイルのエクスポートを有効にします。

このドキュメントでは、エクスポートされたデータプロファイルを含むテーブルを出力テーブルと呼びます。

出力テーブルのプロジェクト ID、データセット ID、テーブル ID を直ちに使用できることを確認してください。これらは、このページの手順を実施する際に必要です。

`latest` ビュー

機密データの保護は、出力テーブルにデータプロファイルをエクスポートする際に、latest ビューも作成します。このビューは、データプロファイルの最新のスナップショットのみを含む事前にフィルタリングされた仮想テーブルです。latest ビューのスキーマは出力テーブルと同じであるため、SQL クエリと Looker Studio レポートでこの 2 つを互換性を持つ対象として使用できます。出力テーブルにデータプロファイルの古いスナップショットが含まれているために、結果が異なる場合があります。

latest ビューは出力テーブルと同じ場所に保存されます。名前は次のような形式になっています。

OUTPUT_TABLE_latest_VERSION

以下を置き換えます。

OUTPUT_TABLE: エクスポートされたデータプロファイルを含むテーブルの ID。
VERSION: ビューのバージョン番号。

たとえば、出力テーブルの名前が table-profile の場合、latest ビューの名前は table-profile_latest_v1 のようになります。

出力テーブルと`latest`ビューのいずれかを選択する

latest ビューには最新のデータプロファイルのスナップショットのみが含まれ、出力テーブルには古いスナップショットを含むすべてのデータプロファイルのスナップショットが含まれます。たとえば、出力テーブルに対するクエリは、同じ列に対して複数の列データプロファイルを返すことができます（その列がプロファイリングされるたびに 1 つずつ）。

SQL クエリまたはデータポータルレポートで出力テーブルまたは latest ビューの使用を選択する際は、次の点を考慮してください。

latest ビューは、再プロファイリングされたテーブルが存在し、直近のプロファイルのみが表示され、その他の古いバージョンのプロファイルが表示されないようにする必要がある場合に活用できます。つまり、プロファイリングされたデータの現在の状態を確認する必要があります。
出力テーブルは、プロファイリングされたデータの履歴ビューを取得する場合に活用できます。たとえば、組織で特定の infoType が格納されているかどうか、または特定のデータプロファイルで行われた変更を確認することが必要な場合があります。

サンプル SQL クエリ

このセクションでは、データプロファイルを分析するときに使用できるクエリの例を示します。これらのクエリを実行するには、インタラクティブクエリの実行をご覧ください。

次の例では、TABLE_OR_VIEW を次のいずれかに置き換えます。

出力テーブルの名前。エクスポートされたデータプロファイルを含むテーブルです（例: myproject.mydataset.table-profile）。
出力テーブルの latest ビューの名前（例: myproject.mydataset.table-profile_latest_v1）。

いずれの場合も、プロジェクト ID とデータセット ID を配置する必要があります。

詳細については、このページの出力テーブルと latest ビューのいずれかを選択するをご覧ください。

発生したエラーのトラブルシューティングについては、エラーメッセージをご覧ください。

フリーテキストスコアが高く、他の infoType 一致の証拠があるすべての列を一覧表示する

SELECT
  column_profile.table_full_resource,
  column_profile.COLUMN,
  other_matches.info_type.name,
  column_profile.profile_last_generated
FROM
   `TABLE_OR_VIEW`,
  UNNEST(column_profile.other_matches) AS other_matches
WHERE
  column_profile.free_text_score = 1
  AND ( column_profile.column_info_type.info_type.name>""
    OR ARRAY_LENGTH(column_profile.other_matches)>0 )

検出結果の修正方法については、高い自由テキストスコアをご覧ください。

自由テキストスコアとその他の infoType 指標の詳細については、列データプロファイルをご覧ください。

クレジットカード番号の列を含むすべてのテーブルを一覧表示する

SELECT
  column_profile.table_full_resource,
  column_profile.profile_last_generated
FROM
  `TABLE_OR_VIEW`
WHERE
  column_profile.column_info_type.info_type.name="CREDIT_CARD_NUMBER"

CREDIT_CARD_NUMBER は、クレジットカード番号を表す組み込み infoType です。

これらの検出結果の修正方法については、高データリスクをご覧ください。

クレジットカード番号、社会保障番号、人名の列を含むテーブルプロファイルを一覧表示する

SELECT
  table_full_resource,
  COUNT(*) AS count_findings
FROM (
  SELECT
    DISTINCT column_profile.table_full_resource,
    column_profile.column_info_type.info_type.name
  FROM
    `TABLE_OR_VIEW`
  WHERE
    column_profile.column_info_type.info_type.name IN ('PERSON_NAME',
      'CREDIT_CARD_NUMBER',
      'US_SOCIAL_SECURITY_NUMBER')
  ORDER BY
    column_profile.table_full_resource ) ot1
GROUP BY
  table_full_resource
  #increase this number to match the total distinct infoTypes that must be present
HAVING
  count_findings>=3

このクエリでは、次の組み込み infoType が使用されます。

CREDIT_CARD_NUMBER: クレジットカード番号を表します
PERSON_NAME: 人のフルネームを表します
US_SOCIAL_SECURITY_NUMBER は米国社会保障番号を表します

これらの検出結果の修正方法については、高データリスクをご覧ください。

Looker Studio でデータプロファイルを操作する

Looker Studio でデータプロファイルを可視化するには、既製のレポートを使用します。または、独自のレポートを作成することもできます。

事前に作成されているレポートを使用する

機密データの保護は、データプロファイルの豊富な分析情報を際立たせる事前作成された Looker Studio レポートを提供します。Sensitive Data Protection ダッシュボードは、データプロファイルの概要を素早く確認できるマルチページレポートです。リスク、infoType、場所によって異なります。他のタブを調べて、地理的リージョンと体制のリスクごとにビューを表示するか、特定の指標をドリルダウンします。この既製のレポートをそのまま使用できます。または必要に応じてカスタマイズすることもできます。これは既製レポートの推奨バージョンです。

データを使用して既製のレポートを表示するには、次の URL に必要な値を入力します。次に、生成された URL をブラウザにコピーします。

https://lookerstudio.google.com/c/u/0/reporting/create?c.reportId=c9826374-e016-4c96-a495-7281328375c6&ds.connector=BIG_QUERY&ds.projectId=PROJECT_ID&ds.datasetId=DATASET_ID&ds.tableId=TABLE_OR_VIEW&ds.type=TABLE&ds.useFreshSchema=false

以下を置き換えます。

PROJECT_ID: 出力テーブルを含むプロジェクト。
DATASET_ID: 出力テーブルを含むデータセット。
TABLE_OR_VIEW：次のいずれかになります。
- 出力テーブルの名前。エクスポートされたデータプロファイルを含むテーブルです（例: myproject.mydataset.table-profile）。
- 出力テーブルの latest ビューの名前（例: myproject.mydataset.table-profile_latest_v1）。
詳細については、このページの出力テーブルと latest ビューのいずれかを選択するをご覧ください。

Looker Studio でレポートにデータが読み込まれるまでに、数分かかることがあります。

次の例では、低機密データと高機密データが世界中の複数の国に存在することがダッシュボードに表示されています。

既製レポート

以前のバージョンの既製レポート

既製レポートの最初のバージョンは、引き続き次のアドレスで入手できます。

https://lookerstudio.google.com/c/u/0/reporting/create?c.reportId=907a2b73-ffe4-40b2-b9a1-c2aa0bbd69fd&ds.connector=BIG_QUERY&ds.projectId=PROJECT_ID&ds.datasetId=DATASET_ID&ds.tableId=TABLE_OR_VIEW&ds.type=TABLE&ds.useFreshSchema=false

レポートを作成する

Looker Studio ではインタラクティブなレポートを作成できます。このセクションでは、BigQuery の出力テーブルにエクスポートされたデータプロファイルに基づいて、Looker Studio で簡単なテーブルレポートを作成します。

出力テーブルのプロジェクト ID、データセット ID、テーブル ID、または latest ビューをすぐに使用できることを確認してください。この手順を実行するために必要です。

この例では、データプロファイルでレポートされる各 infoType と対応する頻度を示すテーブルを含むレポートを作成する方法を示します。

通常、Looker Studio 経由で BigQuery にアクセスすると、BigQuery の使用料金が発生します。詳細については、Looker Studio を使用して BigQuery データを可視化するをご覧ください。

レポートを作成する方法は次のとおりです。

Looker Studio を開いてログインします。
[空のレポート] をクリックします。
[Connect to data] タブで、[BigQuery] カードをクリックします。
プロンプトが表示されたら、Looker Studio が BigQuery プロジェクトにアクセスすることを承認します。
BigQuery データに接続します。
1. [プロジェクト] で、出力テーブルを含むプロジェクトを選択します。プロジェクトは、[最近のプロジェクト]、[マイプロジェクト]、[共有プロジェクト] のタブで検索できます。
2. [データセット] で、出力テーブルを含むデータセットを選択します。
3. [テーブル] で、出力テーブルまたは出力テーブルの latest ビューを選択します。
  
  詳細については、このページの出力テーブルと latest ビューのいずれかを選択するをご覧ください。
4. [Add] をクリックします。
5. 表示されるダイアログで、[レポートに追加] をクリックします。
  
  レポートが作成されます。テーブルデータプロファイルとそれに対応するレコード数を含むテーブルが表示されます。
レポートされる各 infoType と対応する頻度（レコード数）を表示するテーブルを追加するには、次の手順に従います。
1. [グラフを追加] をクリックします。
2. テーブルのスタイルを選択します。
3. グラフを配置する領域をクリックします。
  
  グラフが表形式で表示されます。
4. 必要に応じて表のサイズを変更します。
  
  テーブルが選択されていれば、そのプロパティが [グラフ] > [テーブル] ペインに表示されます。
5. [グラフ] > [テーブル] ペインの [データ] タブで、[ディメンション] フィールドから既存のディメンションを削除します。
6. [+ ディメンションを追加] をクリックします。
7. column_profile.column_info_type.info_type.name を検索して選択します。
結果のテーブルは次のようになります。

Looker Studio のテーブルについて詳しく確認します。

次のステップ

データプロファイルの検出を修正するための対策について学習する。

データ プロファイルを分析する

準備

latest ビュー

出力テーブルとlatestビューのいずれかを選択する