Dataproc Metastore のクロス プロジェクト デプロイを設定すると、次のリソースを分離できます。
- Dataproc Metastore サービス。
- Dataproc Metastore サービスに接続されている Dataproc クラスタ。
- Dataproc クラスタで使用されるネットワーク。
始める前に
- プロジェクトで Dataproc Metastore を有効にします。
- Dataproc Metastore サービスの作成。
- プロジェクトに固有のネットワーキング要件を理解します。
必要なロール
Dataproc Metastore と Dataproc クラスタの作成に必要な権限を取得するには、管理者に次の IAM ロールの付与を依頼します。
-
Dataproc Metastore リソースに対する完全アクセス権を付与する場合: メタストア プロジェクトに対する Dataproc Metastore 編集者(
roles/metastore.editor
)。
ロールの付与の詳細については、アクセスの管理をご覧ください。
必要な権限は、カスタムロールや他の事前定義ロールから取得することもできます。
Dataproc Metastore の特定のロールと権限については、IAM によるアクセス管理をご覧ください。プロジェクト間のデプロイについて
Dataproc Metastore のクロス プロジェクト デプロイは、次の構成で構成できます。
2 つのプロジェクト:
- プロジェクト 1 には Dataproc クラスタ(クラスタ プロジェクト)が含まれています。
- プロジェクト 2 には、Dataproc Metastore サービスとネットワーク(メタストア プロジェクトとネットワーク プロジェクト)が含まれます。
2 つのプロジェクト:
- プロジェクト 1 には Dataproc クラスタが含まれています。
- プロジェクト 2 には、Dataproc Metastore サービスとネットワーク(メタストア プロジェクトとネットワーク プロジェクト)が含まれます。
2 つのプロジェクト:
- プロジェクト 1 には、Dataproc クラスタと Dataproc Metastore サービス(クラスタ プロジェクトとメタストア プロジェクト)が含まれています。
- プロジェクト 2 にはネットワーク(ネットワーク プロジェクト)が含まれます。
3 つのプロジェクト:
- プロジェクト 1 には Dataproc クラスタ(クラスタ プロジェクト)が含まれています。
- プロジェクト 2 には、Dataproc Metastore サービス(メタストア プロジェクト)が含まれます。
- プロジェクト 3 にはネットワーク(ネットワーク プロジェクト)が含まれます。
次の図は、使用できるプロジェクト構成の概要を示しています。
プロジェクト間の権限
プロジェクト間の権限を設定する前に、構成に必要かどうかを判断します。
プロジェクト間の追加の権限を設定する必要があります
Dataproc クラスタと Dataproc Metastore サービスが別々のプロジェクトにある場合。
Dataproc Metastore サービスとネットワークが別々のプロジェクトにある場合。
プロジェクト間の権限を設定する
クラスタ プロジェクトとメタストア プロジェクトが別々のプロジェクトにある場合、次のロールを付与します。
roles/metastore.user
をクラスタ プロジェクトの Dataproc サービス エージェント アカウント(メタストア プロジェクトの IAM ポリシーに含まれています)に置き換えます。この構成は、Thrift プロトコル プロトコルと gRPC エンドポイント プロトコルの両方に適用されます。
ネットワーク プロジェクトとメタストア プロジェクトが別々のプロジェクトにある場合、次のロールを付与します。
roles/metastore.serviceAgent
を、メタストア プロジェクトのサービス エージェント(ネットワーク プロジェクトの IAM ポリシーに含まれる)に置き換えます。この構成は、Thrift エンドポイント プロトコルにのみ適用されます。
Console
プロジェクト番号を確認するには:
[IAM と管理] の [設定] タブに移動します。
ページの上部にあるプロジェクト リストで、Dataproc クラスタの作成に使用するプロジェクトを選択します。
プロジェクト番号を書き留めます。
権限を構成します。
[IAM] タブに移動します。
ページの上部にあるプロジェクト リストで、メタストア プロジェクトを選択します。
[Add(追加)] をクリックします。
[新しいメンバー] 項目にサービス アカウントを入力します。
[ロール] メニューから、[Dataproc Metastore] > [Dataproc Metastore 閲覧者] の順に選択します。
[Add(追加)] をクリックします。
前の手順を完了したら、Dataproc Metastore サービスに接続された Dataproc クラスタを作成できます。これを行うには、Dataproc クラスタのネットワークまたはサブネットワークの構成が Dataproc Metastore のネットワークまたはサブネットワークと一致する必要があります。
例:
gcloud metastore services create SERVICE \ --network=projects/HOST_PROJECT/global/networks/NETWORK_ID