マネージド I/O は、BigQuery の次の機能をサポートしています。
- 動的テーブルの作成
- 動的デスティネーション
- 読み取りの場合、コネクタは BigQuery Storage Read API を使用します。
書き込みの場合、コネクタは次の BigQuery メソッドを使用します。
- ソースが無制限の場合、コネクタは Exactly-Once モードで BigQuery Storage Write API を使用して BigQuery に直接書き込みを行います。
- ソースが境界付きの場合、コネクタは BigQuery ファイル読み込みを使用します。
要件
Apache Beam SDK for Java バージョン 2.61.0 以降が必要です。
構成
構成の読み取りと書き込み | データ型 | 説明 |
---|---|---|
table |
文字列 | 読み取りまたは書き込みを行う BigQuery テーブル。"PROJECT.DATASET.TABLE" の形式にします。例:
"my_project.dataset1.table1" 。 |
kms_key |
文字列 | 書き込み時に BigQuery テーブルを暗号化するか、読み取り中に作成された一時テーブルを暗号化するために、Cloud Key Management Service(Cloud KMS)鍵を指定します。 |
構成を読み取る | データ型 | 説明 |
fields |
文字列のリスト | テーブルから読み取る列のリスト。このパラメータを使用すると、テーブルに多数の列がある場合に効率的に読み取ることができます。 |
query |
文字列 | 読み取る SQL クエリ。指定されている場合、コネクタは BigQuery でクエリを実行し、クエリ結果を読み取ります。 |
row_restriction |
文字列 | サーバー側でデータをフィルタリングする述語。例:
"age > 18" 。 |
構成を書き込む | データ型 | 説明 |
triggering_frequency |
integer | 無制限のソースの場合は、ファイル書き込みがトリガーされる頻度(秒単位)を指定します。 |
読み取りの場合は、table
または query
を指定する必要があります。書き込みの場合は、table
を指定する必要があります。
詳細については次のトピックをご覧ください。