安排 Display & Video 360 转移作业

借助适用于 Display & Video 360 的 BigQuery Data Transfer Service 连接器,您可以自动安排和管理 Display & Video 360 报告和配置数据的周期性加载作业。

支持的报告

适用于 Display & Video 360 的 BigQuery Data Transfer Service 支持以下报告选项:

如需了解 Display & Video 360 报告如何转换为 BigQuery 表和视图,请参阅 Display & Video 360 数据转换

Display & Video 360 最多可将数据转移文件保留 60 天。

报告选项 支持
重复频率

每天在首次创建数据转移作业之时(默认值)

您可以配置一天中的具体时间。

刷新时段

过去 2 天

不可配置

回填时长上限

过去 60 天

支持的配置数据

除了报告数据之外,BigQuery Data Transfer Service 还会从 Display & Video 360 转移以下配置数据。系统会从 Display & Video 360 API v3 中检索配置数据。

如需详细了解每种类型的配置数据,请参阅以下链接:

从 Display & Video 360 转移作业中提取数据

当您将数据从 Display & Video 360 转移到 BigQuery 时,系统会将数据加载到按日期分区的 BigQuery 表中。数据加载到的表分区对应于数据源中的日期。如果您在同一日期安排多次转移,BigQuery Data Transfer Service 会使用最新数据覆盖该特定日期的分区。同一天的多个转移作业或正在运行的回填不会导致重复数据,其他日期的分区不受影响。

刷新时段

刷新时段是指发生数据转移时数据转移检索数据的天数。例如,如果刷新时段为三天,并且每天进行转移,则 BigQuery Data Transfer Service 会从过去三天内的源表中检索所有数据。在此示例中,当每天进行转移时,BigQuery Data Transfer Service 会使用当前日期的源表数据副本创建新的 BigQuery 目标表分区,然后自动触发回填运行作业,以使用过去两天的源表数据来更新 BigQuery 目标表分区。自动触发的回填运行作业会覆盖或以增量方式更新 BigQuery 目标表,具体取决于 BigQuery Data Transfer Service 连接器是否支持增量更新。

首次运行数据转移作业时,数据转移作业会检索刷新时段内可用的所有源数据。例如,如果刷新时段为三天,并且您首次运行数据传输作业,则 BigQuery Data Transfer Service 会检索三天内的所有源数据。

刷新时段会映射到 TransferConfig.data_refresh_window_days API 字段

如需检索刷新时段之外的数据(例如历史数据),或在出现任何转移中断或缺口时恢复数据,您可以启动或安排回填运行作业

准备工作

在创建 Display & Video 360 数据转移作业之前,请查看以下前提条件和信息。

前提条件

  • 验证您是否已完成启用 BigQuery Data Transfer Service 所需的所有操作。
  • 创建 BigQuery 数据集来存储 Display & Video 360 数据。
  • 确保您拥有 Display & Video 360 合作伙伴 ID广告客户 ID。 合作伙伴 ID 在层次结构中为父级。
  • 确保您拥有从 Display and Video API 访问合作伙伴或广告客户数据的读取权限
  • 确保您的组织有权访问 Display & Video 360 Data Transfer v2 (Display & Video 360 DTv2) 文件。这些文件由 Display & Video 360 团队提交到 Cloud Storage 存储桶。如何请求访问 Display & Video 360 DTv2 文件取决于您与 Display & Video 360 有无直接的合约关系。无论有无合约关系,您都可能需要支付额外费用。

    • 如果您与 Display & Video 360 有合约关系,请与 Display & Video 360 支持团队联系,以设置 Display & Video 360 DTv2 文件。
    • 如果您与 Display & Video 360 没有合约关系,请与您的代理机构联系,以获取 Display & Video 360 DTv2 文件的访问权限。
    • 完成此步骤后,您将收到以下任一 Cloud Storage 存储桶名称,具体取决于您的设置是针对合作伙伴还是广告客户:
      • gs://dcdt_-dbm_partnerPARTNER_ID
      • gs://dcdt_-dbm_advertiserADVERTISER_ID
  • 如需为 Pub/Sub 设置转移作业运行通知,您必须拥有 pubsub.topics.setIamPolicy 权限。如需了解详情,请参阅 BigQuery Data Transfer Service 运行通知

查找您的 Display & Video 360 ID

如需检索您的 Display & Video 360 ID,请进入 Google Cloud 控制台中的 Cloud Storage 存储桶页面,然后检查 Display & Video 360 数据转移 Cloud Storage 存储桶中的文件。Display & Video 360 ID 用于匹配提供的 Cloud Storage 存储桶中的文件。此 ID 嵌入在文件名中,而不是 Cloud Storage 存储桶名称中。例如:

  • 在名为 dbm_partner123_activity_* 的文件中,ID 为 123
  • 在名为 dbm_advertiser567_activity_* 的文件中,ID 为 567

查找文件名前缀

在某些数情况下,Cloud Storage 存储桶中的文件可能具有自定义的非标准文件名,这些文件名是由 Google Marketing Platform 服务团队为您设置的。例如:

在名为 dbm_partner123456custom_activity_* 的文件中,前缀为 dbm_partner123456custom

如需有关文件名前缀的任何帮助,请与 Display & Video 360 支持团队联系。

设置 Display & Video 360 数据传输

从下列选项中选择一项:

控制台

  1. 前往 Google Cloud 控制台中的“数据转移”页面。

    转到“数据传输”

  2. 点击 创建转移作业

  3. 创建转移作业页面上,执行以下操作:

    • 来源类型部分的来源中,选择 Display & Video 360
    • 转移配置名称部分的显示名称中,输入数据转移作业的名称。转移作业名称可以是任何可让您在需要修改转移作业时识别该转移作业的名称。
  4. 时间表选项部分中,执行以下操作:

    • 选择立即开始在设置的时间开始,然后提供开始日期和运行时间。
    • 重复频率部分,从以下选项中选择数据转移作业的运行频率。如果您选择,请提供世界协调时间 (UTC) 的有效时间。
      • 小时
      • 按需
  5. 目标设置部分的目标数据集菜单中,选择您创建用来存储数据的数据集。

  6. 数据源详细信息部分,执行以下操作:

    • DV360 DTV2 Cloud Storage 存储桶字段中,输入包含 Display & Video 360 DTv2 文件的 Cloud Storage 存储桶。如果您需要设置此存储桶,请与 Display & Video 360 支持团队联系。
    • DV360 合作伙伴/广告客户 ID 字段中,输入合作伙伴 ID广告客户 ID
    • 可选:在通知选项部分中,执行以下操作:
      • 点击切换开关以启用电子邮件通知。启用此选项后,转移作业管理员会在转移作业运行失败时收到电子邮件通知。
      • 点击切换开关以启用 Pub/Sub 通知。在选择 Cloud Pub/Sub 主题部分中,选择主题名称或点击创建主题。此选项用于为您的转移作业配置 Pub/Sub 运行通知
  7. 点击保存

bq

输入 bq mk 命令并提供转移作业创建标志 --transfer_config。以下标志是必需的:

  • --data_source
  • --target_dataset
  • --display_name
  • --params
  bq mk --transfer_config \
  --project_id=PROJECT_ID \
  --target_dataset=DATASET \
  --display_name=NAME \
  --params='PARAMETERS' \
  --data_source=DATA_SOURCE

其中:

  • PROJECT_ID:您的项目 ID。
  • DATASET:数据转移作业配置的目标数据集。
  • NAME:数据转移作业配置的显示名称。转移作业名称可以是任何可让您在需要修改转移作业时识别该转移作业的名称。
  • PARAMETERS:所创建数据转移作业配置的参数(采用 JSON 格式)。例如 --params='{"param":"param_value"}'。对于 Display & Video 360 转移作业,bucketdisplayvideo_id 参数是必需的。file_name_prefix 参数是可选参数,仅用于不常见的自定义文件名。
  • DATA_SOURCE:数据源,displayvideo

例如,以下命令使用 Display & Video 360 ID 123456、Cloud Storage 存储桶 dcdt_-dbm_partner123456 和目标数据集 mydataset 创建名为 My Transfer 的 Display & Video 360 数据转移作业。

该数据转移作业将在默认项目中创建:

  bq mk --transfer_config \
  --target_dataset=mydataset \
  --display_name='My Transfer' \
  --params='{"bucket":"dcdt_-dbm_partner123456","displayvideo_id": "123456","file_name_prefix":"YYY"}' \
  --data_source=displayvideo

运行命令后,您会收到如下消息:

[URL omitted] Please copy and paste the above URL into your web browser and follow the instructions to retrieve an authentication code.

请按照该消息中的说明操作,并将身份验证代码粘贴到命令行中。

API

使用 projects.locations.transferConfigs.create 方法并提供一个 TransferConfig 资源实例。

查询数据

在数据转移到 BigQuery 后,系统会将其写入注入时间分区表。如需了解详情,请参阅分区表简介

我们建议您查询自动生成的视图,而不是直接查询表。但是,如果您要直接查询表,则必须在查询中使用 _PARTITIONTIME 伪列。如需了解详情,请参阅查询分区表