使用 Dataplex Attribute Store

本文档介绍了如何使用 Dataplex 属性存储。

Dataplex 属性存储是一个可扩展的基础架构, 可用于在关联资源上指定与政策相关的行为。 Dataplex 管理员可以使用属性存储区,通过将数据与属性相关联来定义应如何处理特定数据。

利用属性存储的主要好处是,您可以向多个用户添加 属性添加到对象(例如列)中。属性存储区会合并与对象关联的所有属性的行为,并将其作为底层资源上的单一政策进行呈现。

您可以为已发布的数据集设置属性。已发布的数据集引用 Dataplex 根据在存储桶中发现的表创建的数据集 资源。

支持以下政策行为:

  • 资源规范:指定对表等资源的访问权限。
  • 列规范:指定对 BigQuery 表中列的访问权限。

您可以使用属性存储区定义一个称为分类法的属性层次结构。在分类法中,子属性会继承父属性层次结构中的规范。父级和子级的规范会合并到一个统一的列表中,并传播到资源。

您可以使用 Dataplex 属性存储执行以下操作:

  • 创建分类。
  • 创建属性并以层次结构进行整理。
  • 将一个或多个属性与表相关联。
  • 将一个或多个属性与列相关联。

术语

本文档中使用了以下术语:

属性分类

数据分类法是一种属性层次结构。在分类法中,父节点中的属性允许位于其下方的属性(子属性)继承父属性的行为规范,并将其添加到自己的行为规范中。

例如: 如果名为 PII 的属性具有资源规范 group-a@company.com PII 的名为 Social Security numbers 的子属性具有一个资源 规范 group-b@company.com,则应用于 与属性Social Security numbers相关联的政策 分别为 group-a@company.comgroup-b@company.com

定义属性时,您可以选择它是父属性还是子属性。定义子属性时,您必须指定其父属性。

列规范

列的行为规范。它用于指定对列拥有读取权限的用户或群组。如果您将包含列规范的属性与表的列相关联,系统会向该列添加 BigQuery 列政策标记

资源规范

用户或群组访问资源(表)的权限。 如果将属性与资源规范相关联,则 Dataplex 将 IAM 角色传播给指定用户,以访问关联的表 属性。

准备工作

限制

Dataplex 会将列规范政策作为 BigQuery 政策标记传播。BigQuery 限制每个列只能有一个政策标记。如果列上已有政策标记,Dataplex 会在管理标签页的治理日志中抛出错误。

配额

以下是适用于 Dataplex 属性存储区的配额和限制:

限制 默认
一个区域中的分类数量上限 100
一个区域中所有分类中的属性数量上限 10000
可与资源(表)关联的属性数上限 50
可以与列相关联的属性数上限 100
属性分类中的每个数据属性树的最大深度 4

所需的角色和权限

如需获取使用 Dataplex 属性存储区所需的权限, 请让管理员授予您 项目的以下 IAM 角色:

如需详细了解如何授予角色,请参阅管理对项目、文件夹和组织的访问权限

这些预定义角色包含使用 Dataplex 属性存储所需的权限。如需查看所需的确切权限,请展开所需权限部分:

所需权限

如需使用 Dataplex 属性存储区,您需要拥有以下权限:

  • 管理分类和属性:
    • dataplex.datataxonomies.*
    • dataplex.dataattributes.* (except dataplex.dataattributes.configureResourceAccess and dataplex.dataattributes.configureDataAccess)
  • 查看与资源和属性关联的绑定:
    • dataplex.datataxonomies.get
    • dataplex.datataxonomies.list
    • dataplex.dataattributes.get
    • dataplex.dataattributes.list
    • dataplex.dataattributebindings.get
    • dataplex.dataattributebindings.list
  • 在项目中创建和管理绑定资源: dataplex.dataattributebindings.*
  • 管理资源和数据访问规范:
    • dataplex.datataxonomies.configureResourceAccess
    • dataplex.datataxonomies.configureDataAccess

您也可以使用自定义角色或其他预定义角色来获取这些权限。

实际使用示例

假设有一家名为 ACME 的公司,拥有三种数据:

  • 敏感的 Red 数据。
  • Green 受限但敏感性较低的数据。
  • 未分类的数据。

ACME 的 Dataplex 管理员创建了以下一组 属性:

  • 属性:Red

    • 列规范:具有读取权限的 secrets_team@acme
    • 资源规范:具有读取权限的 secrets_team@acmetenured_employees@acme
  • 属性:Green

    • 列规范:具有读取权限的 full_time_employees@acme
    • 资源规范:具有修改权限的 full_time_employees@acme

此图片包含“红色”和“绿色”属性的列和资源规范。

RedGreen 属性用于控制资源(表)的访问行为 具体取决于与表及其列关联的属性。

假设某个表包含以下列:

  • ID
  • 邮政编码
  • 名称
  • 地址
  • $Value

用例 1:将同一属性与表和列相关联

此图片显示了与表和列名称关联的 Red 属性。

如果将属性 Red 与表及其列 Name 相关联, 然后,Dataplex 会传播以下政策:

  • secrets_team@acmetenured_employees@acme 中的员工可以读取该表、查看其元数据并对其进行查询。
  • 只有 secrets_team@acme 中的员工才能查询 Name 列,因为它是 受列规范进一步保护。

用例 2:合并属性

请考虑以下关联:

  • 将属性 RedGreen 与表相关联。
  • 将属性 RedGreen 与“名称”列相关联。
  • 将属性 Red 与列 $Value 相关联。

此图片显示了属性“Red”和“Green”与表格和“Name”列相关联,并且属性“Red”与“$value”列相关联

在这种情况下,Dataplex 会传播以下政策:

  • secrets_team@acmetenured_employees@acmefull_time_employees@acme 中的员工可以访问该表。这是因为 Dataplex 会合并特性的资源规范 RedGreen
  • secrets_team@acmefull_time_employees@acme 中的员工都可以访问“姓名”列。这是因为 Dataplex 会合并属性 RedGreen 的列规范。
  • 只有 secrets_team@acme 中的员工可以查询 $Value 列。

用例 3:整理层次结构中的属性

您可以通过指定属性的子类型,在层次结构中整理属性。请考虑以下属性集:

父级属性 1
属性:PII

  • 列规范:secrets_team@acme
  • 资源规范:secrets_team@acmetenured_employees@acme

PII 的子属性
属性:Email

  • 列规范:email_comm@acme
  • 资源规范:email_comm@acme

父级属性 2
属性:Financial

  • 列规范:full_time_employees@acme
  • 资源规范:full_time_employees@acme

此图片显示了属性层次结构的示例。

请考虑以下关联:

  • 将属性 EmailFinancial 与表相关联。
  • 将属性 EmailFinancial 与“名称”列相关联。
  • 将属性 PII$Value 列相关联。

此图片展示了层次结构中的属性如何与表和列相关联。

在这种情况下,Dataplex 会传播以下政策:

  • secrets_team@acmetenured_employees@acme的员工 full_time_employees@acmeemail_comm@acme 可以访问该表。这是因为 Dataplex 会合并属性 FinancialEmail 的资源规范,而属性 Email 会继承属性 PII 的规范。
  • secrets_team@acmeemail_comm@acme的员工 full_time_employees@acme 可以访问名称列。这是因为 Dataplex 会将 属性 FinancialEmail
  • 只有 secrets_team@acme 中的员工可以查询 $Value 列。

设置属性

如需创建属性,您必须先创建分类,然后再创建父级和子级数据属性。

创建数据特性分类

  1. 在 Google Cloud 控制台中,前往 Dataplex 属性存储页面。

    前往属性商店

  2. 点击创建分类

  3. 输入分类名称ID说明

  4. 请选择区域。

  5. 点击提交

    新分类会显示在数据分类页面上。

创建父级属性

  1. 在 Google Cloud 控制台中,前往 Dataplex 属性存储页面。

    前往属性商店

  2. 数据分类页面上,点击要分类的分类 创建父属性。

  3. 分类详情页面上,点击添加数据属性

  4. 选择创建父级数据特性

  5. 为父级属性输入名称、ID 和说明。

  6. 可选:设置属性规范。

    1. 设置资源规范:

      1. 点击资源管理权限
      2. 点击添加
      3. 新主账号字段中,输入需要访问资源的个人或群组的电子邮件地址。
      4. 选择所需的角色,然后点击保存
      5. 点击保存
    2. 设置列规范:

      1. 点击对应的管理权限
      2. 点击添加
      3. 新主账号字段中,输入需要访问该列的用户或群组的电子邮件地址。
      4. 选择所需的角色,然后点击保存
      5. 点击保存
  7. 点击创建

创建子属性

  1. 在 Google Cloud 控制台中,前往 Dataplex 属性存储页面。

    前往属性商店

  2. Data Taxonomies(数据分类)页面上,点击您要创建子属性的分类。

  3. 分类详情页面上,点击添加数据属性

  4. 选择创建子级数据属性

  5. 为要创建的子属性选择父级数据属性

  6. 为子属性输入名称、ID 和说明。

  7. 可选:设置属性规范。

    1. 设置资源规范:

      1. 点击资源管理权限
      2. 点击添加
      3. 新主账号字段中,输入需要访问资源的个人或群组的电子邮件地址。
      4. 选择所需的角色,然后点击保存
      5. 点击保存
    2. 设置列规范:

      1. 点击对应的管理权限
      2. 点击添加
      3. 新主账号字段中,输入需要访问该列的用户或群组的电子邮件地址。
      4. 选择所需的角色,然后点击保存
      5. 点击保存
  8. 点击创建

更新属性存储资源

更新分类详情

  1. 在 Google Cloud 控制台中,前往 Dataplex 的属性存储区页面。

    前往属性商店

  2. 点击要更新的分类。

  3. 点击修改

  4. 根据需要修改分类名称及其说明。

  5. 点击提交

更新属性详情

  1. 在 Google Cloud 控制台中,前往 Dataplex 属性存储页面。

    前往属性商店

  2. 点击包含要更新的属性的分类。

  3. 点击要更新的属性。

  4. 要更新属性名称和说明,请点击修改

    1. 如果您要更新父属性,可以选择更新属性 与子属性关联,反之亦然。选择相应选项 。
    2. 根据需要修改属性名称及其说明。
    3. 点击更新
  5. 如需更新该属性的资源规范,请点击资源规范对应的

    1. 如需添加新的主账号,请按以下步骤操作:

      1. 点击添加
      2. 新主账号字段中,输入需要访问资源的个人或群组的电子邮件地址。
      3. 选择所需的角色
      4. 点击保存
    2. 如需更新现有负责人,请按以下步骤操作:

      1. 点击您创建的主账号对应的 要更新的广告系列。
      2. 选择所需的角色
      3. 点击保存
    3. 如需移除现有负责人,请按以下步骤操作:

      1. 选择要移除的主账号。
      2. 点击移除
  6. 如需更新该属性的列规范,请点击列规范对应的

    1. 如需添加新的负责人,请按以下步骤操作:

      1. 点击添加
      2. 新的主账号字段中,输入某位用户的电子邮件地址 或需要访问该列的群组。
      3. 选择所需的角色
      4. 点击保存
    2. 如需更新现有负责人,请按以下步骤操作:

      1. 点击您创建的主账号对应的 要更新的广告系列。
      2. 选择所需的角色
      3. 点击保存
    3. 如需移除现有负责人,请按以下步骤操作:

      1. 选择要移除的主账号。
      2. 点击移除

将属性与资源相关联

将属性与表相关联

  1. 在 Google Cloud 控制台中,前往 Dataplex 属性存储页面。

    前往属性商店

  2. 点击包含该属性的类目。

  3. 点击要与表关联的属性。

  4. 点击资源标签页。

  5. 点击添加资源

  6. 从列表中选择一个表格。

  7. 点击选择

将属性与列相关联

  1. 在 Google Cloud 控制台中,前往 Dataplex 的属性存储区页面。

    前往属性存储区

  2. 搜索并选择要将属性与列相关联的表。

  3. 点击架构和列标记标签页。

  4. 政策标记中,点击要与属性相关联的列对应的

  5. 选择包含该属性的分类。

  6. 选择属性。

  7. 点击附加

后续步骤