本文档列出了适用于 Dataform 的配额和系统限制。
- 配额用于指定您可以使用的可计数共享资源的数量。配额由 Dataform 等服务定义。 Google Cloud
- 系统限制是无法更改的固定值。
Google Cloud 使用配额来帮助确保公平性并减少资源使用和可用性的激增。配额用于限制您的 Google Cloud 项目可使用的Google Cloud 资源的数量。配额适用于一系列资源类型,包括硬件、软件和网络组件。例如,配额可以限制对某项服务的 API 调用次数、您的项目并发使用的负载均衡器数量或者您可以创建的项目数量。配额可以防止服务过载,从而保护Google Cloud 用户社区。配额还可帮助您管理自己的 Google Cloud 资源。
Cloud 配额系统执行以下操作:
- 监控 Google Cloud 产品和服务的消耗情况
- 限制这些资源的消耗量
- 提供请求更改配额值的方法
在大多数情况下,当您尝试消耗的资源超出其配额允许的范围时,系统会阻止对资源的访问,并且您尝试执行的任务会失败。
配额通常在 Google Cloud 项目级层应用。您在一个项目中使用资源不会影响您在另一个项目中的可用配额。在 Google Cloud 项目中,配额在所有应用和 IP 地址间共享。
Dataform 资源也有系统限制。系统限制不能更改。
配额补充
系统会全天定期补充每日配额,以反映这些配额在限制速率方面的意图。系统还会间歇性刷新,以避免在配额用完时出现长时间中断。通常情况下,系统每过几分钟就会提供更多配额,而不是每天在全局范围内补充一次配额。
申请增加配额
如需增加或减少大多数配额,请使用 Google Cloud 控制台。如需了解详情,请参阅申请更高的配额。
配额用量上限
如需了解如何通过指定比默认值小的配额来限制特定资源的用量,请参阅为用量设置上限。
所需权限
要在 Google Cloud 控制台中查看和更新 Dataform 配额,您需要具有与任何 Google Cloud配额相同的权限。如需了解详情,请参阅配额权限。
问题排查
如需了解如何排查与 Dataform 配额和限制相关的错误,请参阅问题排查。
Dataform 配额
Dataform 具有以下 API 配额:
配额 | 限制 |
---|---|
每个区域中每个项目的请求总数 | 每分钟 6000 次/项目/区域 |
每个区域中每个项目的编译请求数 | 120 次/分钟/项目/区域 |
每个区域中每个项目的文件访问请求数 | 120 次/分钟/项目/区域 |
每个区域中每个项目的软件包安装请求数 | 120 次/分钟/项目/区域 |
每个项目每个区域的工作流调用请求数 | 每个项目/区域每分钟 60 次 |
每次执行的工作流操作 | 5000 |
Dataform 使用的服务的配额
Dataform 使用其他 Google Cloud 服务。这些服务具有项目级配额,在您使用 Dataform 时会应用这些配额。
Dataform 使用以下 Google Cloud 各有配额限制的服务:
Dataform 编译资源限制
Dataform 对编译资源实施以下用量限制:
用量限制 | 值 |
---|---|
每个代码库编译的操作数上限 | 5000 |
编译后的图中每个操作的依赖项数上限 | 50 |
操作的已编译图的总序列化数据大小上限 | 20 MB |
NPM 依赖项的大小上限 | 200 MB |
CMEK 加密代码库的大小上限 | 512 MB |
CMEK 加密代码库中工作区的大小上限 | 512 MB |
此外,Dataform 会对编译期间的 CPU 和内存用量施加限制。如果您在编译代码时超出这些限制,编译将会失败,并且 Dataform 会抛出编译错误。
如需估算代码库的编译资源用量,请参阅估算代码库的编译资源用量。
您的代码库可能会因以下原因而超出使用量上限:
- 代码库代码中存在无限循环 bug。
- 代码库代码中存在内存泄露 bug。
- 代码库大小较大,大约超过 1, 000 个 SQL 工作流节点。
- 大量并发查询。
如需详细了解 Dataform 中的代码库大小,请参阅代码库大小概览。