管理数据访问审核日志费用
Bigtable 通常用于大型、大容量工作负载。因此,如果您不对日志量进行管理,Bigtable 会生成海量 DATA_READ 和 DATA_WRITE 日志,导致日志存储费用大大超出预期。如果您使用数据访问审核日志记录,则应执行相应步骤来管理日志量。
如果您遵循 Bigtable 身份验证的最佳做法,大多数数据访问审核日志活动由服务账号生成。应用使用服务账号来进行身份验证并对 Google Cloud 服务(如 Bigtable)进行 API 调用。如需减少日志量,管理服务账号日志是最重要的步骤。您可能还需要使用其他条件限制日志。
您可以通过以下方式为 Bigtable 启用数据访问审核日志记录:
- 使用 Google Cloud 控制台
- 使用 Cloud Logging API
启用审核日志记录后,请执行以下步骤来限制日志量。
确定服务账号
首先,确定不需要日志的服务账号。 无用且不应记录的服务账号,取决于您的 来获取使用服务账号的服务账号列表 Cloud Bigtable API (Data API) 权限,您可以搜索 IAM 政策。您还可以在 Google Cloud 控制台的 IAM 权限 页面上的主账号标签页中查看这些权限。
设置日志限制
接下来,设置日志限制。您可以通过以下两种方法限制服务账号日志,从而管理 Bigtable 日志量。您可以使用审核配置豁免服务账号,也可以使用日志排除过滤条件排除服务账号日志。对于每种方法,您可以使用 Cloud Logging API 或 Google Cloud 控制台。
使用审核配置豁免服务账号
推荐的方法是使用审核配置来豁免服务账号,因为这样可以在一开始就防止生成特定日志。有关详细说明,请参阅以下内容:
使用排除项过滤条件排除服务账号
借助排除项过滤条件,您可以指定不提取到日志存储桶的日志。如果使用此方法,日志会在创建后被舍弃,因此它们仍会对处理数据的 Bigtable 服务组件造成处理负载。鉴于此负载,我们建议您改用审核配置。如需详细了解如何使用 Google Cloud 控制台和 API 设置过滤条件,请参阅创建接收器。
估算数据访问审核日志费用
由于 Bigtable 通常用于大型、高容量工作负载,因此可能会生成大量日志。在您之前 为 Bigtable 启用数据访问审核日志记录,您应估算并 了解 Cloud Audit Logs 提取和存储费用 审核日志记录每月产生的费用。
数据访问审核日志记录费用与您选择每月记录的 Bigtable 请求数量直接相关。下表显示了根据每秒平均请求数和存储日志的时间长度可以预计的 Cloud Audit Logs 费用的粗略估计值:假设您要记录所有数据请求。如需详细了解这些估算值的计算方式,请参阅计算费用。
平均每秒请求数 | 日志保留时间 | 每月大概费用 |
---|---|---|
1000 | 30 | $1197 |
1000 | 90 | $1246 |
1 万 | 30 | $12195 |
1 万 | 90 | $12684 |
10 万 | 30 | $122177 |
10 万 | 90 | $124621 |
计算费用
先进行以下假设:
- 平均一个月的秒数约为 2628000。
- 平均审核大小约为 1 kb。
- 您不需要为每月注入的前 50 GiB 审核日志付费,超过此限额后,您需要支付 $0.50/GiB。
- 存储免费 30 天;之后,您需要为存储支付 $0.01/GiB。
本页面介绍的方法根据所有流量提供粗略估算值。在生产环境中,建议您限制服务账号日志记录。
计算每月日志量
首先,估算您的流量平均一个月内生成的平均日志量。
- 收集您的应用在一个月内发送到 Bigtable 的平均每秒请求数。
- 如果您使用客户端指标,则可以使用这些指标来确定上个月的平均每秒查询次数 (QPS)。
- 如果您希望在 Google Cloud 控制台中使用实例的 Monitoring 页面,请通过该页面确定上个月每秒读取请求数和写入请求数的平均值,然后将这两个值加在一起。
- 将每秒请求数乘以 2628000 得出平均每月请求数。
- 将该数字除以 10e6 或 1000000。结果是您可能每月生成的月估算日志量(以 GB 为单位)。
- 将每月日志量(以 GB 为单位)乘以 0.93,即可得出大致的每月日志量 (GiB)。
计算注入费用
- 从您计算的 GiB 每月日志量中减去 50 GiB。前 50 GiB 免费。
- 将余数乘以 $0.50 即可得出每月注入估算费用。
计算存储费用
- 如果您打算让日志在 30 天后过期,则存储费用为 $0.00。
- 如果您将日志存储超过 30 天,则存储费用可通过将每月日志量乘以 $0.01 来估算。这些费用会在第一个月后开始产生。
详细示例
每秒 5000 个请求,日志保留 90 天
在本示例中,假设您的平均每秒请求数为 5000 个,并且计划将日志保留 90 天。按照本页面上的步骤,您可以计算以下估算值:
- 将 5000 乘以 2628000 得出每月 13140000000 个请求。
- 将 13140000000 除以 10e6 得出每月日志量约为 13140 GB。
- 将该数字转换为 GiB,方法是将其乘以 .93 得出 12220。
- 从每月日志量中减去 50 GiB 得出 12170 GiB。
- 乘以 $0.50 得出注入费用为 $6085。
- 日志存在的第一个月的存储费用为 $0。
- 第二个月的日志存储费用为 12170 乘以 $0.01,即约为 $122。
- 在第二个月之后的每个月,每月存储费用是该数字的两倍,即 $244。
- 第二个月之后,数据访问审核日志记录估算费用约为每月 $6329。
用等式形式表示,如下所示:(((((5000 rps * 2628000 sec)/1000000) * .93) - 50 GiB) * $0.50) + $122 = $6207。
在本示例中,每月数据访问日志记录费用约为 $6329/月。