使用 PostgreSQL 数据库 WAL 日志文件

Datastream 使用 PostgreSQL WAL（预写式日志）事务日志来读取 PostgreSQL 数据流。日志存储在数据库服务器上的 WAL 文件中。WAL 日志中的每个记录都代表对数据库中某个表中的实际数据进行的一项更改。

为 PostgreSQL WAL 文件设置配置参数

建议您将以下配置设置应用于 PostgreSQL 数据库：

  • max_slot_wal_keep_size：设置此参数（仅适用于 PostgreSQL 13 及更高版本）可限制复制槽使用的存储空间量。对于长时间运行的事务，这一点尤为重要，在极端情况下，可能会导致 WAL 文件大小占用整个存储空间并导致数据库崩溃。

  • statement_timeout：将此参数设置为所选值，以减少由长时间运行的交易导致的延迟时间。对于不支持 max_slot_wal_keep_size 的数据库，您还可以使用 statement_timeout 作为替代预防措施。

  • wal_sender_timeout：将此参数设置为 0（以停用超时）或设置为大于或等于 10 分钟的值。

如果您计划创建的数据流超过 10 个，或者除了计划的数据流之外，其他资源使用的逻辑复制槽数量也超过 10 个，请务必修改以下参数：

  • max_replication_slots：请根据为数据库设置的复制槽数量（每个数据流需要 1 个复制槽）来增加此参数的值。您只能在服务器启动时设置 max_replication_slots。

  • max_wal_senders：增加此参数的值，使其大于 max_replication_slots 参数的值。您只能在启动服务器时设置 max_wal_senders。

优化 WAL 日志文件

为避免从 PostgreSQL 源复制数据时数据流延迟时间过长以及 WAL 日志文件大小快速增长，请考虑采取以下预防措施：

  • 避免执行大型长时间运行的操作，因为这些操作可能会大幅增加 WAL 文件的大小。
  • 在批量操作期间使用 UNLOGGED 或 TEMPORARY 表。
  • 检查 WAL 配置，并考虑减少检查点频率。如需了解详情，请参阅 WAL 配置
  • 检查是否有大型 DELETE 操作，并考虑将其替换为 TRUNCATE 操作。这样做可以显著减少 WAL 文件数据，但您需要谨慎，因为 Datastream 不会复制 TRUNCATE 操作。

后续步骤