使用跳转功能重放和完全清除消息

在 Pub/Sub 中确认消息后,订阅者客户端将无法访问这些消息。此外,订阅者客户端必须处理订阅中的每条消息,即使只需要一部分消息也是如此。

搜索功能允许您批量更改消息的确认状态,从而扩展订阅者功能。例如,您可以重放以前确认的消息或批量完全清除消息。此外,您还可以将跳转与快照结合使用,将一个订阅的确认状态复制到另一个订阅。

如需快速演示这些功能的工作原理,请参阅通过定位快照或时间戳重放 Pub/Sub 中的消息

快照和跳转概览

Pub/Sub 快照提供持久、一致且可靠的订阅消息确认 (ack) 状态的时间点视图。快照会记录创建订阅时所有消息的确认状态。快照会保留创建快照时来源订阅的未确认消息,以及创建快照后发布到主题的任何消息。

快照的生命周期由源订阅的现有积压决定。生命周期等于 7 天减去订阅中最早的未确认消息的存在时间。例如,假设某个订阅有一个积压,其中最早的未确认消息是 1 天以前创建的。快照将在 6 天后过期。此时间轴对于快照提供强有力的至少传送一次保证是必要的。

快照的最长可能生命周期为 7 天。您无法创建将在创建后不到 1 小时内过期的快照。

通过还原功能,您可以还原至订阅的特定快照或时间戳。借助此功能,您可以控制 Pub/Sub 如何从特定时间点或特定快照传送消息。

如需还原至过去某一时间并重放之前已确认的消息,您必须先配置主题的消息保留或配置订阅以保留已确认的消息:

跳转操作的最终一致性

在消息传送保证方面,还原操作会严格一致。这意味着,根据还原条件尚未确认的任何消息均保证在还原操作成功后最终传送。但是,已传送的消息不会立即与跳转操作保持一致。因此,在还原时间戳之前发布的消息或在快照中确认的消息可能会在还原操作之后传送。从某种意义上说,对于跳转操作,消息传送是最终一致的系统;操作可能需要一分钟才能完全生效。

跳转操作的用例

  • 安全地更新订阅者代码。 部署新订阅者代码的一个问题是新的可执行文件可能会错误地确认消息,导致消息丢失。将快照合并到部署过程中,可让您从新订阅者代码中的 Bug 进行恢复。
  • 从意外的订阅者问题中恢复。如果订阅者问题与特定部署事件无关,您可能没有相关快照。在这种情况下,如果您为订阅启用了“保留确认过的消息”,则还原至过去某一时间可让您从错误中恢复。
  • 节省处理时间和费用。对不再相关的大量积压消息执行批量确认。
  • 根据已知数据测试订阅者代码。 在测试订阅者代码的性能和一致性时,每次运行都使用相同的数据会很有用。 快照通过强大的语义实现了数据的一致性。此外,快照还可以应用于给定主题的任何订阅,包括新创建的订阅。

配置消息保留

您可以为主题配置消息保留,并配置其任何订阅以保留已确认的消息。如果您希望消息保留以供重放的时长超过订阅上配置的消息保留时长,则可能需要配置主题消息保留。在这种情况下,主题项目和订阅的项目将根据各自的消息保留设置支付消息存储费用。

如果未配置主题消息保留功能,则当未确认的消息的存在时间超过订阅的 message_retention_duration 属性时,系统会从订阅中删除该消息。另一方面,如果配置了主题消息保留功能,则只有在未确认的消息的存在时间超过主题的和订阅的 message_retention_duration 上限时,系统才会从订阅中删除该消息。

配置主题消息保留

默认情况下,Pub/Sub 主题会在附加到该主题的所有订阅确认消息后立即舍弃消息。为主题配置消息保留功能可为您提供更大的灵活性,允许附加到该主题的任何订阅向后跳转,并重放之前确认的消息,直到该主题的 message_retention_duration 为止。主题消息保留功能还允许订阅重放您在创建订阅之前发布的消息。

即使消息已被所有附加的订阅确认,主题也可以保留最多 31 天(可由主题的 message_retention_duration 属性配置)。如果主题的 message_retention_duration 大于订阅的 message_retention_duration,则仅当消息的存在时间超过主题的 message_retention_duration 时,Pub/Sub 才会舍弃消息。

如果启用了主题消息保留功能,则主题保留的消息的存储费用将计入主题的项目。

控制台

如需创建启用了消息保留功能的主题,请按以下步骤操作:

  1. 在 Google Cloud 控制台中,转到 Pub/Sub 主题页面。

    转到“主题”页面

  2. 点击创建主题

  3. 主题 ID 字段中,输入主题 ID。

  4. 启用设置消息保留时长

    其他选项保留为默认设置。

  5. 使用消息保留时长下拉菜单选择保留消息的天数、小时数和分钟数。

  6. 点击创建主题以保存主题。

如需更新主题的消息保留设置,请执行以下操作:

  1. Pub/Sub 主题页面中选择您的主题。

    转到“主题”页面

  2. 点击主题详情页面顶部的修改

  3. 通过选中或取消选中启用消息保留选项,调整保留时间或者启用或停用消息保留功能。

  4. 点击更新以保存对主题的更改。

gcloud

如需创建消息保留时长为 7 天的主题,请使用以下 gcloud pubsub topics create 命令:

gcloud pubsub topics create TOPIC_ID --message-retention-duration=7d

您可以使用 gcloud pubsub topics update 更新此设置。 您也可以为现有主题启用消息保留功能:

gcloud pubsub topics update TOPIC_ID --message-retention-duration=1d

您还可以使用 update 命令停用主题的消息保留功能:

gcloud pubsub topics update TOPIC_ID --clear-message-retention-duration

配置订阅消息保留

创建订阅后,Pub/Sub 就会开始代表订阅保留消息。默认情况下,Pub/Sub 会在确认消息后立即舍弃该消息。未确认的消息默认保留 7 天(可通过订阅的 message_retention_duration 属性配置)。

通过配置订阅以保留已确认的消息(使用 retain_acked_messages 属性),您可以重放之前由订阅保留且之前确认的消息。您可以将订阅中的消息配置为最长保留 7 天。此配置同时适用于已确认和未确认的消息。但是,如果消息的主题配置的时长超过 7 天,则消息可以在订阅中保留 7 天以上。

如果订阅配置为保留已确认的消息,则订阅所保留的已确认消息的存储费用将计入订阅的项目。

控制台

如需创建启用了保留已确认消息的订阅,请按照以下步骤操作:

  1. 在 Google Cloud 控制台中,转到 Pub/Sub 订阅页面。

    转到“订阅”页面

  2. 点击创建订阅

  3. 订阅 ID 字段中,输入订阅的 ID。

  4. 使用邮件保留时长下拉菜单,选择保留邮件的天数、小时数和分钟数。

  5. 启用保留已确认的消息。其他选项保留为默认设置。

  6. 点击创建订阅以保存订阅。

如需更新订阅的消息保留设置,请执行以下操作:

  1. Pub/Sub 订阅页面选择您的订阅。

    转到“订阅”页面

  2. 点击订阅详情页面顶部的修改

  3. 通过选中或取消选中标记为保留已确认的消息的字段,调整消息保留时长,或者启用或停用保留已确认消息的功能。

  4. 点击更新以保存对订阅的更改。

gcloud

如需创建启用了保留已确认消息的订阅,请使用以下 gcloud pubsub subscriptions create 命令:

gcloud pubsub subscriptions create SUBSCRIPTION_ID
    --retain-acked-messages
    --message-retention-duration=5d

您可以使用 gcloud pubsub subscriptions update 更新此设置。这样,您还可以为现有订阅启用保留已确认消息的功能:

gcloud pubsub subscriptions update SUBSCRIPTION_ID --message-retention-duration=1d

您还可以使用 update 命令停用订阅的已确认消息保留功能:

gcloud pubsub subscriptions update SUBSCRIPTION_ID --no-retain-acked-messages

创建快照

您可以使用控制台、Google API 或 Google Cloud CLI CLI 创建快照。

控制台

如需创建快照,请按以下步骤操作:

  1. 在 Google Cloud 控制台中,转到快照页面。

    转到“快照”页面

  2. 点击创建快照

  3. 选择 Pub/Sub 订阅部分,选择一个订阅。

  4. 对于快照 ID,输入快照的名称。

    如需详细了解如何为 Pub/Sub 资源命名,请参阅主题、订阅、架构或快照命名准则

  5. 点击创建以创建快照。

您还可以在订阅页面中创建概况。

gcloud

如需创建快照,请使用以下 gcloud pubsub snapshots create 命令:

gcloud pubsub snapshots create \
    --project=PROJECT_ID \
    --subscription=SUBSCRIPTION_ID \
    SNAPSHOT_ID

替换以下内容:

  • PROJECT_ID:指定项目的 ID。

  • SUBSCRIPTION_ID:指定订阅的 ID。

  • SNAPSHOT_ID:指定快照的 ID。

跳转至某一时间戳

还原至某个时间会将 Pub/Sub 在该时间之前收到的每条消息标记为已确认,并将此时间之后收到的所有消息标记为未确认。

您可以基于时间戳执行以下类型的跳转操作:

  • 如需完全清除所有邮件,您可以还原至未来的某个时间。

  • 如需重放和重新处理之前确认的消息,请还原至过去的时间。

消息发布时间由 Pub/Sub 服务器生成(请参阅 API 参考文档中的 publishTime)。由于以下原因,这种方法并不精确:

  • Pub/Sub 服务器之间可能存在时钟偏差。

  • Pub/Sub 必须使用发布请求的到达时间而不是源系统中事件的发生时间。

您可以使用控制台、Google API 或 Google Cloud CLI CLI 跳转至时间戳。在查找订阅的时间戳之前,请确保已在订阅上启用消息保留功能。

控制台

如需还原至某个时间戳,请按以下步骤操作:

  1. 在 Google Cloud 控制台中,前往订阅页面。

    前往“订阅”

  2. 点击启用了消息保留功能的订阅。

  3. 在订阅详情页面中,点击重放消息

  4. 对于跳转,点击移至上一个时间点

  5. 选择相应的日期和时间,然后点击跳转

gcloud

如需还原至某个时间戳,请使用以下 gcloud pubsub subscriptions seek 命令:

gcloud pubsub subscriptions seek SUBSCRIPTION_ID \
    --time=TIME \

替换以下内容:

  • TIME:您要执行搜索操作的时间。
  • SUBSCRIPTION_ID:订阅的 ID。

如需详细了解支持的时间格式,请参阅 gcloud topic DateTimes

跳转至快照

如需重放未确认的消息,您可以使用快照来还原至该主题的任何订阅。

与还原至时间点不同,您无需执行任何特殊订阅配置即可还原至快照。您只需提前创建快照。例如,您可以在部署新订阅者代码时创建快照,以防您需要从意外或错误的确认中恢复。

如果订阅中的积压时间太久远,并且生成的快照将在 1 小时内过期,则搜寻操作将失败。

您可以使用控制台、Google API 或 Google Cloud CLI CLI 跳转至快照。

控制台

如需还原至某个快照,请按以下步骤操作:

  1. 在 Google Cloud 控制台中,前往订阅页面。

    前往“订阅”

  2. 点击相应订阅。

  3. 在订阅详情页面中,点击重放消息

  4. 对于跳转,点击到快照

  5. 选择相应的快照,然后点击跳转

gcloud

如需还原至某个快照,请使用以下 gcloud pubsub subscriptions seek 命令:

gcloud pubsub subscriptions seek SUBSCRIPTION_ID \
    --snapshot=SNAPSHOT_ID

替换以下内容:

  • SNAPSHOT_ID:快照的 ID。快照的主题必须与订阅的主题相同。
  • SUBSCRIPTION_ID:订阅的 ID。

使用滤镜搜索

您可以重放带有过滤条件的订阅传来的消息。如果您使用带有过滤条件的订阅来查找时间戳,Pub/Sub 服务只会重新传送与过滤条件匹配的消息。

带有过滤条件的订阅快照包含以下消息:

  • 早于快照的所有消息,包括与过滤条件不匹配的消息。
  • 早于快照的未确认消息。

如果您使用包含过滤条件的订阅还原快照,Pub/Sub 服务只会重新传送快照中与还原请求匹配的订阅过滤条件相匹配的消息。

如需详细了解过滤条件,请参阅过滤消息

使用死信主题搜索

如果您希望查找包含0死信主题的订阅消息,Pub/Sub 会将传送尝试设置为 。您通过这些订阅收到的消息中有一个统计传送尝试次数的字段。

如需详细了解死信主题,请参阅转发到死信主题

使用重试政策进行跳转

如果您通过重试政策查找订阅中的消息,Pub/Sub 会重置以下各项之间的延迟:

  1. 确认截止时间即将到期或订阅者发送否定确认。
  2. Pub/Sub 重新发送该消息。

如需详细了解重试政策,请参阅使用重试政策

仅传送一次

如果您要在仅传送一次的订阅中查找消息,Pub/Sub 会重新发送之前确认且符合传送条件的消息。对于在跳转操作之前进行的传送,任何确认都将失败。跳转操作最终一致

如需详细了解重试政策,请参阅“正好传送一次”