Neste documento, descrevemos como configurar a exportação automática de mensagens do Pub/Sub Lite para o Pub/Sub.
Veja alguns cenários em que você pode usar esse recurso:
- Interoperabilidade entre cargas de trabalho que usam uma combinação de Pub/Sub Lite e Pub/Sub.
- Migre uma carga de trabalho do Pub/Sub Lite para o Pub/Sub.
- Usar recursos avançados do Pub/Sub, como assinaturas de push e filtragem, de um aplicativo atual baseado no Pub/Sub Lite.
- Consolide vários pipelines de dados.
Visão geral
Para exportar mensagens do Pub/Sub Lite para o Pub/Sub, crie um tipo especial de assinatura chamado assinatura de exportação. Uma assinatura de exportação recebe mensagens de um tópico do Lite, as converte em mensagens do Pub/Sub e as envia para um tópico de destino do Pub/Sub.
Um tópico do Lite pode ter uma combinação de assinaturas de exportação e padrão. Os dois tipos de assinatura são idênticos em termos de uso da cota e capacidade de reserva. Uma assinatura de exportação consome a capacidade da assinatura do Lite e é cobrada pela capacidade de publicação do Pub/Sub.
Uma assinatura de exportação conecta um tópico do Lite a exatamente um tópico do Pub/Sub. No entanto, um tópico do Lite pode ter várias assinaturas de exportação que se conectam a diferentes tópicos do Pub/Sub (arquitetura de fan-out). Também é possível exportar de vários tópicos do Lite para o mesmo tópico do Pub/Sub (arquitetura fan-in).
Autenticação
Uma assinatura de exportação acessa recursos do Pub/Sub Lite e do Pub/Sub. Para criar uma assinatura de exportação, você precisa das seguintes permissões:
pubsublite.subscriptions.create
. Os seguintes papéis predefinidos contêm essa permissão:roles/pubsublite.admin
roles/pubsublite.editor
Consulte Controle de acesso do Pub/Sub Lite.
pubsub.topics.get
. Os seguintes papéis predefinidos contêm essa permissão:roles/pubsub.admin
roles/pubsub.editor
roles/pubsub.viewer
Consulte Controle de acesso do Pub/Sub.
Agentes de serviço
Uma assinatura de exportação é publicada em um tópico do Pub/Sub em seu nome. Para isso, ele usa uma conta de serviço gerenciada pelo Google.
Quando você cria a primeira assinatura de exportação em um projeto, um agente de serviço do Pub/Sub Lite gerenciado pelo Google é criado automaticamente. Se você
criar outras assinaturas de exportação no mesmo projeto, elas usarão o mesmo
agente de serviço. O agente de serviço tem o seguinte esquema de nomenclatura: service-<your_project_number>@gcp-sa-pubsublite.iam.gserviceaccount.com
.
O agente de serviço é criado com permissões para publicar em todos
os tópicos do Pub/Sub e do Pub/Sub Lite no mesmo
projeto da assinatura de exportação. Se o tópico do Pub/Sub de destino
estiver em um projeto diferente da assinatura de exportação, será necessário conceder
mais permissões ao agente de serviço adicionando o papel Editor do Pub/Sub
(roles/pubsub.publisher
). É possível conceder permissões para um projeto inteiro ou
um tópico individual. Recomendamos conceder permissões no nível do tópico,
seguindo o princípio de privilégio mínimo.
Para mais informações, consulte
Como controlar o acesso por meio do console do Google Cloud.
Também é possível usar o
comando gcloud projects add-iam-policy-binding
para adicionar papéis do IAM:
gcloud pubsub topics add-iam-policy-binding TOPIC_NAME \ --member=serviceAccount:service-PROJECT_NUMBER@gcp-sa-pubsublite.iam.gserviceaccount.com --role=roles/pubsub.publisher
Substitua:
- TOPIC_NAME: o nome do tópico do Pub/Sub de destino para adicionar a vinculação de política do IAM.
- PROJECT_NUMBER: o número do projeto da assinatura de exportação do Pub/Sub Lite.
Criar uma assinatura de exportação
É possível criar uma assinatura de exportação do Lite com o console do Google Cloud, a Google Cloud CLI ou a API Pub/Sub Lite.
Uma assinatura de exportação do Lite precisa estar no mesmo projeto e local que o tópico do Lite a que está anexada. Para criar o tópico do Lite, consulte Criar e gerenciar tópicos do Lite.
Se você anexar uma assinatura de exportação a um tópico do Lite, verifique se todas as mensagens publicadas no tópico do Lite são compatíveis com o Pub/Sub. Para mais informações, consulte Compatibilidade de mensagens.
Depois de criada, não será possível alterar uma assinatura de exportação para uma assinatura padrão ou vice-versa.
Console
Acesse a página Assinaturas do Lite.
Clique em Criar assinatura do Lite.
Insira um ID de assinatura do Lite.
Selecione um tópico do Lite para receber mensagens.
Selecione Entregar mensagens imediatamente ou Entregar mensagens depois do armazenamento.
Escolha um tipo de Deslocamento inicial.
Selecione Exportar para o tópico do Pub/Sub.
Na lista Tópico de destino, escolha um tópico do Pub/Sub para receber as mensagens exportadas do Lite.
Opcional. Especifique um tópico de mensagens inativas.
- Marque a caixa de seleção Ativar mensagens inativas.
- Selecione um tópico do Lite para usar como de mensagens inativas ou clique em Criar tópico do Lite para criar um novo tópico de mensagens inativas. O tópico de mensagens inativas precisa estar no mesmo local (zona ou região) e projeto que a assinatura de exportação.
Clique em Criar.
gcloud
Para criar uma assinatura de exportação, use o
comando
gcloud pubsub lite-subscriptions create
:
gcloud pubsub lite-subscriptions create SUBSCRIPTION_ID \ --location=LOCATION \ --topic=TOPIC_ID \ --export-pubsub-topic=PUBSUB_TOPIC_NAME \ --export-dead-letter-topic=DEAD_LETTER_TOPIC_ID \ --export-desired-state=DESIRED_STATE
Substitua:
- SUBSCRIPTION_ID: o ID da assinatura do Lite a ser criada.
- LOCATION: o local da assinatura do Lite.
- TOPIC_ID: o ID do tópico do Lite a ser anexado à assinatura do Lite.
- PUBSUB_TOPIC_NAME: o nome do tópico do Pub/Sub de destino da
exportação. Especifique o nome completo se o tópico estiver em um projeto diferente:
projects/my-project-id/topics/my-topic-id
. - DEAD_LETTER_TOPIC_ID: opcional. O ID de um tópico do Lite a ser usado como tópico de mensagens inativas. O tópico de mensagens inativas precisa estar no mesmo local (zona ou região) e projeto que a assinatura de exportação.
- DESIRED_STATE: opcional. O estado inicial da assinatura.
Os seguintes valores são aceitos:
active
: a assinatura exporta mensagens do Lite para o Pub/Sub. (padrão).paused
: a exportação de mensagens do Lite está suspensa.
Se a solicitação for bem-sucedida, a linha de comando exibirá uma confirmação:
Created [SUBSCRIPTION_ID].
Protocolo
Para criar uma assinatura de exportação do Lite, envie uma solicitação POST
como esta:
POST https://REGION-pubsublite.googleapis.com/v1/admin/projects/PROJECT_NUMBER/locations/LOCATION/subscriptions/SUBSCRIPTION_ID Authorization: Bearer $(gcloud auth print-access-token)
Substitua:
- REGION: a região em que a assinatura do Lite será armazenada.
- PROJECT_NUMBER: o número do projeto em que a assinatura do Lite será criada.
- LOCATION: o nome de um local compatível com o Pub/Sub Lite.
- SUBSCRIPTION_ID: o ID da assinatura do Lite.
Especifique os campos a seguir no corpo da solicitação:
{ "topic": "projects/PROJECT_NUMBER/locations/LOCATION/topics/TOPIC_ID", "deliveryConfig": { "deliveryRequirement": "DELIVERY_REQUIREMENT", }, "exportConfig": { "desiredState": "DESIRED_STATE", "deadLetterTopic": "projects/PROJECT_NUMBER/locations/LOCATION/topics/DEAD_LETTER_TOPIC_ID", "pubsubConfig": { "topic": "PUBSUB_TOPIC_NAME" } } }
Substitua:
- DELIVERY_REQUIREMENT: o requisito de envio,
DELIVER_AFTER_STORED
ouDELIVER_IMMEDIATELY
. - DESIRED_STATE: o estado inicial da assinatura. Os
valores a seguir são aceitos:
ACTIVE
: a assinatura exporta mensagens do Lite para o Pub/Sub.PAUSED
: a exportação de mensagens do Lite está suspensa.
- DEAD_LETTER_TOPIC_ID: o ID de um tópico atual do Lite a ser usado como um tópico de mensagens inativas. O tópico precisa estar no mesmo local (zona ou região) e projeto que a própria assinatura de exportação.
- PUBSUB_TOPIC_NAME: o nome do tópico do Pub/Sub para o qual
a exportação será feita. Exemplo de formato:
projects/my-project-id/topics/my-topic-id
.
Se a solicitação for bem-sucedida, a resposta será a assinatura do Lite no formato JSON:
{ "deliveryConfig": { "deliveryRequirement": "DELIVERY_REQUIREMENT", }, "exportConfig": { "desiredState": "DESIRED_STATE", "deadLetterTopic": "projects/PROJECT_NUMBER/locations/LOCATION/topics/DEAD_LETTER_TOPIC_ID", "pubsubConfig": { "topic": "PUBSUB_TOPIC_NAME" }, "name": "projects/PROJECT_NUMBER/locations/LOCATION/subscriptions/SUBSCRIPTION_ID", "topic": "projects/PROJECT_NUMBER/locations/LOCATION/topics/TOPIC_ID", }
Go
Antes de tentar esse exemplo, siga as instruções de configuração do Go em Guia de início rápido: como usar bibliotecas de cliente. Para mais informações, consulte a documentação de referência da API Pub/Sub Go.
Java
Antes de executar esta amostra, siga as instruções de configuração do Java em Bibliotecas de cliente do Pub/Sub Lite.
Python
Antes de executar esta amostra, siga as instruções de configuração do Python em Bibliotecas de cliente do Pub/Sub Lite.
Atualizar uma assinatura de exportação
É possível atualizar as assinaturas do Lite com o console do Google Cloud, a Google Cloud CLI ou a API Pub/Sub Lite. Pode levar até 30 segundos para que as novas configurações sejam aplicadas.
Console
Acesse a página Assinaturas do Lite.
Clique no ID da assinatura do Lite.
Na página Detalhes da assinatura do Lite, clique em Editar.
gCloud
Para atualizar uma assinatura do Lite, use o
comando
gcloud pubsub lite-subscriptions update
:
gcloud pubsub lite-subscriptions update SUBSCRIPTION_ID \ --location=LOCATION \ --delivery-requirement=DELIVERY_REQUIREMENT \ --export-pubsub-topic=PUBSUB_TOPIC_NAME \ --export-dead-letter-topic=DEAD_LETTER_TOPIC_ID \ --export-desired-state=DESIRED_STATE
Substitua:
- SUBSCRIPTION_ID: o ID da assinatura do Lite
- LOCATION: o local da assinatura do Lite.
- DELIVERY_REQUIREMENT: opcional. O requisito de envio,
deliver-after-stored
oudeliver-immediately
. - PUBSUB_TOPIC_NAME: opcional. O nome do tópico do Pub/Sub para onde exportar. Especifique o nome completo se o tópico estiver em um projeto diferente:
projects/my-project-id/topics/my-topic-id
. - DEAD_LETTER_TOPIC_ID: o ID de um tópico atual do Lite a ser usado como um tópico de mensagens inativas. O tópico precisa estar no mesmo local (zona ou região) e projeto que a própria assinatura de exportação.
- DESIRED_STATE: opcional. O estado desejado da assinatura.
Os seguintes valores são aceitos:
active
: a assinatura exporta mensagens do Lite para o Pub/Sub. (padrão).paused
: a exportação de mensagens do Lite está suspensa.
Se a solicitação for bem-sucedida, a linha de comando exibirá a assinatura do Lite:
Updated subscription [SUBSCRIPTION_ID]. deliveryConfig: deliveryRequirement: DELIVERY_REQUIREMENT exportConfig: currentState: DESIRED_STATE deadLetterTopic: projects/PROJECT_NUMBER/locations/LOCATION/topics/DEAD_LETTER_TOPIC_ID desiredState: DESIRED_STATE pubsubConfig: topic: PUBSUB_TOPIC_NAME name: projects/PROJECT_NUMBER/locations/LOCATION/subscriptions/SUBSCRIPTION_ID topic: projects/PROJECT_NUMBER/locations/LOCATION/topics/TOPIC_ID
Protocolo
Para atualizar uma assinatura Lite, envie uma solicitação PATCH
como esta:
PATCH https://REGION-pubsublite.googleapis.com/v1/admin/projects/PROJECT_NUMBER/locations/LOCATION/subscriptions/SUBSCRIPTION_ID?updateMask=deliveryConfig.deliveryRequirement,exportConfig Authorization: Bearer $(gcloud auth print-access-token)
Substitua:
- REGION: a região em que a assinatura do Lite foi criada.
- PROJECT_NUMBER: o número do projeto em que a assinatura do Lite foi criada.
- LOCATION: o local onde a assinatura do Lite foi criada.
- SUBSCRIPTION_ID: o ID da assinatura do Lite.
Especifique os campos a seguir no corpo da solicitação:
{ "deliveryConfig": { "deliveryRequirement": "DELIVERY_REQUIREMENT", }, "exportConfig": { "desiredState": "DESIRED_STATE", "deadLetterTopic": "projects/PROJECT_NUMBER/locations/LOCATION/topics/DEAD_LETTER_TOPIC_ID", "pubsubConfig": { "topic": "PUBSUB_TOPIC_NAME" } } }
Substitua:
- DELIVERY_REQUIREMENT: o requisito de envio,
DELIVER_AFTER_STORED
ouDELIVER_IMMEDIATELY
. - DESIRED_STATE: o estado desejado da assinatura. Os
valores a seguir são aceitos:
ACTIVE
: a assinatura exporta mensagens do Lite para o Pub/Sub.PAUSED
: a exportação de mensagens do Lite está suspensa.
- DEAD_LETTER_TOPIC_ID: o ID de um tópico atual do Lite a ser usado como um tópico de mensagens inativas. O tópico precisa estar no mesmo local (zona ou região) e projeto que a própria assinatura de exportação.
- PUBSUB_TOPIC_NAME: o nome do tópico do Pub/Sub de destino. Exemplo de formato:
projects/my-project-id/topics/my-topic-id
.
Se a solicitação for bem-sucedida, a resposta será a assinatura do Lite no formato JSON:
{ "deliveryConfig": { "deliveryRequirement": "DELIVERY_REQUIREMENT", }, "exportConfig": { "desiredState": "DESIRED_STATE", "deadLetterTopic": "projects/PROJECT_NUMBER/locations/LOCATION/topics/DEAD_LETTER_TOPIC_ID", "pubsubConfig": { "topic": "PUBSUB_TOPIC_NAME" } }, "name": "projects/PROJECT_NUMBER/locations/LOCATION/subscriptions/SUBSCRIPTION_ID", "topic": "projects/PROJECT_NUMBER/locations/LOCATION/topics/TOPIC_ID", }
Pausar ou iniciar uma assinatura de exportação
As assinaturas de exportação têm uma configuração chamada estado pretendido, que tem um destes dois valores:
- Ativa: a assinatura exporta mensagens do Lite para o Pub/Sub.
- Pausada: a exportação de mensagens do Lite foi suspensa.
Para alterar o estado desejado no console do Google Cloud:
Acesse a página Assinaturas do Lite.
Clique no ID da assinatura do Lite.
Na página Detalhes da assinatura do Lite, clique em Pausar ou Iniciar.
Também é possível atualizar o estado desejado usando a Google Cloud CLI ou a API Pub/Sub Lite. Consulte Atualizar uma assinatura de exportação.
Práticas recomendadas
Esta seção descreve algumas práticas recomendadas ao usar assinaturas de exportação.
Reservas
Recomendamos usar uma assinatura de exportação com uma reserva, em vez de configurar explicitamente a capacidade de processamento da assinatura.
Compatibilidade de mensagens
Se uma mensagem do Pub/Sub Lite não for compatível com o Pub/Sub, a assinatura de exportação não vai publicá-la no Pub/Sub. Em vez disso, ele coloca a mensagem no tópico de mensagens inativas, caso tenha sido atribuído. Se nenhum tópico de mensagens inativas for atribuído, as mensagens incompatíveis serão simplesmente descartadas.
Ao publicar mensagens no tópico do Lite, esteja ciente dos seguintes problemas de compatibilidade:
Chaves. As chaves do Pub/Sub Lite têm o tipo
bytes
, enquanto as chaves de ordenação do Pub/Sub são do tipostring
. Para ser compatível, a chave do Pub/Sub Lite precisa conter apenas caracteres UTF-8.Atributos. Os atributos da mensagem têm os seguintes requisitos:
- Para serem compatíveis, todos os atributos de mensagens do Pub/Sub Lite precisam ter um único valor. O Pub/Sub Lite aceita atributos de mensagem com vários valores, mas o Pub/Sub aceita apenas atributos de valor único.
- Os atributos de mensagens não podem exceder os limites de mensagens do Pub/Sub, incluindo o máximo de atributos por mensagem e o tamanho máximo de chave e valor por atributo.
Tópico de mensagens inativas
Para reter e processar mensagens incompatíveis, recomendamos o uso de um tópico de mensagens inativas. É possível atribuir um tópico de mensagens inativas ao criar a assinatura de exportação ou atualizar uma assinatura de exportação existente para usar um tópico de mensagens inativas. Se a assinatura receber uma mensagem incompatível com o Pub/Sub, ela vai ser publicada no tópico de mensagens inativas.
Um tópico de mensagens inativas é um tópico normal do Pub/Sub Lite. Ele precisa estar no mesmo local e projeto que a assinatura de exportação, além de ser um tópico diferente do tópico de origem.
Normalmente, um tópico de mensagens inativas tem baixa utilização de capacidade. Portanto, recomendamos atribuir uma reserva ao tópico de mensagens inativas, em vez de alocar capacidade para o tópico.
Erros de entrega
Uma assinatura de exportação tenta entregar todas as mensagens compatíveis para o
tópico do Pub/Sub de destino. Se a entrega da mensagem falhar, a assinatura de exportação será suspensa. Para encontrar a categoria de erro, confira a métrica subscription/export_status
. Os valores a seguir indicam um erro:
PERMISSION_DENIED
: permissões insuficientes para exportar mensagens.NOT_FOUND
: um ou mais recursos não foram encontrados. Por exemplo, o tópico de destino não existe.
Para mais informações sobre solução de problemas, consulte Resolver problemas de assinaturas de exportação.
Depois de resolver o erro, a assinatura de exportação será reiniciada automaticamente devido a novas tentativas periódicas.
Preços
Você será cobrado pelos recursos do Pub/Sub Lite e do Pub/Sub que a assinatura de exportação consome. Especificamente, você é cobrado pela capacidade de processamento e armazenamento da assinatura alocada na assinatura do Pub/Sub Lite, que é configurada para o tópico do Pub/Sub Lite. Também há cobranças pela publicação no tópico de destino do Pub/Sub. Consulte os preços do Pub/Sub.
Não há cobranças extras pelo uso do recurso de exportação e não há diferença de preço entre as assinaturas de exportação do Pub/Sub Lite e as assinaturas padrão.
Resolver problemas de exportação de assinaturas
Esta seção descreve algumas dicas de solução de problemas para exportação de assinaturas.
A assinatura de exportação está pausada
Se a assinatura estiver pausada, nenhuma mensagem será exportada.
Para detectar esse problema:
Console do Google Cloud: confira os detalhes da assinatura. Se a assinatura estiver pausada, o Estado pretendido e o Estado atual serão
Paused
.Métricas: a métrica
subscription/export_status
éPAUSED
.
Para resolver esse problema, inicie a assinatura.
O tópico de destino ou tópico de mensagens inativas foi excluído
Se você excluir o tópico do Pub/Sub anexado a uma assinatura de exportação ou excluir o tópico de mensagens inativas, ocorrerá um erro.
Para detectar esse problema:
Console do Google Cloud: confira os detalhes da assinatura. Se o tópico foi excluído, o Estado atual será
Not found
.Métricas: a métrica
subscription/export_status
. Se o tópico foi excluído, o valor seráNOT_FOUND
.
Para resolver esse problema, verifique o tópico do Pub/Sub de destino e o tópico de mensagens inativas (se algum tiver sido configurado).
Se o Pub/Sub de destino foi excluído, recrie o tópico com o mesmo nome. A assinatura de exportação retoma a publicação, supondo que as permissões não tenham mudado.
Se o tópico de mensagens inativas tiver sido excluído, crie um novo tópico de mensagens inativas e atualize a assinatura de exportação para fazer referência a ele.
Mensagens incompatíveis
Se as mensagens forem incompatíveis com o Pub/Sub, elas não serão exportadas.
Para detectar esse problema:
- Métricas: a métrica
subscription/unexportable_message_count
mostra o número de mensagens incompatíveis que não puderam ser exportadas.
Para resolver esse problema, use um tópico de mensagens inativas para reter as mensagens incompatíveis. Examine as mensagens para determinar a causa. Em seguida, transforme e republique-as, se necessário. Consulte Compatibilidade de mensagens.
A exportação está limitada
Para detectar esse problema:
- Métricas: a métrica
subscription/flow_control_status
mostra um motivo do controle de fluxo deNO_CLIENT_TOKENS
, que indica que o limite por partição de bytes ou mensagens pendentes foi atingido. Até que o problema seja resolvido, o backlog vai aumentar para assinaturas de exportação associadas.
Esse erro tem várias causas possíveis. A maioria das causas possíveis ocorre no back-end, mas verifique o seguinte:
- Publique mensagens do Lite compartilhando a mesma chave a uma taxa inferior a 1 MiB/s por chave. A assinatura de exportação grava chaves de mensagens do Lite como chaves de ordenação do Pub/Sub, e o Pub/Sub tem um limite de 1 MiB/s em cada chave de pedido. Exceder esse limite pode causar uma limitação.
O usuário não está autorizado a realizar esta ação
O agente de serviço do Pub/Sub Lite precisa ter permissões para publicar no tópico do Pub/Sub de destino.
Para detectar esse problema:
Console do Google Cloud: confira os detalhes da assinatura. Se houver erros de permissão, o Estado atual será
Permission denied
.Métricas: a métrica
subscription/export_status
éPERMISSON_DENIED
.
Por exemplo, as seguintes situações podem causar esse erro:
- O agente de serviço do Pub/Sub Lite não tem a permissão ou o papel correto para publicar mensagens no tópico do Pub/Sub de destino em um projeto diferente.
- O agente de serviço foi removido da política do IAM do projeto pai da assinatura de exportação.
- O agente de serviço do Pub/Sub Lite ainda está sendo configurado. Um agente de serviço é criado automaticamente quando você cria a primeira assinatura de exportação em um projeto. O erro de permissão será resolvido automaticamente em 10 minutos.
Para resolver o problema, verifique se o agente de serviço recebeu a permissão ou o papel correto. Consulte Agentes de serviço.
A seguir
Escolha entre o Pub/Sub ou o Pub/Sub Lite.