Uma assinatura do Cloud Storage é um tipo de assinatura de exportação que grava mensagens em um bucket do Cloud Storage à medida que são recebidas. Você não precisa configurar um cliente assinante separado. Use o console do Google Cloud, a CLI do Google Cloud, as bibliotecas de cliente ou a API Pub/Sub para criar, atualizar, listar, desconectar ou excluir uma assinatura do Cloud Storage.
Sem o tipo de assinatura do Cloud Storage, você precisa de uma assinatura de pull ou push e de um assinante (como o Dataflow) que leia mensagens e as gravasse em um bucket do Cloud Storage. O overhead de execução de um job do Dataflow não é necessário quando as mensagens não exigem processamento adicional antes de serem armazenadas em um bucket do Cloud Storage. Nesse caso, use uma assinatura do Cloud Storage.
No entanto, um pipeline do Dataflow ainda é recomendado para Sistemas do Pub/Sub em que alguma transformação de dados é necessária antes que eles sejam armazenados em um bucket do Cloud Storage.
Para aprender a transmitir dados do Pub/Sub para Cloud Storage com transformação usando o Dataflow consulte Fazer streaming de mensagens do Pub/Sub usando o Dataflow.
Antes de começar
Antes de ler este documento, confira se você conhece os seguintes tópicos:
Como o Pub/Sub funciona e a termos diferentes do Pub/Sub.
Quais são os diferentes tipos de assinaturas e por que você pode usar uma assinatura do Cloud Storage.
Como o Cloud Storage funciona.
Fluxo de trabalho de assinatura do Cloud Storage
A imagem a seguir mostra o fluxo de trabalho entre uma assinatura do Cloud Storage e o Cloud Storage.
Figura 1. Fluxo de trabalho para uma assinatura do Cloud Storage
Confira uma breve descrição do fluxo de trabalho que faz referência à Figura 1:
O Pub/Sub usa a API Cloud Storage para enviar dados ao bucket do Cloud Storage. Após a conclusão de uma uma operação de gravação, a API vai retornar uma resposta
OK
.As mensagens são enviadas em lotes para o bucket do Cloud Storage. Um único lote corresponde a um objeto armazenado no bucket do Cloud Storage. É possível definir as configurações de lote com base o tamanho do objeto e o tempo decorrido desde sua criação.
O fluxo de trabalho para gravar um objeto em um bucket do Cloud Storage requer duas respostas
OK
. A primeira respostaOK
é enviada quando uma mensagem é gravado com sucesso em um objeto. A segunda respostaOK
é enviada quando que contém a mensagem é finalizado. Uma mensagem só fica visível depois que o objeto do Cloud Storage que o contém foi finalizada.Se houver falhas durante a operação de gravação, a própria mensagem do Pub/Sub será confirmada negativamente. A mensagem é reenviada. Se a operação de gravação da mensagem falhar muitas vezes e você tem um tópico de mensagens mortas configurado na assinatura, a mensagem é movida para o tópico de mensagens inativas.
Propriedades de uma assinatura do Cloud Storage
Ao criar uma assinatura do Cloud Storage, você precisa especificar algumas propriedades adicionais. Essas propriedades incluem propriedades comuns de assinatura, requisitos de nome de arquivo e formato, requisitos de armazenamento e muito mais. Para saber mais sobre essas propriedades, consulte Propriedades da assinatura do Cloud Storage.
Permissões da conta de serviço do Pub/Sub
Para criar uma assinatura do Cloud Storage, a conta de serviço do Pub/Sub precisa ter permissão para gravar no bucket específico do Cloud Storage e ler os metadados dele.
Para mais informações, consulte Atribua papéis do Cloud Storage à conta de serviço do Pub/Sub.
Processar falhas de mensagens
Quando uma mensagem do Pub/Sub não pode ser gravada em um bucket do Cloud Storage, ela não pode ser confirmada. Para encaminhar essas mensagens não entregues, configure um tópico de mensagens inativas na assinatura do Cloud Storage.
Se o Pub/Sub não puder gravar mensagens no Cloud Storage, o Pub/Sub recua a entrega de mensagens de maneira semelhante comportamento de espera por push.
Cotas
As limitações de cota se aplicam à capacidade do assinante do Cloud Storage de cada região. Para informações sobre as cotas de assinaturas do Cloud Storage, consulte os limites de cota de exportação de assinantes em Cotas e limites do Pub/Sub.
Preços
Para informações sobre os preços das assinaturas do Cloud Storage, consulte a página de preços do Pub/Sub.
A seguir
Crie uma assinatura do Cloud Storage.
Conheça as ferramentas de configuração do Pub/Sub: