Este documento lista as cotas e os limites do sistema que se aplicam ao Cloud Composer.
- As cotas especificam a quantidade de um recurso compartilhado e contável que pode ser usado. As cotas são definidas por Google Cloud serviços, como o Cloud Composer.
- Os limites do sistema são valores fixos que não podem ser alterados.
Google Cloud usa cotas para garantir a imparcialidade e reduzir picos no uso e na disponibilidade de recursos. Uma cota restringe quanto de um Google Cloud recurso o Google Cloud projeto pode usar. As cotas se aplicam a vários tipos de recursos, incluindo hardware, software e componentes de rede. Por exemplo, as cotas podem restringir o número de chamadas de API para um serviço, o número de balanceadores de carga usados simultaneamente pelo projeto ou o número de projetos que podem ser criados. As cotas protegem a comunidade de usuários doGoogle Cloud , impedindo a sobrecarga de serviços. As cotas também ajudam você a gerenciar seus próprios recursos Google Cloud .
O sistema de cotas do Cloud faz o seguinte:
- Monitora o consumo de Google Cloud produtos e serviços
- Restringe o consumo desses recursos.
- Fornece um meio de solicitar mudanças no valor da cota
Na maioria dos casos, quando você tenta consumir mais de um recurso do que a cota permite, o sistema bloqueia o acesso ao recurso e a tarefa que você está tentando executar falha.
As cotas geralmente se aplicam ao projeto do nível Google Cloud. O uso de um recurso em um projeto não afeta a cota disponível em outro. Em um projeto do Google Cloud, as cotas são compartilhadas entre todos os aplicativos e endereços IP.
Para ajustar a maioria das cotas, use o console do Google Cloud. Para mais informações, consulte Solicitar um ajuste de cota.
Também há limites de sistema para os recursos do Cloud Composer. Não é possível alterar os limites.
Cotas do Cloud Composer
As cotas desta seção se aplicam apenas à API Cloud Composer e às ferramentas que usam a API Cloud Composer:
- Interface do Cloud Composer no console do Google Cloud
- Comandos
gcloud composer
egcloud beta composer
- API REST do Cloud Composer
- API RPC do Cloud Composer
- Terraform, para operações com ambientes do Cloud Composer
As cotas desta seção não se aplicam a nenhum serviço usado nos DAGs do Airflow. Esses serviços usam as próprias cotas.
O Cloud Composer tem as seguintes cotas de API:
Nome da cota | Limite |
---|---|
Solicitações de leitura por projeto | 1.000 unidades de cota por minuto |
Solicitações de gravação por projeto | 25.000 unidades de cota por dia |
Solicitações de gravação por projeto | 1.500 unidades de cota por minuto |
Salvar solicitações de snapshot por projeto | 5.000 unidades de cota por dia |
Salvar solicitações de snapshot por projeto | 250 unidades de cota por minuto |
Salvar solicitações de snapshot por projeto e ambiente | 2.600 unidades de cota por dia |
Carregar solicitações de snapshot por projeto | 2.500 unidades de cota por dia |
Carregar solicitações de snapshot por projeto | 150 por minuto |
Carregar solicitações de snapshot por projeto e ambiente | 700 unidades de cota por dia |
As chamadas da API Cloud Composer têm os seguintes custos, em unidades de cota:
Operação | Custo em unidades de cota | Tipo de solicitação |
---|---|---|
Todas as operações | 1 | Ler |
environments.create | 100 | Gravação |
environments.patch | 100 | Gravação |
environments.delete | 100 | Gravação |
environments.databaseFailover | 100 | Gravação |
environments.restartWebServer | 100 | Gravação |
environments.checkUpgrade | 100 | Gravação |
environments.executeAirflowCommand | 25 | Gravação |
environments.stopAirflowCommand | 25 | Gravação |
environments.saveSnapshot | 50 | Salvar snapshot |
environments.loadSnapshot | 50 | Carregar snapshot |
Exemplos de cálculo de cota
Uma solicitação
environments.create
consome 100 unidades de cota das cotas de gravação.Há duas cotas para solicitações de gravação:
- Solicitações de gravação por projeto por dia
- Solicitações de gravação por projeto e minuto
Essa operação consome 100 unidades de cota de cada cota.
Se você executar uma solicitação
environments.restartWebServer
depois, outras 100 unidades de cota serão consumidas das mesmas cotas, porqueenvironments.restartWebServer
compartilha cotas com a solicitaçãoenvironments.create
.Uma solicitação
environments.saveSnapshot
consome 50 unidades de cota de três cotas:- Salvar solicitações de snapshot por projeto e dia
- Salvar solicitações de snapshot por projeto por minuto
- Salvar solicitações de snapshots por projeto, ambiente e dia
Essas três cotas limitam o número máximo de solicitações de
environments.saveSnapshot
. Cada um faz isso de uma maneira diferente.O limite de cota de Solicitações de salvamento de snapshots por projeto por dia é de 2.500 unidades de cota. É possível executar até 50 solicitações
environments.saveSnapshot
no projeto todos os dias.O limite de cota de solicitar salvamento de snapshots por projeto por minuto é de 150 unidades de cota. Em um minuto, você pode executar apenas até três solicitações
environments.saveSnapshot
no seu projeto.Por fim, o limite de cota de solicitar salvamento de snapshots por projeto, ambiente e dia é de 750 unidades. É possível executar até 15 solicitações
environments.saveSnapshot
por dia para um único ambiente. Se todas as unidades de cota forem consumidas em um ambiente específico, ainda será possível executar solicitaçõesenvironments.saveSnapshot
para outros ambientes no projeto.
Cotas para outros serviços
O Cloud Composer usa outros serviços Google Cloud . Esses serviços têm cotas de nível de projeto, que são aplicadas quando você usa o Cloud Composer.
Por exemplo, as cotas do Cloud Storage se aplicam a todos os buckets associados a ambientes no seu projeto. Como outro exemplo, os clusters do ambiente usam o Google Kubernetes Engine, portanto, as cotas do GKE se aplicam a todos os clusters associados a ambientes no seu projeto.
Cotas de serviços usados pelo Cloud Composer
Os serviços a seguir são usados pelo Cloud Composer. Esses serviços têm os próprios limites de cota:
- Cotas do Cloud Deployment Manager
- Quotas do Google Kubernetes Engine
- Cotas do Compute Engine
- Quotas do Cloud Storage
- Cotas do Pub/Sub
- Cotas do Cloud Logging
- Cotas do Cloud Monitoring
- Cotas do Cloud Build (se aplicam a ambientes que usam pacotes PyPI personalizados)
- Cotas do Artifact Registry
- Cotas do Identity and Access Management
- Cotas de nuvem privada virtual (não se aplica a ambientes que usam o Private Service Connect)
- Cotas do Resource Manager
- Cotas do Diretório de serviços
Cotas para serviços opcionais
É possível usar operadores do Airflow com serviços Google Cloud . Qualquer serviço usado em um DAG está sujeito às cotas desse serviço.