Cloud Composer 1 | Cloud Composer 2 | Cloud Composer 3
A execução de um aplicativo essencial para os negócios no Cloud Composer exige que várias partes tenham responsabilidades diferentes. Embora não seja uma lista completa, este documento lista as responsabilidades do Google e do cliente.
Responsabilidades do Google
Proteção e correções nos componentes e na infraestrutura subjacente do ambiente do Cloud Composer, incluindo cluster do Google Kubernetes Engine, banco de dados do Cloud SQL (que hospeda o banco de dados do Airflow), Pub/Sub, Artifact Registry e outros elementos do ambiente. Isso inclui o upgrade automático da infraestrutura subjacente, incluindo o cluster do GKE e a instância do Cloud SQL de um ambiente.
Proteção do acesso a ambientes do Cloud Composer por meio da incorporação do controle de acesso fornecido pelo IAM, criptografando dados em repouso por padrão, oferecendo criptografia de armazenamento gerenciada pelo cliente, criptografando dados em trânsito.
Fornecer integrações do Google Cloud para o Identity and Access Management, o Cloud Audit Logs e o Cloud Key Management Service.
Restringir e registrar o acesso administrativo do Google aos clusters de clientes para fins de suporte contratual com a Transparência no acesso e a Aprovação de acesso.
Publicar informações sobre alterações incompatíveis com versões anteriores entre Versões do Cloud Composer e Airflow no Notas de lançamento do Cloud Composer.
Como manter a documentação do Cloud Composer atualizada:
Fornecer uma descrição de todas as funcionalidades fornecidas pelo Cloud Composer
Fornecer instruções de solução de problemas que ajudam a manter os ambientes em um estado íntegro.
Publicar informações sobre problemas conhecidos com soluções alternativas (se houver existem).
Como resolver incidentes de segurança críticos relacionados ao Cloud Composer ambientes e imagens do Airflow fornecidas pelo Cloud Composer (excluindo pacotes Python instalados pelo cliente), fornecendo novos do ambiente que abordam os incidentes.
Dependendo do plano de suporte do cliente, a solução de problemas de integridade do ambiente do Cloud Composer.
Manter e expandir a funcionalidade do Provedor Terraform do Cloud Composer.
Colaborar com a comunidade do Apache Airflow para manter e desenvolver Operadores do Google Airflow.
Solucionar problemas e, se possível, corrigir problemas nas funcionalidades principais do Airflow.
Responsabilidades do cliente
como fazer upgrade para novas versões do Cloud Composer e do Airflow para manter suporte para o produto e resolver problemas de segurança O serviço do Cloud Composer publica que resolva os problemas.
manutenção do código dos DAGs para que ele seja compatível com a versão usada do Airflow.
Mantenha a configuração do cluster do GKE do ambiente intacta, incluindo o recurso de upgrade automático.
Mantenha as permissões adequadas no IAM para a conta de serviço do ambiente. Particularmente, manter as permissões exigidas pelo Agente do Cloud Composer e os conta de serviço do ambiente. Manutenção permissão necessária para a chave CMEK usada no Cloud Composer a criptografia do ambiente de nuvem e fazer a rotação deles de acordo com suas necessidades.
Mantenha as permissões adequadas no IAM para o bucket do ambiente e o repositório do Artifact Registry, onde as imagens de componentes do Composer são armazenadas.
Como manter as permissões adequadas do usuário final no IAM e no Airflow Configuração do controle de acesso da interface.
Para manter o banco de dados do Airflow abaixo de 16 GB, use o DAG de manutenção.
Resolva todos os problemas de análise de DAG antes de abrir casos de suporte para o Cloud Customer Care.
Ajustar os parâmetros do ambiente do Cloud Composer (como CPU e memória para componentes do Airflow) e configurações do Airflow para atender desempenho e as expectativas de carga dos ambientes do Cloud Composer usando Guia de otimização do Cloud Composer e guia de escalonamento do ambiente.
Evite remover as permissões necessárias pelo agente do Cloud Composer e pelas contas de serviço do ambiente. A remoção dessas permissões pode levar a falhas nas operações de gerenciamento ou em DAGs e tarefas.
Manter todos os serviços e APIs exigidos pelo Cloud Composer sempre ativado. Essas dependências precisam ter cotas configuradas em níveis necessário para o Cloud Composer.
Manter repositórios do Artifact Registry que hospedam imagens de contêiner usadas por ambientes do Cloud Composer.
Seguir as recomendações e práticas recomendadas para a implementação de DAGs.
Diagnosticar falhas de DAG e tarefas usando instruções para solução de problemas do programador, solução de problemas do DAG e solução de problemas do acionador.
Evite instalar ou executar outros componentes no cluster do GKE do ambiente que interfiram nos componentes do Cloud Composer e impeçam o funcionamento correto deles.