Usar o CMEK com o Dataproc sem servidor

Quando você usa o Dataproc Serverless, os dados são armazenados em discos na infraestrutura sem servidor e em um bucket de preparo do Cloud Storage. Esses dados são criptografados com uma chave de criptografia de dados (DEK, na sigla em inglês) e uma chave de criptografia de chaves (KEK, na sigla em inglês) geradas pelo Google. É possível usar uma chave de criptografia gerenciada pelo cliente (CMEK) para criar, usar e revogar a chave de criptografia de chaves (KEK). O Google mantém o controle sobre a chave de criptografia de dados (DEK). Para mais informações sobre chaves de criptografia de dados do Google, consulte Criptografia padrão em repouso.

Usar CMEK

Siga as etapas desta seção para usar a CMEK para criptografar dados que o Dataproc Serverless grava no disco permanente e no bucket de preparação do Dataproc.

A partir de 23 de abril de 2024:

• O Dataproc sem servidor também usa a CMEK para criptografar argumentos de job em lote. O papel IAM Criptografador/Descriptografador do Cloud KMS CryptoKey precisa ser atribuído à conta de serviço do agente de serviço do Dataproc para ativar esse comportamento. Se o papel de agente de serviço do Dataproc não estiver anexado à conta de serviço do agente de serviço do Dataproc, adicione a permissão serviceusage.services.use a um papel personalizado anexado à conta de serviço do agente de serviço do Dataproc . A API Cloud KMS precisa estar ativada no projeto que executa recursos sem servidor do Dataproc.
• batches.list retorna um campo unreachable que lista todos os lotes com argumentos de trabalho que não puderam ser descriptografados. É possível emitir solicitações batches.get para receber mais informações sobre lotes inacessíveis.
• A chave (CMEK) precisa estar no mesmo local que o recurso criptografado. Por exemplo, a CMEK usada para criptografar um lote executado na região us-central1 também precisa estar localizada na região us-central1.

1. Crie uma chave usando o Cloud Key Management Service (Cloud KMS).

2. Copie o nome do recurso.

   

   O nome do recurso é criado da seguinte maneira:

   projects/PROJECT_ID/locations/REGION/keyRings/KEY_RING_NAME/cryptoKeys/KEY_NAME
   

3. Ative as contas de serviço do Compute Engine, do Dataproc e do agente de serviço do Cloud Storage para usar sua chave:

   1. Consulte Proteger recursos usando chaves do Cloud KMS > Papéis obrigatórios para atribuir a função Criptografador/Descriptografador de CryptoKey do Cloud KMS à conta de serviço do agente de serviço do Compute Engine. Se essa conta de serviço não estiver listada na página do IAM no console do Google Cloud, clique em Incluir concessões de papel fornecidas pelo Google para listá-la.

   2. Atribua o papel Criptografador/Descriptografador do CryptoKey do Cloud KMS à conta de serviço do agente de serviço do Dataproc. Use Google Cloud CLI para atribuir a função:

       gcloud projects add-iam-policy-binding KMS_PROJECT_ID \
       --member serviceAccount:[e-mail] \
       --role roles/cloudkms.cryptoKeyEncrypterDecrypter
      

      Substitua:

      KMS_PROJECT_ID: o ID do projeto do Google Cloud que executa o Cloud KMS. Esse projeto também pode ser o que executa os recursos do Dataproc.

      PROJECT_NUMBER: o número do projeto (não o ID do projeto) do seu projeto do Google Cloud que executa recursos do Dataproc.

   3. Ative a API Cloud KMS no projeto que executa recursos sem servidor do Dataproc.

   4. Se o papel de agente de serviço do Dataproc não estiver anexado à conta de serviço do agente de serviço do Dataproc, adicione a permissão serviceusage.services.use ao papel personalizado anexado à conta de serviço do agente de serviço do Dataproc. Se o papel do agente de serviço do Dataproc estiver anexado à conta de serviço do agente de serviço do Dataproc, pule esta etapa.

   5. Siga as etapas para adicionar a chave ao bucket.

4. Ao enviar uma carga de trabalho em lote:

   1. Especifique sua chave no parâmetro kmsKey Batch.
   2. Especifique o nome do bucket do Cloud Storage no parâmetro Batch stagingBucket.