Cloud Key Management Service(Cloud KMS)에서 관리하는 키를 사용하여 애플리케이션 레이어에서 Kubernetes 보안 비밀을 암호화하는 방법을 알아보세요. 이 기능은 Cloud KMS의 기능을 사용하므로 키 순환 및 봉투 암호화를 잘 알고 있어야 합니다.
Google Cloud 콘솔에서 이 태스크에 대한 단계별 안내를 직접 수행하려면 둘러보기를 클릭합니다.
개요
기본적으로 Google Kubernetes Engine(GKE)은 보안 비밀을 포함하여 비활성 상태로 저장된 고객 콘텐츠를 암호화합니다. 사용자가 추가 작업을 수행하지 않아도 GKE가 이러한 기본 암호화를 처리하고 관리합니다.
애플리케이션 레이어 보안 비밀 암호화는 etcd에 저장되는 보안 비밀과 같이 민감한 정보를 위한 추가 보안 레이어를 제공합니다. Cloud KMS로 관리되는 키를 사용하여 애플리케이션 레이어에서 저장 데이터를 암호화합니다. 이 암호화는 etcd의 오프라인 사본에 액세스하는 공격자로부터 보호합니다.
애플리케이션 레이어 보안 비밀 암호화를 사용하려면 먼저 Cloud KMS 키를 만들고 이 키에 대한 액세스 권한을 GKE 서비스 계정에 부여해야 합니다. Cloud KMS에서 지원되는 보호 수준을 포함하는 키를 사용할 수 있습니다.
지연 시간을 줄이고 리소스가 여러 장애 도메인에 분산된 서비스에 의존하는 경우를 방지하려면 키가 클러스터와 동일한 위치에 있어야 합니다. 키를 만든 후 사용할 키를 지정하여 새로운 클러스터 또는 기존 클러스터에서 이 기능을 사용 설정할 수 있습니다. 이 기능을 사용 설정하면 GKE는 암호화 키를 사용하여 모든 새 보안 비밀과 기존 보안 비밀을 암호화합니다.
봉투 암호화
Kubernetes는 KMS 공급자를 사용하여 보안 비밀의 봉투 암호화 기능을 제공합니다. 즉, 일반적으로 데이터 암호화 키(DEK)라고 하는 로컬 키를 사용하여 보안 비밀을 암호화합니다. DEK 자체는 키 암호화 키(KEK)라는 다른 키를 사용하여 암호화됩니다. Kubernetes는 KEK를 저장하지 않습니다.
봉투 암호화에는 다음과 같은 이점이 있습니다.
- 공개 키 암호화보다 향상된 성능: GKE는 Cloud KMS API만 사용하여 새 DEK를 KEK로 암호화하거나 로컬 캐시가 비어 있을 때 DEK를 복호화합니다.
- 대규모 키 관리 개선: 단일 KEK에서 여러 DEK를 암호화할 수 있습니다. Cloud KMS 서비스에 저장해야 하는 키 수는 데이터를 암호화하는 키 수보다 훨씬 적습니다.
- 중앙의 신뢰할 수 있는 루트 사용 기능: Kubernetes에 저장되는 보안 비밀에서 신뢰할 수 있는 외부 루트를 사용할 수 있습니다. 즉, 모든 보안 비밀에 하드웨어 보안 모듈과 같은 중앙의 신뢰할 수 있는 루트를 사용할 수 있습니다. 악의적으로 컨테이너에 오프라인으로 액세스해도 보안 비밀을 획득할 수 없습니다.
GKE의 애플리케이션 레이어 보안 비밀 암호화를 사용하면 GKE에서 로컬 DEK 및 AES-CBC 제공업체를 사용하여 보안 비밀을 암호화합니다. GKE는 Cloud KMS에서 관리하는 KEK를 사용하여 DEK를 암호화합니다.
봉투 암호화에 대한 자세한 내용은 봉투 암호화를 참조하세요.
보안 비밀을 만들 때 발생하는 상황
새 보안 비밀을 만들 때는 다음과 같은 상황이 발생합니다.
Kubernetes API 서버가 난수 생성기를 사용하여 보안 비밀의 고유한 DEK를 생성합니다.
Kubernetes API 서버가 DEK를 로컬로 사용하여 보안 비밀을 암호화합니다.
KMS 플러그인이 암호화를 위해 DEK를 Cloud KMS로 보냅니다. KMS 플러그인은 프로젝트의 GEK 서비스 계정을 사용하여 Cloud KMS에 인증을 수행합니다.
Cloud KMS는 KEK를 사용하여 DEK를 암호화하고 이를 다시 KMS 플러그인으로 보냅니다.
Kubernetes API 서버에서 암호화된 보안 비밀과 암호화된 DEK를 저장합니다. 일반 텍스트 DEK는 디스크에 저장되지 않고 API 서버 메모리에만 저장됩니다.
Kubernetes API 서버에서 암호화된 DEK를 인메모리 일반 텍스트 DEK에 매핑하는 캐시 항목을 만듭니다. 그러면 API 서버에서 Cloud KMS를 사용하지 않고 보안 비밀을 복호화할 수 있습니다.
클라이언트가 Kubernetes API 서버에서 보안 비밀을 요청하면 다음과 같이 됩니다.
Kubernetes API 서버가 암호화된 보안 비밀과 암호화된 DEK를 검색합니다.
Kubernetes API 서버가 기존 매핑 항목의 캐시를 확인하고 Cloud KMS를 사용하지 않고 보안 비밀을 복호화합니다.
캐시 항목이 없으면 KMS 플러그인이 KEK를 사용하여 복호화를 위해 DEK를 Cloud KMS로 보냅니다. 그러면 복호화된 DEK가 보안 비밀을 복호화하는 데 사용됩니다.
Kubernetes API 서버가 복호화된 보안 비밀을 클라이언트에 반환합니다.
키를 폐기할 때 발생하는 상황
GKE에서 보안 비밀을 암호화하는 데 사용되는 Cloud KMS에서 KEK를 폐기하면 클러스터를 업데이트하여 새로운 KEK를 먼저 사용하지 않는 이상 보안 비밀을 더 이상 사용할 수 없습니다.
키 순환 후에 이전 KEK 버전을 폐기하려면 먼저 새로운 KEK 버전을 사용하여 보안 비밀을 다시 암호화합니다. 보안 비밀이 다시 암호화되지 않도록 선택적으로 이전 KEK 버전을 보관할 수 있지만 Cloud KMS의 모든 활성 KEK에 대한 요금은 계속 청구됩니다. 가격 책정에 대한 자세한 내용은 Cloud KMS 가격 책정을 참조하세요.
서비스 계정 토큰 볼륨 프로젝션을 사용하지 않으면 GKE의 워크로드에서 사용하는 서비스 계정도 보안 비밀을 사용하며, 키가 폐기되면 보안 비밀을 사용할 수 없게 됩니다. 보안 비밀에 액세스할 수 없으면 워크로드가 실패합니다.
다음과 같은 예외가 적용됩니다.
마운트된 볼륨 또는 환경 변수로 보안 비밀에 대한 기존 액세스 권한이 있는 포드는 액세스 권한을 유지합니다.
Kubernetes API 서버는 KEK를 폐기한 후에도 캐시된 DEK 매핑 항목을 사용하여 보안 비밀을 복호화할 수 있습니다. 그러면 다음 상황 중 하나가 발생하지 않는 한 다시 시작되거나 다시 예약된 포드가 보안 비밀에 액세스할 수 있습니다.
- 클러스터 제어 영역이 다시 시작되었습니다.
- Kubernetes API 서버 포드가 다시 시작됩니다.
- 보안 비밀의 DEK 매핑 항목은 Kubernetes API 서버 캐시에 없습니다.
KEK를 폐기하기 전에 클러스터에서 사용 중인지 확인합니다. Cloud KMS에서 키 폐기에 대한 알림 정책을 작성할 수도 있습니다.
시작하기 전에
이 주제의 연습을 수행하려면 다음 2개의 Google Cloud 프로젝트가 필요합니다.
키 프로젝트: KEK를 만들 위치입니다.
클러스터 프로젝트: 애플리케이션 레이어 보안 비밀 암호화를 사용 설정하는 클러스터를 만드는 프로젝트입니다.
키 프로젝트에서 Cloud KMS API가 사용 설정되었는지 확인합니다.
키 프로젝트에서 키링과 키를 생성하는 사용자는 다음과 같은 IAM 권한이 필요합니다.
cloudkms.keyRings.getIamPolicy
cloudkms.keyRings.setIamPolicy
이러한 권한은 사전 정의된
roles/cloudkms.admin
Identity and Access Management에 부여됩니다. Cloud KMS 문서에서 키를 관리할 권한을 부여하는 방법에 대해 자세히 알아볼 수 있습니다.클러스터 프로젝트에서는 Google Kubernetes Engine API가 사용 설정되었는지 확인합니다.
Google Cloud CLI가 설치되었는지 확인합니다.
gcloud
를 최신 버전으로 업데이트합니다.gcloud components update
Cloud KMS 키 만들기
Cloud KMS 키를 만들려면 먼저 키링을 만들어야 합니다. 키와 키링은 리전별 리소스입니다. 키링을 만들 때 GKE 클러스터 위치와 일치하는 위치를 지정합니다.
영역 클러스터는 상위 집합 리전의 키링을 사용합니다. 예를 들어
us-central1-a
영역의 클러스터는us-central1
리전의 키만 사용할 수 있습니다.리전 클러스터는 동일한 위치의 키링을 사용합니다. 예를 들어
asia-northeast1
리전의 클러스터는asia-northeast1
리전의 키링으로 보호되어야 합니다.
gcloud CLI 또는 Google Cloud 콘솔을 사용할 수 있습니다.
콘솔
키 프로젝트에서 키링을 만듭니다.
Google Cloud 콘솔에서 키 관리 페이지로 이동합니다.
키링 만들기를 클릭합니다.
키링 이름 필드에 키링의 이름을 입력합니다.
위치 드롭다운에서 Kubernetes 클러스터의 위치를 선택합니다.
만들기를 클릭합니다.
그런 다음 키를 만듭니다.
Google Cloud 콘솔에서 키 관리 페이지로 이동합니다.
키를 만들 키링의 이름을 클릭합니다.
키 만들기를 클릭합니다.
키 이름 필드에 키의 이름을 입력합니다.
순환 기간 및 시작일의 기본값을 그대로 사용합니다. 또는 다른 값을 사용하려면 키 순환 기간 및 시작 시간을 설정합니다.
[선택사항] 키에 라벨을 추가하려면 라벨 필드에서 라벨 추가를 클릭합니다.
만들기를 클릭합니다.
gcloud
키 프로젝트에서 키링을 만듭니다.
gcloud kms keyrings create RING_NAME \
--location=LOCATION \
--project=KEY_PROJECT_ID
다음을 바꿉니다.
RING_NAME
: 새 키링의 이름입니다.LOCATION
: 키링을 만들 위치입니다.KEY_PROJECT_ID
: 키 프로젝트 ID입니다.
키를 만듭니다.
gcloud kms keys create KEY_NAME \
--location=LOCATION \
--keyring=RING_NAME \
--purpose=encryption \
--project=KEY_PROJECT_ID
다음을 바꿉니다.
KEY_NAME
: 새 키의 이름입니다.LOCATION
: 키링을 만든 Cloud KMS 위치입니다.RING_NAME
: 키링의 이름입니다.KEY_PROJECT_ID
: 키 프로젝트 ID입니다.
키 사용 권한 부여
클러스터 프로젝트의 GKE 서비스 계정은 다음 이름을 갖습니다.
service-CLUSTER_PROJECT_NUMBER@container-engine-robot.iam.gserviceaccount.com
CLUSTER_PROJECT_NUMBER
를 클러스터 프로젝트 번호로 바꿉니다.
gcloud CLI를 사용하여 프로젝트 번호를 찾으려면 다음 명령어를 실행합니다.
gcloud projects describe CLUSTER_PROJECT_ID \
--format="value(projectNumber)"
서비스 계정에 액세스 권한을 부여하려면 Google Cloud 콘솔 또는 gcloud CLI를 사용하면 됩니다.
콘솔
GKE 서비스 계정에 Cloud KMS CryptoKey 암호화/복호화 역할을 부여합니다.
- Google Cloud 콘솔에서 Cloud Key Management Service 키 브라우저를 엽니다.
Cloud KMS 키 브라우저 열기 원하는 키가 포함된 키링의 이름을 클릭합니다.
원하는 키의 체크박스를 선택합니다.
오른쪽 창의 권한 탭이 활성화됩니다.
구성원 추가 대화상자에서 액세스 권한을 부여할 GKE 서비스 계정의 이메일 주소를 지정합니다.
역할 선택 드롭다운에서 Cloud KMS CryptoKey Encrypter/Decrypter를 선택합니다.
저장을 클릭합니다.
gcloud
GKE 서비스 계정에 Cloud KMS CryptoKey 암호화/복호화 역할을 부여합니다.
gcloud kms keys add-iam-policy-binding KEY_NAME \
--location=LOCATION \
--keyring=RING_NAME \
--member=serviceAccount:SERVICE_ACCOUNT_NAME \
--role=roles/cloudkms.cryptoKeyEncrypterDecrypter \
--project=KEY_PROJECT_ID
다음을 바꿉니다.
KEY_NAME
: 키의 이름입니다.LOCATION
: 키링을 만든 Cloud KMS 위치입니다.RING_NAME
: 키링의 이름입니다.SERVICE_ACCOUNT_NAME
: GKE 서비스 계정의 이름입니다.KEY_PROJECT_ID
: 키 프로젝트 ID입니다.
Cloud HSM 키인 경우 키에 할당량이 충분한지 확인
Cloud HSM 키를 사용하는 경우 키가 포함된 Google Cloud 프로젝트가 키 할당량으로 제한됩니다. 애플리케이션 레이어 보안 비밀 암호화와 함께 Cloud HSM 키를 사용하기에 할당량이 충분한지 확인합니다. 할당량이 소진되었으면 클러스터 제어 영역에 대한 노드 연결이 손실될 수 있습니다.
애플리케이션 레이어 보안 비밀 암호화 사용 설정
gcloud CLI나 Google Cloud 콘솔을 사용하여 신규 또는 기존 GKE Standard와 GKE Autopilot 클러스터에서 애플리케이션 레이어 보안 비밀 암호화를 사용 설정할 수 있습니다.
애플리케이션 레이어 보안 비밀 암호화를 사용 설정한 후에 키 순환을 수행하는 것이 좋습니다. Cloud KMS에서 자동 키 순환을 구성할 수 있습니다. 자세한 내용은 자동 순환 구성을 참조하세요.
새 클러스터
Google Cloud 콘솔 또는 gcloud CLI를 사용하여 애플리케이션 레이어 보안 암호화가 사용 설정된 새 클러스터를 만들 수 있습니다.
콘솔 - Autopilot
애플리케이션 레이어 보안 비밀 암호화를 사용 설정하여 Autopilot 클러스터를 만들려면 다음 단계를 수행합니다.
Google Cloud 콘솔에서 Google Kubernetes Engine 페이지로 이동합니다.
add_box만들기를 클릭합니다.
Autopilot 섹션에서 구성을 클릭합니다.
원하는 대로 클러스터를 구성합니다.
탐색창에서 고급 옵션을 클릭하고 보안 섹션을 펼칩니다.
애플리케이션 레이어 보안 비밀 암호화 사용 설정 체크박스를 선택하고 Cloud KMS 키 만들기에서 만든 키를 선택합니다.
만들기를 클릭합니다.
콘솔 - Standard
애플리케이션 레이어 보안 암호화가 사용 설정된 표준 클러스터를 만들려면 다음 단계를 수행합니다.
Google Cloud 콘솔에서 Google Kubernetes Engine 페이지로 이동합니다.
add_box만들기를 클릭합니다.
표준 섹션에서 구성을 클릭합니다.
원하는 대로 클러스터를 구성합니다.
탐색창의 클러스터에서 보안을 클릭합니다.
애플리케이션 레이어 보안 비밀 암호화 사용 설정 체크박스를 선택하고 Cloud KMS 키 만들기에서 만든 키를 선택합니다.
만들기를 클릭합니다.
gcloud
애플리케이션 레이어 보안 비밀 암호화를 지원하는 클러스터를 만들려면 create 명령어에 --database-encryption-key
매개변수 값을 지정합니다.
gcloud container clusters create-auto CLUSTER_NAME \
--cluster-version=latest \
--region=COMPUTE_REGION \
--database-encryption-key=projects/KEY_PROJECT_ID/locations/LOCATION/keyRings/RING_NAME/cryptoKeys/KEY_NAME \
--project=CLUSTER_PROJECT_ID
다음을 바꿉니다.
CLUSTER_NAME
: 새 클러스터에 대해 선택한 이름입니다.COMPUTE_REGION
: 클러스터를 만들려는 Compute Engine 리전입니다.KEY_PROJECT_ID
: 키 프로젝트 ID입니다.LOCATION
: 키링을 만든 Cloud KMS 위치입니다.RING_NAME
: 키링의 이름입니다.KEY_NAME
: 키의 이름입니다.CLUSTER_PROJECT_ID
: 클러스터의 프로젝트 ID입니다.
동일한 플래그와 함께 gcloud container clusters create
명령어를 사용하여 새 Standard 클러스터에서 애플리케이션 레이어 보안 비밀 암호화를 사용 설정할 수 있습니다.
기존 클러스터에서
gcloud CLI 또는 Google Cloud 콘솔을 사용하여 기존 클러스터에서 애플리케이션 레이어 보안 비밀 암호화를 사용하도록 업데이트할 수 있습니다. GKE는 지정된 암호화 키를 사용하여 기존 보안 비밀과 새 보안 비밀을 모두 암호화합니다.
콘솔
애플리케이션 레이어 보안 비밀 암호화를 지원하도록 클러스터를 업데이트하려면 다음 안내를 따르세요.
Google Cloud 콘솔에서 Google Kubernetes Engine 페이지로 이동합니다.
수정할 클러스터의 이름을 클릭합니다.
보안의 애플리케이션 레이어 보안 비밀 암호화 필드에서 edit애플리케이션 레이어 보안 비밀 암호화 수정을 클릭합니다.
애플리케이션 레이어 보안 비밀 암호화 사용 설정 체크박스를 선택하고 Cloud KMS 키 만들기에서 만든 키를 선택합니다.
변경사항 저장을 클릭합니다.
gcloud
기존 클러스터에서 애플리케이션 레이어 보안 비밀 암호화를 사용 설정하려면 다음 명령어를 실행합니다.
gcloud container clusters update CLUSTER_NAME \
--region=COMPUTE_REGION \
--database-encryption-key=projects/KEY_PROJECT_ID/locations/LOCATION/keyRings/RING_NAME/cryptoKeys/KEY_NAME \
--project=CLUSTER_PROJECT_ID
다음을 바꿉니다.
CLUSTER_NAME
: 클러스터 이름입니다.COMPUTE_REGION
: 클러스터의 Compute Engine 리전입니다.KEY_PROJECT_ID
: 키 프로젝트 ID입니다.LOCATION
: 키링을 만든 Cloud KMS 위치입니다.RING_NAME
: 키링의 이름입니다.KEY_NAME
: 키의 이름입니다.CLUSTER_PROJECT_ID
: 클러스터의 프로젝트 ID입니다.
Cloud KMS 키 업데이트
gcloud CLI 또는 Google Cloud 콘솔을 사용하여 기존 클러스터에서 새 Cloud KMS 키를 사용하도록 업데이트합니다.
콘솔
새 Cloud KMS 키를 사용하도록 클러스터를 업데이트하려면 다음 안내를 따르세요.
Google Cloud 콘솔에서 Google Kubernetes Engine 페이지로 이동합니다.
수정할 클러스터의 이름을 클릭합니다.
보안의 애플리케이션 레이어 보안 비밀 암호화 필드에서 edit애플리케이션 레이어 보안 비밀 암호화 수정을 클릭합니다.
사용하려는 새 암호화 키를 선택합니다.
변경사항 저장을 클릭합니다.
gcloud
새 Cloud KMS 키를 사용하도록 기존 클러스터를 업데이트합니다.
gcloud container clusters update CLUSTER_NAME \
--region=COMPUTE_REGION \
--database-encryption-key=projects/KEY_PROJECT_ID/locations/LOCATION/keyRings/RING_NAME/cryptoKeys/KEY_NAME \
--project=CLUSTER_PROJECT_ID
다음을 바꿉니다.
CLUSTER_NAME
: 클러스터 이름입니다.COMPUTE_REGION
: 클러스터의 Compute Engine 리전입니다.KEY_PROJECT_ID
: 키 프로젝트 ID입니다.LOCATION
: 키링을 만든 Cloud KMS 위치입니다.RING_NAME
: 키링의 이름입니다.KEY_NAME
: 키의 이름입니다.CLUSTER_PROJECT_ID
: 클러스터의 프로젝트 ID입니다.
애플리케이션 레이어 보안 비밀 암호화 사용 중지
애플리케이션 레이어 보안 비밀 암호화를 중지하려면 gcloud CLI 또는 Google Cloud 콘솔을 사용하면 됩니다.
콘솔
Google Cloud 콘솔에서 Google Kubernetes Engine 페이지로 이동합니다.
수정할 클러스터의 이름을 클릭합니다.
보안의 애플리케이션 레이어 보안 비밀 암호화 필드에서 edit애플리케이션 레이어 보안 비밀 암호화 수정을 클릭합니다.
애플리케이션 레이어 보안 비밀 암호화 사용 설정 체크박스를 선택 취소합니다.
변경사항 저장을 클릭합니다.
gcloud
애플리케이션 레이어 보안 비밀 암호화를 사용 중지하려면 다음 명령어를 실행합니다.
gcloud container clusters update CLUSTER_NAME \
--region=COMPUTE_REGION \
--disable-database-encryption \
--project=CLUSTER_PROJECT_ID
다음을 바꿉니다.
CLUSTER_NAME
: 클러스터 이름입니다.COMPUTE_REGION
: 클러스터의 Compute Engine 리전입니다.CLUSTER_PROJECT_ID
: 클러스터의 프로젝트 ID입니다.
애플리케이션 레이어 보안 비밀 암호화가 사용 설정되어 있는지 확인
Google Cloud 콘솔 또는 gcloud CLI를 사용하여 클러스터에서 애플리케이션 레이어 보안 비밀 암호화를 사용 중인지 확인할 수 있습니다.
콘솔
Google Cloud 콘솔에서 Google Kubernetes Engine 페이지로 이동합니다.
수정할 클러스터의 이름을 클릭합니다.
보안에서 애플리케이션 레이어 보안 비밀 암호화 필드에
Enabled
가 표시되고 올바른 키가 나열되어 있는지 확인합니다.
gcloud
클러스터가 애플리케이션 레이어 보안 비밀 암호화를 사용하는지 여부를 확인합니다.
gcloud container clusters describe CLUSTER_NAME \
--region=COMPUTE_REGION \
--format='value(databaseEncryption)' \
--project=CLUSTER_PROJECT_ID
다음을 바꿉니다.
CLUSTER_NAME
: 클러스터 이름입니다.COMPUTE_REGION
: 클러스터의 Compute Engine 리전입니다.CLUSTER_PROJECT_ID
: 클러스터의 프로젝트 ID입니다.
클러스터에서 애플리케이션 레이어 보안 비밀 암호화를 사용 중이면 출력은 다음과 비슷합니다.
keyName=projects/KEY_PROJECT_ID/locations/LOCATION/keyRings/RING_NAME/cryptoKeys/KEY_NAME;state=ENCRYPTED
키 순환
애플리케이션 레이어 보안 비밀 암호화를 사용 설정한 후를 포함하여 정기적인 일정에 따라 키를 순환하는 것이 좋습니다. 자동 키 순환을 구성하거나 키를 수동으로 순환하는 안내는 키 순환을 참조하세요.
키 순환을 수행할 때 기존 보안 비밀은 이전 키 암호화 키(KEK) 버전으로 암호화된 상태로 유지됩니다. 최신 KEK 버전에서 보안 비밀을 래핑하도록 하려면 키 순환 후 보안 비밀을 다시 암호화합니다.
예를 들면 Secret1
이라는 보안 비밀을 만들고 저장합니다.
이 보안 비밀은 DEK1
로 암호화되며, 이 자체는 KEKv1
로 래핑됩니다.
KEK 순환 후 Secret1
을 다시 암호화하여 순환된 KEK인 KEKv2
로 래핑된 DEK2
로 래핑되도록 합니다.
보안 비밀 재암호화
키 순환을 수행한 후에는 보안 비밀을 다시 암호화하여 KEK의 새 버전으로 래핑해야 합니다. 예를 들어 gcloud CLI를 사용하여 자동 재암호화를 구성할 수 없지만 CronJob을 사용하여 정기적으로 재암호화 명령어를 실행할 수 있습니다.
키 순환 후 보안 비밀을 수동으로 다시 암호화하려면 새 버전이 일관될 때까지 최소 3시간 이상 기다립니다. 그런 다음 모든 보안 비밀을 수정하여 다음과 같은 명령어로 재암호화를 강제 적용합니다.
kubectl get secrets --all-namespaces -o json | kubectl annotate --overwrite -f - encryption-key-rotation-time="TIME"
TIME
을 순환 발생 시점을 나타내는 문자열로 바꿉니다(예: 20200909-090909
).
제한사항
- GKE는 애플리케이션 레이어 보안 비밀 암호화에 대해 클러스터당 최대 30,000개의 보안 비밀을 지원합니다. 보안 비밀을 30,000개 넘게 저장하면 업그레이드할 때 클러스터가 불안정해져 워크로드가 중단될 수 있습니다.
- 모든 네임스페이스에서 보안 비밀의 평균 메타데이터 크기가 5KiB 미만인지 확인합니다. 메타데이터의 평균 크기가 5KiB 이상이면 클러스터가 잘못된 상태로 전환되어, 기능을 사용 설정 또는 사용 중지한 후 일부 보안 비밀이 암호화되고 다른 보안 비밀은 복호화될 수 있습니다.
클러스터와 동일한 리전의 키를 선택해야 합니다. 예를 들어
us-central1-a
의 영역 클러스터는us-central1
리전의 키만 사용할 수 있습니다. 리전 클러스터의 경우 지연 시간을 줄이고 리소스가 여러 장애 도메인에 분산된 서비스에 의존하는 경우를 방지하려면 키가 동일한 위치에 있어야 합니다.GKE에서는 Cloud KMS의 키만 지원합니다. 다른 Kubernetes KMS 제공업체나 다른 암호화 제공업체를 사용할 수 없습니다.
문제 해결
실패한 보안 비밀 암호화 업데이트 문제 해결을 포함한 애플리케이션 레이어 보안 비밀 암호화 문제 해결 방법은 애플리케이션 레이어 보안 비밀 암호화 문제 해결을 참조하세요.
Cloud KMS 키가 중지된 경우
GKE의 기본 서비스 계정은 애플리케이션 레이어의 보안 비밀 암호화에 사용 중지된 Cloud KMS 키를 사용할 수 없습니다.
중지된 키를 다시 사용 설정하려면 중지된 키 버전 사용 설정을 참조하세요.