관리자 클러스터 만들기

다른 클러스터를 안전하게 관리하도록 베어메탈용 GKE에서 관리자 클러스터를 설정합니다. 관리자 클러스터에서 사용자 클러스터를 생성, 업데이트, 업그레이드, 삭제할 수 있습니다. 사용자 클러스터는 관리와 별도로 워크로드를 실행하므로 민감한 정보가 보호됩니다.

멀티 클러스터 워크로드를 관리하는 관리자 클러스터는 고가용성(HA) 안정성을 제공할 수 있습니다. HA 클러스터에서 하나의 제어 영역 노드에 장애가 발생해도 다른 노드는 계속 작동합니다.

멀티 클러스터 환경의 관리자 클러스터는 최상의 기본 보안을 제공합니다. 관리 데이터에 대한 액세스는 워크로드와 분리되므로 사용자 워크로드에 액세스하는 사용자는 SSH 키 및 서비스 계정 데이터와 같은 민감한 관리 데이터에 액세스할 수 없습니다. 따라서 별도의 관리자 클러스터가 있다는 것은 관리 및 워크로드를 위한 전용 리소스가 필요하다는 것을 의미하므로 보안과 필요한 리소스 사이에서 약간의 절충이 필요합니다.

bmctl 명령어를 사용하여 관리자 클러스터를 만듭니다. 관리자 클러스터를 만든 후에는 워크로드를 실행할 사용자 클러스터를 만듭니다.

기본 요건:

  • Cloud Storage에서 최신 bmctl을 다운로드했습니다(gs://anthos-baremetal-release/bmctl/1.28.400-gke.77/linux-amd64/bmctl).
  • bmctl을 실행하는 워크스테이션은 대상 사용자 클러스터의 모든 노드에 네트워크로 연결되어 있습니다.
  • bmctl을 실행하는 워크스테이션은 클러스터 API 서버(제어 영역 VIP)에 네트워크로 연결되어 있습니다.
  • 관리자 클러스터를 만드는 데 사용되는 SSH 키는 대상 관리자 클러스터의 모든 노드에서 root 또는 비밀번호가 없는 sudo 권한을 가진 루트가 아닌 사용자가 사용할 수 있습니다.
  • Connect-register 서비스 계정은 Connect에 사용하도록 구성됩니다.

하이브리드 클러스터를 만드는 방법에 대한 확장된 단계별 안내는 베어메탈용 GKE 빠른 시작을 참조하세요. 관리자 클러스터 만들기는 관리자 클러스터에서 워크로드를 실행하지 않는 것을 제외하면 하이브리드 클러스터 만들기와 방법이 비슷합니다.

SELinux 사용 설정

컨테이너 보안을 위해 SELinux를 사용 설정하려면 모든 호스트 머신에서 SELinux가 Enforced 모드로 사용 설정되었는지 확인해야 합니다. 베어메탈용 GKE 출시 버전 1.9.0 이상부터는 클러스터 만들기 또는 클러스터 업그레이드 전후에 SELinux를 사용 설정 또는 사용 중지할 수 있습니다. SELinux는 기본적으로 Red Hat Enterprise Linux(RHEL)에서 사용 설정됩니다. SELinux가 호스트 머신에 사용 중지되었거나 확실하지 않으면 SELinux를 사용하여 컨테이너 보안에서 이를 사용 중지하는 방법에 대한 안내를 참조하세요.

베어메탈용 GKE는 RHEL 시스템에서만 SELinux를 지원합니다.

gcloud CLI에 로그인 및 관리자 클러스터 구성 파일 만들기

  1. 다음 명령어를 사용하여 베어메탈용 GKE에서 클러스터를 만드는 데 사용할 수 있는 기본 사용자 인증 정보를 설정합니다.

    gcloud auth application-default login
    
  2. 이 페이지에서 자동 API 사용 설정 및 서비스 계정 만들기 기능을 사용하려면 해당 주 구성원에게 프로젝트 소유자 역할을 부여합니다. 주 구성원에게 프로젝트 소유자 역할이 없으면 다음 단계를 완료하세요.

  3. 프로젝트 소유자 역할을 부여하지 않고도 클러스터 생성이 성공할 수 있도록 하려면 주 구성원에게 다음 IAM 역할을 추가합니다.

    • 서비스 계정 관리자
    • 서비스 계정 키 관리자
    • 프로젝트 IAM 관리자
    • Compute 뷰어
    • 서비스 사용량 관리자

    주 구성원이 해당 역할이 있는 서비스 계정인 경우 다음을 실행할 수 있습니다.

    export GOOGLE_APPLICATION_CREDENTIALS=JSON_KEY_FILE
    

    JSON_KEY_FILE을 서비스 계정의 JSON 키 파일 경로로 바꿉니다.

  4. 클러스터 생성에 사용할 Google Cloud 프로젝트의 ID를 가져오고 환경 변수에 저장합니다.

    export CLOUD_PROJECT_ID=$(gcloud config get-value project)
    

bmctl을 사용하여 관리자 클러스터 구성 만들기

gcloud CLI에 로그인하여 프로젝트를 설정하면 bmctl 명령어를 사용하여 클러스터 구성 파일을 만들 수 있습니다.

다음 예시에서는 모든 서비스 계정이 bmctl create config 명령어로 자동으로 생성됩니다.

bmctl create config -c ADMIN_CLUSTER_NAME --enable-apis \
    --create-service-accounts --project-id=CLOUD_PROJECT_ID

다음을 바꿉니다.

  • ADMIN_CLUSTER_NAME: 새 클러스터의 이름
  • CLOUD_PROJECT_ID: Google Cloud 프로젝트 ID 또는 $CLOUD_PROJECT_ID 환경 변수

다음은 프로젝트 ID my-gcp-project와 연결된 admin1이라는 관리자 클러스터의 구성 파일을 만드는 예시입니다.

bmctl create config -c admin1 --create-service-accounts --enable-apis --project-id=my-gcp-project

파일은 bmctl-workspace/admin1/admin1.yaml에 기록됩니다.

자동으로 API를 사용 설정하고 서비스 계정을 만드는 대신 적절한 IAM 권한이 있는 기존 서비스 계정을 제공할 수도 있습니다. 즉, bmctl 명령어의 이전 예시에서 자동 서비스 계정 생성을 건너뛸 수 있습니다.

bmctl create config -c admin1 --project-id=my-gcp-project

클러스터 구성 파일 수정

이제 클러스터 구성 파일이 있으므로 다음과 같이 변경하여 수정합니다.

  1. 관리자 클러스터 노드에 액세스할 SSH 비공개 키를 제공합니다.

    # bmctl configuration variables. Because this section is valid YAML but not a valid Kubernetes
    # resource, this section can only be included when using bmctl to
    # create the initial admin/admin cluster. Afterwards, when creating user clusters by directly
    # applying the cluster and node pool resources to the existing cluster, you must remove this
    # section.
    gcrKeyPath: bmctl-workspace/.sa-keys/my-gcp-project-anthos-baremetal-gcr.json
    sshPrivateKeyPath: /path/to/your/ssh_private_key
    gkeConnectAgentServiceAccountKeyPath: bmctl-workspace/.sa-keys/my-gcp-project-anthos-baremetal-connect.json
    gkeConnectRegisterServiceAccountKeyPath: bmctl-workspace/.sa-keys/my-gcp-project-anthos-baremetal-register.json
    cloudOperationsServiceAccountKeyPath: bmctl-workspace/.sa-keys/my-gcp-project-anthos-baremetal-cloud-ops.json
    
  2. 클러스터를 Fleet에 등록합니다. bmctl create config 명령어에 지정한 프로젝트 ID는 클러스터 구성 파일의 gkeConnect.projectID 필드에 자동으로 추가됩니다. 이 프로젝트를 Fleet 호스트 프로젝트라고 합니다.

    • 자동 API 사용 설정 및 서비스 계정 생성 기능을 사용하여 구성 파일을 만든 경우 이 단계를 건너뛸 수 있습니다.

    • 자동 API 사용 설정 및 서비스 계정 생성 기능을 사용하지 않고 구성 파일을 만든 경우 클러스터 구성 파일의 해당 gkeConnectAgentServiceAccountKeyPathgkeConnectRegisterServiceAccountKeyPath 필드에서 다운로드한 서비스 계정 JSON 키를 참조하세요.

    • 원하는 경우 클러스터 사양에 gkeConnect.location를 추가하여 Fleet 및 Connect 서비스가 실행되는 Google Cloud 리전을 지정할 수 있습니다. 이 리전 멤버십은 Fleet 서비스 트래픽을 리전으로 제한합니다. 클러스터 사양에 gkeConnect.location을 포함하는 경우 지정하는 리전이 clusterOperations.location에 구성된 리전과 동일해야 합니다. 리전이 동일하지 않으면 클러스터 만들기가 실패합니다.

  3. 구성이 admin의 클러스터 유형(기본값)을 지정하는지 확인합니다.

    spec:
      # Cluster type. This can be:
      #   1) admin:  to create an admin cluster. This can later be used to create user clusters.
      #   2) user:   to create a user cluster. Requires an existing admin cluster.
      #   3) hybrid: to create a hybrid cluster that runs admin cluster components and user workloads.
      #   4) standalone: to create a cluster that manages itself, runs user workloads, but does not manage other clusters.
      type: admin
    
  4. GKE On-Prem API가 Google Cloud 프로젝트에 사용 설정된 경우 프로젝트의 모든 클러스터가 clusterOperations.location에 구성된 리전의 GKE On-Prem API에 자동으로 등록됩니다.

    • GKE On-Prem API에서 프로젝트의 모든 클러스터를 등록하려면 시작하기 전에의 단계를 수행하여 프로젝트의 GKE On-Prem API를 활성화하고 사용해야 합니다.

    • GKE On-Prem API에서 클러스터를 등록하지 않으려면 이 섹션을 포함하고 gkeOnPremAPI.enabledfalse로 설정합니다. 프로젝트에 클러스터를 등록하지 않으려면 프로젝트에서 gkeonprem.googleapis.com(GKE On-Prem API의 서비스 이름)을 중지합니다. 자세한 내용은 서비스 사용 중지를 참조하세요.

  5. 멀티 노드, 고가용성, 제어 영역을 지정하기 위해 구성 파일을 변경합니다. 비정상적인 노드 수를 지정하여 HA용 대부분의 쿼럼을 확보합니다.

      # Control plane configuration
      controlPlane:
        nodePoolSpec:
          nodes:
          # Control plane node pools. Typically, this is either a single machine
          # or 3 machines if using a high availability deployment.
          - address: 10.200.0.4
          - address: 10.200.0.5
          - address: 10.200.0.6
    
  6. 클러스터 노드의 포드 밀도를 지정합니다.

    ....
    # NodeConfig specifies the configuration that applies to all nodes in the cluster.
    nodeConfig:
      # podDensity specifies the pod density configuration.
      podDensity:
        # maxPodsPerNode specifies at most how many pods can be run on a single node.
        maxPodsPerNode: 250
    ....
    

    관리자 클러스터의 경우 maxPodsPerNode에 허용되는 값은 HA 클러스터의 경우 32-250, 비 HA 클러스터의 경우 64-250입니다. 지정되지 않은 경우 기본값은 110입니다. 클러스터가 생성된 후에는 이 값을 업데이트할 수 없습니다.

    또한 포드 밀도는 클러스터의 사용 가능한 IP 리소스에 따라서도 제한됩니다. 자세한 내용은 포드 네트워킹을 참조하세요.

클러스터 구성으로 관리자 클러스터 만들기

bmctl 명령어를 사용하여 클러스터를 배포합니다.

bmctl create cluster -c ADMIN_CLUSTER_NAME

ADMIN_CLUSTER_NAME은 이전 섹션에서 만든 클러스터 이름을 지정합니다.

다음은 admin1이라는 클러스터를 만드는 명령어의 예시입니다.

bmctl create cluster -c admin1

샘플 관리자 클러스터 구성

관리자 클러스터 구성의 예시는 클러스터 구성 샘플에서 관리자 클러스터를 참조하세요.