Menyiapkan Elastic Stack di GKE


Tutorial ini menunjukkan cara menjalankan Elastic Stack di GKE menggunakan operator Elastic Cloud on Kubernetes (ECK).

Elastic Stack adalah solusi open source populer yang digunakan untuk mencatat log, memantau, dan menganalisis data secara real-time. Dengan menggunakan Elastic Stack di GKE, Anda dapat memanfaatkan skalabilitas dan keandalan yang disediakan oleh GKE Autopilot dan fitur Elastic Stack yang canggih.

Tutorial ini ditujukan untuk administrator Kubernetes atau engineer keandalan situs.

Tujuan

  • Membuat cluster GKE.
  • Deploy operator ECK.
  • Konfigurasikan cluster Elasticsearch dan Kibana menggunakan operator ECK.
  • Men-deploy Elastic Stack lengkap menggunakan operator ECK.
  • Menskalakan cluster Elasticsearch secara otomatis dan mengupgrade deployment Elastic Stack.
  • Menggunakan Elastic Stack untuk memantau lingkungan Kubernetes.

Biaya

Dalam dokumen ini, Anda akan menggunakan komponen Google Cloudyang dapat ditagih berikut:

Untuk membuat perkiraan biaya berdasarkan proyeksi penggunaan Anda, gunakan kalkulator harga. Pengguna Google Cloud baru mungkin memenuhi syarat untuk mendapatkan uji coba gratis.

Setelah menyelesaikan tugas yang dijelaskan dalam dokumen ini, Anda dapat menghindari penagihan berkelanjutan dengan menghapus resource yang Anda buat. Untuk mengetahui informasi selengkapnya, lihat Pembersihan.

Sebelum memulai

  1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.
  2. Install the Google Cloud CLI.
  3. To initialize the gcloud CLI, run the following command:

    gcloud init
  4. Create or select a Google Cloud project.

    • Create a Google Cloud project:

      gcloud projects create PROJECT_ID

      Replace PROJECT_ID with a name for the Google Cloud project you are creating.

    • Select the Google Cloud project that you created:

      gcloud config set project PROJECT_ID

      Replace PROJECT_ID with your Google Cloud project name.

  5. Make sure that billing is enabled for your Google Cloud project.

  6. Enable the GKE API:

    gcloud services enable container.googleapis.com
  7. Install the Google Cloud CLI.
  8. To initialize the gcloud CLI, run the following command:

    gcloud init
  9. Create or select a Google Cloud project.

    • Create a Google Cloud project:

      gcloud projects create PROJECT_ID

      Replace PROJECT_ID with a name for the Google Cloud project you are creating.

    • Select the Google Cloud project that you created:

      gcloud config set project PROJECT_ID

      Replace PROJECT_ID with your Google Cloud project name.

  10. Make sure that billing is enabled for your Google Cloud project.

  11. Enable the GKE API:

    gcloud services enable container.googleapis.com
  12. Grant roles to your user account. Run the following command once for each of the following IAM roles: roles/container.clusterAdmin

    gcloud projects add-iam-policy-binding PROJECT_ID --member="user:USER_IDENTIFIER" --role=ROLE
    • Replace PROJECT_ID with your project ID.
    • Replace USER_IDENTIFIER with the identifier for your user account. For example, user:myemail@example.com.

    • Replace ROLE with each individual role.
  • Anda harus memiliki nama domain. Nama domain tidak boleh lebih dari 63 karakter. Anda dapat menggunakan Cloud Domains atau registrar lain.

Menyiapkan lingkungan

Dalam tutorial ini, Anda akan menggunakan Cloud Shell untuk mengelola resource yang dihosting di Google Cloud. Cloud Shell telah diinstal dengan software yang Anda perlukan untuk tutorial ini, termasuk kubectl, Helm, dan gcloud CLI.

Untuk menyiapkan lingkungan Anda dengan Cloud Shell, ikuti langkah-langkah berikut:

  1. Luncurkan sesi Cloud Shell dari konsol Google Cloud, dengan mengklik Ikon aktivasi Cloud Shell Aktifkan Cloud Shell di konsol Google Cloud. Tindakan ini akan meluncurkan sesi di panel bawah konsol Google Cloud.

  2. Tambahkan repositori diagram Helm dan perbarui:

    helm repo add elastic https://helm.elastic.co
    helm repo update
    
  3. Buat clone repositori GitHub:

    git clone https://github.com/GoogleCloudPlatform/kubernetes-engine-samples.git
    
  4. Ubah ke direktori kerja:

    cd kubernetes-engine-samples/observability/elastic-stack-tutorial
    

Membuat cluster GKE

Buat cluster GKE dengan pengumpulan metrik bidang kontrol yang diaktifkan:

gcloud container clusters create-auto elk-stack \
    --location="us-central1" \
    --monitoring="SYSTEM,WORKLOAD,API_SERVER,SCHEDULER,CONTROLLER_MANAGER"

Men-deploy operator ECK

Elastic Cloud on Kubernetes (ECK) adalah platform untuk men-deploy dan mengelola Elastic Stack di cluster Kubernetes.

ECK mengotomatiskan deployment dan pengelolaan cluster Elastic Stack, sehingga menyederhanakan proses penyiapan dan pemeliharaan Elastic Stack di Kubernetes. ECK menyediakan serangkaian resource kustom Kubernetes yang dapat Anda gunakan untuk membuat dan mengonfigurasi Elasticsearch, Kibana, Server Pengelolaan Performa Aplikasi, dan komponen Elastic Stack lainnya di Kubernetes. Hal ini memungkinkan developer dan tim DevOps mengonfigurasi serta mengelola cluster Elastic Stack dalam skala besar.

ECK mendukung beberapa node Elasticsearch, failover aplikasi otomatis, upgrade yang lancar, dan enkripsi SSL. ECK juga menyertakan fitur yang memungkinkan Anda memantau dan memecahkan masalah performa Elasticsearch.

  1. Instal diagram Helm ECK:

    helm upgrade --install "elastic-operator" "elastic/eck-operator" \
        --version="2.8.0" \
        --create-namespace \
        --namespace="elastic-system" \
        --set="resources.limits.cpu=250m" \
        --set="resources.limits.memory=512Mi" \
        --set="resources.limits.ephemeral-storage=1Gi" \
        --set="resources.requests.cpu=250m" \
        --set="resources.requests.memory=512Mi" \
        --set="resources.requests.ephemeral-storage=1Gi"
    
  2. Tunggu hingga operator siap:

    watch kubectl get pods -n elastic-system
    

    Outputnya mirip dengan hal berikut ini:

    NAME                 READY   STATUS    RESTARTS   AGE
    elastic-operator-0   1/1     Running   0          31s    
    

    Jika operator STATUS adalah Running, kembali ke command line dengan menekan Ctrl+C.

Mengonfigurasi Elastic Stack dengan ECK

Dengan menggunakan Elastic Stack dengan Elasticsearch, Kibana, dan Elastic Agent yang berfungsi dalam mode Fleet, Anda dapat menyiapkan solusi yang andal, skalabel, dan terkelola sepenuhnya untuk mengelola dan memvisualisasikan data menggunakan Kibana.

Kibana adalah alat visualisasi dan analisis data open source yang memungkinkan Anda menelusuri, menganalisis, dan memvisualisasikan data di Elasticsearch.

Elastic Agent adalah pengirim data ringan yang mengumpulkan data dari berbagai sumber, seperti log atau metrik, dan otomatis mengirimkannya ke Elasticsearch.

Elastic Fleet adalah mode operasi tempat agen Elastic melaporkan ke server fleet pusat, yang menangani konfigurasi dan pengelolaannya. Server fleet menyederhanakan deployment, konfigurasi, dan penskalaan agen Elastic, sehingga mempermudah pengelolaan deployment yang besar dan kompleks.

Penskalaan otomatis Elasticsearch adalah fitur pemantauan mandiri yang dapat melaporkan saat resource tambahan diperlukan berdasarkan kebijakan yang ditentukan operator. Misalnya, kebijakan dapat menentukan bahwa tingkat tertentu harus diskalakan berdasarkan ruang disk yang tersedia. Elasticsearch dapat memantau ruang disk dan menyarankan penskalaan jika memprediksi kekurangan, meskipun operator masih dapat menambahkan resource yang diperlukan. Untuk informasi selengkapnya tentang penskalaan otomatis Elasticsearch, lihat Penskalaan otomatis dalam dokumentasi Elasticsearch.

Mengonfigurasi cluster Elasticsearch

Elasticsearch menyediakan mesin analisis dan penelusuran RESTful terdistribusi yang dirancang untuk menyimpan dan menelusuri data dalam jumlah besar dengan cepat dan efisien.

Saat men-deploy Elastic Stack di Kubernetes, Anda harus mengelola setelan VM, terutama vm.max_map_count setting, yang diperlukan oleh Elasticsearch. vm.max_map_count menentukan jumlah area memori yang dapat dialokasikan proses ke file. Elasticsearch harus menetapkan nilai ini setidaknya 262144 agar dapat berjalan secara optimal. Untuk mengetahui informasi selengkapnya, lihat Virtual memory dalam dokumentasi ECK.

  1. Tinjau manifes berikut:

    apiVersion: scheduling.k8s.io/v1
    kind: PriorityClass
    metadata:
      name: user-daemonset-priority
    value: 999999999
    preemptionPolicy: PreemptLowerPriority
    globalDefault: false
    description: "User DaemonSet priority"

    Manifes ini menjelaskan DaemonSet yang mengonfigurasi setelan kernel di host secara langsung. DaemonSet adalah pengontrol Kubernetes yang memastikan bahwa salinan Pod berjalan di setiap node dalam cluster.

    Manifes sebelumnya ada dalam daftar yang diizinkan untuk dijalankan di Autopilot. Jangan ubah manifes ini, termasuk gambar penampung.

  2. Terapkan manifes ini ke cluster Anda:

    kubectl apply -f max-map-count-setter-ds.yaml
    
  3. Tinjau manifes berikut:

    apiVersion: elasticsearch.k8s.elastic.co/v1
    kind: Elasticsearch
    metadata:
      name: elasticsearch
      namespace: elastic-system
    spec:
      version: "8.9.0"
      volumeClaimDeletePolicy: DeleteOnScaledownOnly
      podDisruptionBudget:
        spec:
          minAvailable: 2
          selector:
            matchLabels:
              elasticsearch.k8s.elastic.co/cluster-name: elasticsearch
      nodeSets:
        - name: default
          config:
            node.roles: ["master", "data", "ingest", "ml", "remote_cluster_client"]
          podTemplate:
            metadata:
              labels:
                app.kubernetes.io/name: elasticsearch
                app.kubernetes.io/version: "8.9.0"
                app.kubernetes.io/component: "elasticsearch"
                app.kubernetes.io/part-of: "elk"
            spec:
              nodeSelector:
                cloud.google.com/compute-class: "Balanced"
              initContainers:
                - name: max-map-count-check
                  command:
                    - sh
                    - -c
                    - while true; do mmc=$(cat /proc/sys/vm/max_map_count); if test ${mmc} -eq 262144; then exit 0; fi; sleep 1; done
                  resources:
                    requests:
                      cpu: 10m
                      memory: 16Mi
                      ephemeral-storage: 16Mi
                    limits:
                      cpu: 10m
                      memory: 16Mi
                      ephemeral-storage: 16Mi
              containers:
                - name: elasticsearch
                  resources:
                    requests:
                      cpu: 990m
                      memory: 4080Mi
                      ephemeral-storage: 1008Mi
                    limits:
                      cpu: 1000m
                      memory: 4080Mi
                      ephemeral-storage: 1008Mi
                  env:
                    - name: ES_JAVA_OPTS
                      value: "-Xms2g -Xmx2g"
          count: 3
          volumeClaimTemplates:
            - metadata:
                name: elasticsearch-data # Do not change this name unless you set up a volume mount for the data path.
              spec:
                accessModes:
                  - ReadWriteOnce
                resources:
                  requests:
                    storage: 2Gi
                storageClassName: standard-rwo

    Manifes ini menentukan cluster Elasticsearch dengan kolom berikut:

    • initContainers: menunggu setelan kernel host memori virtual berubah.
    • podDisruptionBudget: menentukan bahwa cluster tidak akan dihancurkan selama proses defragmentasi Pod.
    • config.node.roles: Konfigurasi peran node Elasticsearch. Untuk mengetahui informasi selengkapnya tentang peran node, lihat Node dalam dokumentasi Elasticsearch.
  4. Terapkan manifes ini ke cluster Anda:

    kubectl apply -f elasticsearch.yaml
    
  5. Tunggu hingga cluster Elasticsearch siap:

    watch kubectl --namespace elastic-system get elasticsearches.elasticsearch.k8s.elastic.co
    

    Outputnya mirip dengan hal berikut ini:

    NAME            HEALTH   NODES   VERSION   PHASE   AGE
    elasticsearch   green    3       8.8.0     Ready   5m3s
    

    Jika HEALTH cluster Elasticsearch adalah green dan PHASE adalah Ready, kembali ke command line dengan menekan Ctrl+C.

Mengonfigurasi Kibana

  1. Tinjau manifes berikut:

    apiVersion: kibana.k8s.elastic.co/v1
    kind: Kibana
    metadata:
      name: kibana
      namespace: elastic-system
    spec:
      version: "8.9.0"
      count: 1
      elasticsearchRef:
        name: elasticsearch
        namespace: elastic-system
      http:
        tls:
          selfSignedCertificate:
            disabled: true
      config:
        server.publicBaseUrl: https://elk.BASE_DOMAIN
        xpack.reporting.kibanaServer.port: 5601
        xpack.reporting.kibanaServer.protocol: http
        xpack.reporting.kibanaServer.hostname: kibana-kb-http.elastic-system.svc
        xpack.fleet.agents.elasticsearch.hosts: ["https://elasticsearch-es-http.elastic-system.svc:9200"]
        xpack.fleet.agents.fleet_server.hosts: ["https://fleet-server-agent-http.elastic-system.svc:8220"]
        xpack.fleet.packages:
        - name: system
          version: latest
        - name: elastic_agent
          version: latest
        - name: fleet_server
          version: latest
        - name: kubernetes
          version: latest
        xpack.fleet.agentPolicies:
        - name: Fleet Server on ECK policy
          id: eck-fleet-server
          namespace: default
          monitoring_enabled:
          - logs
          - metrics
          unenroll_timeout: 900
          package_policies:
          - name: fleet_server-1
            id: fleet_server-1
            package:
              name: fleet_server
        - name: Elastic Agent on ECK policy
          id: eck-agent
          namespace: default
          monitoring_enabled:
          - logs
          - metrics
          unenroll_timeout: 900
          package_policies:
          - package:
              name: system
            name: system-1
          - package:
              name: kubernetes
            name: kubernetes-1
      podTemplate:
        metadata:
          labels:
            app.kubernetes.io/name: kibana
            app.kubernetes.io/version: "8.9.0"
            app.kubernetes.io/component: "ui"
            app.kubernetes.io/part-of: "elk"
        spec:
          containers:
          - name: kibana
            resources:
              requests:
                memory: 1Gi
                cpu: 500m
                ephemeral-storage: 1Gi
              limits:
                memory: 1Gi
                cpu: 500m
                ephemeral-storage: 1Gi

    Manifes ini menjelaskan resource kustom Kibana yang mengonfigurasi kebijakan agen untuk server dan agen fleet.

  2. Terapkan manifes ini ke cluster Anda:

    kubectl apply -f kibana.yaml
    
  3. Tunggu hingga Pod siap:

    watch kubectl --namespace elastic-system get kibanas.kibana.k8s.elastic.co
    

    Outputnya mirip dengan hal berikut ini:

    NAME     HEALTH   NODES   VERSION   AGE
    kibana   green    1       8.8.0     6m47s
    

    Jika HEALTH Pod adalah green, kembali ke command line dengan menekan Ctrl+C.

Mengonfigurasi load balancer untuk mengakses Kibana

Untuk mengakses Kibana, buat objek Ingress Kubernetes, sertifikat yang dikelola Google, alamat IP global, dan Zona DNS.

  1. Buat alamat IP eksternal global:

    gcloud compute addresses create "elastic-stack" --global
    
  2. Buat zona terkelola dan kumpulan data di Cloud DNS:

    gcloud dns managed-zones create "elk" \
        --description="DNS Zone for Airflow" \
        --dns-name="elk.BASE_DOMAIN" \
        --visibility="public"
    
    gcloud dns record-sets create "elk.BASE_DOMAIN" \
        --rrdatas="$(gcloud compute addresses describe "elastic-stack" --global --format="value(address)")" \
        --ttl="300" \
        --type="A" \
        --zone="elk"
    
  3. Delegasikan zona DNS sebagai subdomain domain dasar dengan membuat kumpulan data NS dengan daftar server nama. Anda bisa mendapatkan daftar server nama menggunakan perintah berikut:

    gcloud dns record-sets describe elk.BASE_DOMAIN \
        --type="NS" \
        --zone="elk" \
        --format="value(DATA)"
    
  4. Tinjau manifes berikut:

    apiVersion: networking.gke.io/v1
    kind: ManagedCertificate
    metadata:
      name: elastic-stack
      namespace: elastic-system
    spec:
      domains:
        - elk.BASE_DOMAIN

    Manifes ini menjelaskan ManagedCertificate yang menyediakan sertifikat SSL untuk membuat koneksi TLS.

  5. Terapkan manifes ke cluster Anda:

    kubectl apply -f ingress.yaml
    

Mengonfigurasi Agen Elastic

  1. Tinjau manifes berikut:

    apiVersion: agent.k8s.elastic.co/v1alpha1
    kind: Agent
    metadata:
      name: fleet-server
      namespace: elastic-system
    spec:
      version: 8.9.0
      kibanaRef:
        name: kibana
        namespace: elastic-system
      elasticsearchRefs:
        - name: elasticsearch
          namespace: elastic-system
      mode: fleet
      fleetServerEnabled: true
      policyID: eck-fleet-server
      deployment:
        replicas: 1
        podTemplate:
          metadata:
            labels:
              app.kubernetes.io/name: fleet-server
              app.kubernetes.io/version: "8.9.0"
              app.kubernetes.io/component: "agent"
              app.kubernetes.io/part-of: "elk"
          spec:
            containers:
              - name: agent
                resources:
                  requests:
                    memory: 512Mi
                    cpu: 250m
                    ephemeral-storage: 10Gi
                  limits:
                    memory: 512Mi
                    cpu: 250m
                    ephemeral-storage: 10Gi
            volumes:
              - name: "agent-data"
                ephemeral:
                  volumeClaimTemplate:
                    spec:
                      accessModes: ["ReadWriteOnce"]
                      storageClassName: "standard-rwo"
                      resources:
                        requests:
                          storage: 10Gi
            serviceAccountName: fleet-server
            automountServiceAccountToken: true
            securityContext:
              runAsUser: 0

    Manifes ini menjelaskan Elastic Agent yang mengonfigurasi server fleet dengan ECK.

  2. Terapkan manifes ini ke cluster Anda:

    kubectl apply -f fleet-server-and-agents.yaml
    
  3. Tunggu hingga Pod siap:

    watch kubectl --namespace elastic-system get agents.agent.k8s.elastic.co
    

    Outputnya mirip dengan hal berikut ini:

    NAME            HEALTH   AVAILABLE   EXPECTED   VERSION   AGE
    elastic-agent   green    5           5          8.8.0     14m
    fleet-server    green    1           1          8.8.0     16m
    

    Jika HEALTH Pod adalah green, kembali ke command line dengan menekan Ctrl+C.

Mengonfigurasi logging dan pemantauan

Elastic Stack dapat menggunakan eksportir kube-state-metrics untuk mengumpulkan metrik tingkat cluster.

  1. Instal kube-state-metrics:

    helm repo add prometheus-community https://prometheus-community.github.io/helm-charts
    helm repo update
    helm install kube-state-metrics prometheus-community/kube-state-metrics --namespace elastic-system
    
  2. Dapatkan kredensial pengguna elastic Kibana default:

    kubectl get secret elasticsearch-es-elastic-user -o yaml -n elastic-system -o jsonpath='{.data.elastic}' | base64 -d
    
  3. Buka https://elk.BASE_DOMAIN di browser Anda dan login ke Kibana dengan kredensial.

  4. Dari menu, pilih Analytics, lalu Dasbor.

  5. Di kolom teks penelusuran, masukkan Ringkasan Kubernetes dan pilih Dasbor ringkasan untuk melihat metrik dasar.

    Beberapa panel dasbor mungkin tidak menampilkan data atau pesan error karena GKE membatasi akses ke beberapa endpoint panel kontrol yang digunakan Kibana untuk mendapatkan metrik cluster.

Pembersihan

Agar tidak perlu membayar biaya pada akun Google Cloud Anda untuk resource yang digunakan dalam tutorial ini, hapus project yang berisi resource tersebut, atau simpan project dan hapus setiap resource.

Menghapus project

    Delete a Google Cloud project:

    gcloud projects delete PROJECT_ID

Menghapus resource satu per satu

Jika Anda telah menggunakan project yang sudah ada dan tidak ingin menghapusnya, hapus resource individual tersebut.

  1. Hapus komponen Elastic Stack, operator ECK, dan kube-state-metrics:

    kubectl --namespace elastic-system delete ingresses.networking.k8s.io elastic-stack
    kubectl --namespace elastic-system delete managedcertificates.networking.gke.io elastic-stack
    kubectl --namespace elastic-system delete frontendconfigs.networking.gke.io elastic-stack
    kubectl --namespace elastic-system delete agents.agent.k8s.elastic.co elastic-agent
    kubectl --namespace elastic-system delete agents.agent.k8s.elastic.co fleet-server
    kubectl --namespace elastic-system delete kibanas.kibana.k8s.elastic.co kibana
    kubectl --namespace elastic-system delete elasticsearches.elasticsearch.k8s.elastic.co elasticsearch
    kubectl --namespace elastic-system delete daemonsets.apps max-map-count-setter
    kubectl --namespace elastic-system delete pvc --selector='elasticsearch.k8s.elastic.co/cluster-name=elasticsearch'
    helm --namespace elastic-system uninstall kube-state-metrics
    helm --namespace elastic-system uninstall elastic-operator
    
  2. Hapus kumpulan data DNS, alamat IP, zona terkelola DNS, dan cluster GKE:

    gcloud dns record-sets delete "elk.BASE_DOMAIN" \
        --type="A" \
        --zone="elk" \
        --quiet
    
    gcloud compute addresses delete "elastic-stack" \
        --global \
        --quiet
    
    gcloud dns managed-zones delete "elk" --quiet
    
    gcloud container clusters delete "elk-stack" \
        --location="us-central1" \
        --quiet
    

Langkah berikutnya