Ligação a partir do Compute Engine: vários clientes

O serviço Compute Engine suporta a criação de várias VMs com o comando gcloud compute instances bulk create.

As secções seguintes descrevem o processo de criação de um script de arranque e implementação em qualquer número de VMs do Compute Engine.

Para ver instruções detalhadas sobre como criar e estabelecer ligação a uma única VM, consulte o artigo Estabeleça ligação a partir do Compute Engine: cliente único.

Autorizações necessárias

Tem de ter a seguinte função do IAM para criar uma VM do Compute Engine:

  • Administrador de instâncias do Compute (v1) (roles/compute.instanceAdmin.v1). Para mais informações, consulte a [documentação do Compute Engine][gce-role].

Defina variáveis de ambiente

As seguintes variáveis de ambiente são usadas nos comandos de exemplo neste documento: 

export SSH_USER="daos-user"
export CLIENT_PREFIX="daos-client-vm"
export NUM_CLIENTS=10

Atualize-os para os valores pretendidos.

Crie uma chave SSH

Crie uma chave SSH e guarde-a localmente para distribuição às VMs cliente. A chave está associada ao utilizador SSH especificado nas variáveis de ambiente e é criada em cada VM:

# Generate an SSH key for the specified user
ssh-keygen -t rsa -b 4096 -C "${SSH_USER}" -N '' -f "./id_rsa"
chmod 600 "./id_rsa"

# Create a new file in the format [user]:[public key] user
echo "${SSH_USER}:$(cat "./id_rsa.pub") ${SSH_USER}" > "./keys.txt"

Obtenha detalhes da rede Parallelstore

Obtenha os endereços IP do servidor Parallelstore num formato consumível pelo agente daos:

export ACCESS_POINTS=$(gcloud beta parallelstore instances describe INSTANCE_NAME \
  --location LOCATION \
  --format "value[delimiter=', '](format("{0}", accessPoints))")

Obtenha o nome da rede associado à instância do Parallelstore:

export NETWORK=$(gcloud beta parallelstore instances describe INSTANCE_NAME \
  --location LOCATION \
  --format "value[delimiter=', '](format("{0}", network))") | awk -F '/' '{print $NF}'

Crie o script de arranque

O script de arranque está anexado à VM e é executado sempre que o sistema é iniciado. O script de arranque faz o seguinte:

  • Configura o agente DAOS
  • Instala as bibliotecas necessárias
  • Monta a sua instância do Parallelstore em /tmp/parallelstore/ em cada VM

O seguinte script funciona em VMs que executam o HPC Rocky 8.

# Create a startup script that configures the VM
cat > ./startup-script << EOF
sudo tee /etc/yum.repos.d/parallelstore-v2-6-el8.repo << INNEREOF
[parallelstore-v2-6-el8]
name=Parallelstore EL8 v2.6
baseurl=https://us-central1-yum.pkg.dev/projects/parallelstore-packages/v2-6-el8
enabled=1
repo_gpgcheck=0
gpgcheck=0
INNEREOF
sudo dnf makecache

# Install daos-client
dnf install -y epel-release # needed for capstone
dnf install -y daos-client

# Upgrade libfabric
dnf upgrade -y libfabric

systemctl stop daos_agent

mkdir -p /etc/daos
cat > /etc/daos/daos_agent.yml << INNEREOF
access_points: ${ACCESS_POINTS}

transport_config:
  allow_insecure: true

fabric_ifaces:
- numa_node: 0
  devices:
  - iface: eth0
    domain: eth0
INNEREOF

echo -e "Host *\n\tStrictHostKeyChecking no\n\tUserKnownHostsFile /dev/null" > /home/${SSH_USER}/.ssh/config
chmod 600 /home/${SSH_USER}/.ssh/config

usermod -u 2000 ${SSH_USER}
groupmod -g 2000 ${SSH_USER}
chown -R ${SSH_USER}:${SSH_USER} /home/${SSH_USER}

chown -R daos_agent:daos_agent /etc/daos/

systemctl enable daos_agent
systemctl start daos_agent

mkdir -p /tmp/parallelstore
dfuse -m /tmp/parallelstore --pool default-pool --container default-container --disable-wb-cache --thread-count=16 --eq-count=8 --multi-user
chmod 777 /tmp/parallelstore

EOF

Para obter ajuda na otimização dos valores de --thread-count e --eq-count, consulte a secção Contagem de threads e contagem de filas de eventos da página Considerações sobre o desempenho.

Crie as VMs cliente

O desempenho geral das suas cargas de trabalho depende dos tipos de máquinas cliente. O exemplo seguinte usa VMs c2-standard-30; modifique o machine-type valor para aumentar o desempenho com NICs mais rápidas. Consulte o recurso de famílias de máquinas e o guia de comparação para ver detalhes dos tipos de máquinas disponíveis.

Para criar instâncias de VMs em massa, use o comando:gcloud compute instances bulk create

gcloud compute instances bulk create \
  --name-pattern="${CLIENT_PREFIX}-####" \
  --zone="LOCATION" \
  --machine-type="c2-standard-30" \
  --network-interface=subnet=${NETWORK},nic-type=GVNIC \
  --network-performance-configs=total-egress-bandwidth-tier=TIER_1 \
  --create-disk=auto-delete=yes,boot=yes,device-name=client-vm1,image=projects/cloud-hpc-image-public/global/images/hpc-rocky-linux-8-v20240126,mode=rw,size=100,type=pd-balanced \
  --metadata=enable-oslogin=FALSE \
  --metadata-from-file=ssh-keys=./keys.txt,startup-script=./startup-script \
  --count ${NUM_CLIENTS}

O que se segue?