O serviço do Compute Engine oferece suporte à criação de várias VMs com o comando gcloud compute instances bulk create.
As seções a seguir descrevem o processo de criação de um script de inicialização e a implantação dele em qualquer número de VMs do Compute Engine.
Para instruções detalhadas sobre como criar e se conectar a uma única VM, consulte Conectar-se do Compute Engine: cliente único.
Permissões necessárias
Você precisa ter o seguinte papel do IAM para criar uma VM do Compute Engine:
- Administrador de instâncias do Compute (v1) (
roles/compute.instanceAdmin.v1). Para mais informações, consulte a [documentação do Compute Engine][gce-role].
Defina as variáveis de ambiente
As seguintes variáveis de ambiente são usadas nos comandos de exemplo neste documento:
export SSH_USER="daos-user"
export CLIENT_PREFIX="daos-client-vm"
export NUM_CLIENTS=10
Atualize esses valores para os valores desejados.
Criar uma chave SSH
Crie uma chave SSH e salve-a localmente para ser distribuída às VMs do cliente. A chave é associada ao usuário SSH especificado nas variáveis de ambiente e é criada em cada VM:
# Generate an SSH key for the specified user
ssh-keygen -t rsa -b 4096 -C "${SSH_USER}" -N '' -f "./id_rsa"
chmod 600 "./id_rsa"
# Create a new file in the format [user]:[public key] user
echo "${SSH_USER}:$(cat "./id_rsa.pub") ${SSH_USER}" > "./keys.txt"
Acessar detalhes da rede do Parallelstore
Receba os endereços IP do servidor do Parallelstore em um formato que possa ser consumido pelo agente DAOS:
export ACCESS_POINTS=$(gcloud beta parallelstore instances describe INSTANCE_NAME \
--location LOCATION \
--format "value[delimiter=', '](format("{0}", accessPoints))")
Confira o nome da rede associada à instância do Parallelstore:
export NETWORK=$(gcloud beta parallelstore instances describe INSTANCE_NAME \
--location LOCATION \
--format "value[delimiter=', '](format("{0}", network))") | awk -F '/' '{print $NF}'
Crie o script de inicialização
O script de inicialização é anexado à VM e é executado sempre que o sistema é iniciado. O script de inicialização faz o seguinte:
- Configura o agente daos
- Instala as bibliotecas necessárias
- Monta a instância do Parallelstore em
/tmp/parallelstore/em cada VM
O script a seguir funciona em VMs com o HPC Rocky 8.
# Create a startup script that configures the VM
cat > ./startup-script << EOF
sudo tee /etc/yum.repos.d/parallelstore-v2-6-el8.repo << INNEREOF
[parallelstore-v2-6-el8]
name=Parallelstore EL8 v2.6
baseurl=https://us-central1-yum.pkg.dev/projects/parallelstore-packages/v2-6-el8
enabled=1
repo_gpgcheck=0
gpgcheck=0
INNEREOF
sudo dnf makecache
# Install daos-client
dnf install -y epel-release # needed for capstone
dnf install -y daos-client
# Upgrade libfabric
dnf upgrade -y libfabric
systemctl stop daos_agent
mkdir -p /etc/daos
cat > /etc/daos/daos_agent.yml << INNEREOF
access_points: ${ACCESS_POINTS}
transport_config:
allow_insecure: true
fabric_ifaces:
- numa_node: 0
devices:
- iface: eth0
domain: eth0
INNEREOF
echo -e "Host *\n\tStrictHostKeyChecking no\n\tUserKnownHostsFile /dev/null" > /home/${SSH_USER}/.ssh/config
chmod 600 /home/${SSH_USER}/.ssh/config
usermod -u 2000 ${SSH_USER}
groupmod -g 2000 ${SSH_USER}
chown -R ${SSH_USER}:${SSH_USER} /home/${SSH_USER}
chown -R daos_agent:daos_agent /etc/daos/
systemctl enable daos_agent
systemctl start daos_agent
mkdir -p /tmp/parallelstore
dfuse -m /tmp/parallelstore --pool default-pool --container default-container --disable-wb-cache --thread-count=16 --eq-count=8 --multi-user
chmod 777 /tmp/parallelstore
EOF
Para otimizar os valores de --thread-count e --eq-count, consulte a seção
Contagem de linhas de execução e contagem de filas de eventos da página
Considerações sobre desempenho.
Criar as VMs do cliente
O desempenho geral das cargas de trabalho depende dos tipos de máquinas clientes.
O exemplo a seguir usa VMs c2-standard-30. Modifique o valor machine-type
para aumentar o desempenho com NICs mais rápidas. Consulte o
Guia de comparação e recursos de famílias de máquinas para saber mais sobre
os tipos de máquinas disponíveis.
Para criar instâncias de VM em massa, use o comando gcloud compute instances bulk create:
gcloud compute instances bulk create \
--name-pattern="${CLIENT_PREFIX}-####" \
--zone="LOCATION" \
--machine-type="c2-standard-30" \
--network-interface=subnet=${NETWORK},nic-type=GVNIC \
--network-performance-configs=total-egress-bandwidth-tier=TIER_1 \
--create-disk=auto-delete=yes,boot=yes,device-name=client-vm1,image=projects/cloud-hpc-image-public/global/images/hpc-rocky-linux-8-v20240126,mode=rw,size=100,type=pd-balanced \
--metadata=enable-oslogin=FALSE \
--metadata-from-file=ssh-keys=./keys.txt,startup-script=./startup-script \
--count ${NUM_CLIENTS}