Compute Engine 服务支持使用 gcloud compute instances bulk create 命令创建多个虚拟机。
以下部分介绍了创建启动脚本并将其部署到任意数量的 Compute Engine 虚拟机的过程。
如需详细了解如何创建和连接到单个虚拟机，请参阅从 Compute Engine 连接：单个客户端。
所需权限
您必须拥有以下 IAM 角色，才能创建 Compute Engine 虚拟机：
- Compute Instance Admin (v1) (
roles/compute.instanceAdmin.v1)。如需了解详情，请参阅 [Compute Engine 文档][gce-role]。
设置环境变量
本文档中的示例命令使用了以下环境变量：
export SSH_USER="daos-user"
export CLIENT_PREFIX="daos-client-vm"
export NUM_CLIENTS=10
将这些值更新为所需的值。
创建 SSH 密钥
创建 SSH 密钥并将其保存到本地，以便分发给客户端虚拟机。该密钥与环境变量中指定的 SSH 用户相关联，并在每个虚拟机上创建：
# Generate an SSH key for the specified user
ssh-keygen -t rsa -b 4096 -C "${SSH_USER}" -N '' -f "./id_rsa"
chmod 600 "./id_rsa"
# Create a new file in the format [user]:[public key] user
echo "${SSH_USER}:$(cat "./id_rsa.pub") ${SSH_USER}" > "./keys.txt"
获取 Parallelstore 网络详细信息
以 daos 代理可用的格式获取 Parallelstore 服务器 IP 地址：
export ACCESS_POINTS=$(gcloud beta parallelstore instances describe INSTANCE_NAME \
--location LOCATION \
--format "value[delimiter=', '](format("{0}", accessPoints))")
获取与 Parallelstore 实例关联的网络名称：
export NETWORK=$(gcloud beta parallelstore instances describe INSTANCE_NAME \
--location LOCATION \
--format "value[delimiter=', '](format("{0}", network))") | awk -F '/' '{print $NF}'
创建启动脚本
启动脚本会附加到虚拟机，并在系统每次启动时运行。启动脚本会执行以下操作：
- 配置 daos 代理
- 安装所需的库
- 将 Parallelstore 实例挂载到每个虚拟机上的
/tmp/parallelstore/
以下脚本适用于运行 HPC Rocky 8 的虚拟机。
# Create a startup script that configures the VM
cat > ./startup-script << EOF
sudo tee /etc/yum.repos.d/parallelstore-v2-6-el8.repo << INNEREOF
[parallelstore-v2-6-el8]
name=Parallelstore EL8 v2.6
baseurl=https://us-central1-yum.pkg.dev/projects/parallelstore-packages/v2-6-el8
enabled=1
repo_gpgcheck=0
gpgcheck=0
INNEREOF
sudo dnf makecache
# Install daos-client
dnf install -y epel-release # needed for capstone
dnf install -y daos-client
# Upgrade libfabric
dnf upgrade -y libfabric
systemctl stop daos_agent
mkdir -p /etc/daos
cat > /etc/daos/daos_agent.yml << INNEREOF
access_points: ${ACCESS_POINTS}
transport_config:
allow_insecure: true
fabric_ifaces:
- numa_node: 0
devices:
- iface: eth0
domain: eth0
INNEREOF
echo -e "Host *\n\tStrictHostKeyChecking no\n\tUserKnownHostsFile /dev/null" > /home/${SSH_USER}/.ssh/config
chmod 600 /home/${SSH_USER}/.ssh/config
usermod -u 2000 ${SSH_USER}
groupmod -g 2000 ${SSH_USER}
chown -R ${SSH_USER}:${SSH_USER} /home/${SSH_USER}
chown -R daos_agent:daos_agent /etc/daos/
systemctl enable daos_agent
systemctl start daos_agent
mkdir -p /tmp/parallelstore
dfuse -m /tmp/parallelstore --pool default-pool --container default-container --disable-wb-cache --thread-count=16 --eq-count=8 --multi-user
chmod 777 /tmp/parallelstore
EOF
如需有关优化 --thread-count 和 --eq-count 值的帮助，请参阅性能注意事项页面的线程数和事件队列数部分。
创建客户端虚拟机
工作负载的整体性能取决于客户端机器类型。以下示例使用 c2-standard-30 虚拟机；修改 machine-type 值可使用更快的 NIC 提高性能。如需详细了解可用机器类型，请参阅机器系列资源和比较指南。
如需批量创建虚拟机实例，请使用 gcloud compute instances bulk create 命令：
gcloud compute instances bulk create \
--name-pattern="${CLIENT_PREFIX}-####" \
--zone="LOCATION" \
--machine-type="c2-standard-30" \
--network-interface=subnet=${NETWORK},nic-type=GVNIC \
--network-performance-configs=total-egress-bandwidth-tier=TIER_1 \
--create-disk=auto-delete=yes,boot=yes,device-name=client-vm1,image=projects/cloud-hpc-image-public/global/images/hpc-rocky-linux-8-v20240126,mode=rw,size=100,type=pd-balanced \
--metadata=enable-oslogin=FALSE \
--metadata-from-file=ssh-keys=./keys.txt,startup-script=./startup-script \
--count ${NUM_CLIENTS}