下载并转移 Gemini 模型权重

本页面详细介绍了如何下载 Gemini 模型权重,以及如何将模型转移到断网环境中,以便在 Google Distributed Cloud (GDC) 气隙环境中进行使用。本指南面向的是基础设施运营商 (IO),您必须与 Google 联系人密切合作,才能成功下载和转移 Gemini 模型权重。

将 Gemini 模型纳入 GDC 环境的概要步骤如下:

  1. 将包含模型的映像下载到可访问互联网的设备,以便转移到 GDC 部署中。如需详细了解 GDC 中的下载流程,请参阅下载文件
  2. 将模型转移到网闸隔离环境中。如需详细了解将文件传输到网闸隔离环境的一种方法,请参阅将 Distributed Cloud 下载内容传输到网闸隔离环境

准备工作

如需下载 Gemini 模型权重并将其转移到 GDC,您必须满足以下条件:

  • 为 Gemini 设置网络
  • 将 Gemini 生成的公钥分享给 Google,以便专门为您的账号加密模型。
  • 已登录您的账号,并且有权访问您的 Cloud Storage 存储桶。
  • 已安装 gcloudgsutil

下载并转移 Gemini 模型权重

您必须与 Google 联系人密切合作,才能完成本部分中的步骤。 如需下载 Gemini 模型权重并将其转移到 GDC,请按以下步骤操作:

  1. 向您的 Google 联系人索取执行下载所需的网址。您需要 DOWNLOADER_URLMANIFEST_URL 变量的值。
  2. 运行 gcloud auth login 以访问下一步中使用的 Cloud Storage 存储桶。
  3. 下载并验证下载器签名:

    gcloud storage cp DOWNLOADER_URL .
    gcloud storage cp DOWNLOADER_URL.sig .
    gcloud storage cp MANIFEST_URL .
    gcloud storage cp MANIFEST_URL.sig .
    PUBLIC_KEY=$(cat <<-PUBEND
    -----BEGIN PUBLIC KEY-----
    MFkwEwYHKoZIzj0CAQYIKoZIzj0DAQcDQgAEn46iVSyFXsvuKLZ4dVOr2AqlXDnR
    5cKztkpraexHDxn/ozq03EvrdkRmZkSACFfcaEFyitpraidgAx8sPjvzXQ==
    -----END PUBLIC KEY-----
    PUBEND 
    )
    echo "${PUBLIC_KEY}" > "key.pub" 
    openssl dgst -sha256 -verify "key.pub" -signature "downloader.sig" downloader
    chmod +x downloader && ./downloader \
    --skip-unzip 
    --release-manifest-filepath $(pwd)/manifest.json \
    --release-manifest-signature-filepath $(pwd)/manifest.json.sig \
    --download-directory $(pwd) \
    --pubkey-filepath $(pwd)/key.pub
    

    替换以下内容:

    • DOWNLOADER_URL:第一步中的网址。
    • MANIFEST_URL:第一步中的网址。
  4. 将下载器脚本、清单和 download-directory 一起复制到您的环境中。

  5. 将更新复制到 Operations Suite 基础架构 (OI) 环境。 将文件放在类似的位置,例如 /home/download/

  6. 提取包含 Gemini 模型的映像:

    PUBLIC_KEY=$(cat <<-PUBEND
    -----BEGIN PUBLIC KEY-----
    MFkwEwYHKoZIzj0CAQYIKoZIzj0DAQcDQgAEn46iVSyFXsvuKLZ4dVOr2AqlXDnR
    5cKztkpraexHDxn/ozq03EvrdkRmZkSACFfcaEFyitpraidgAx8sPjvzXQ==
    -----END PUBLIC KEY-----
    PUBEND
    )
    echo "${PUBLIC_KEY}" > "key.pub" 
    openssl dgst -sha256 -verify "key.pub" -signature "downloader.sig" downloader 
    chmod +x ./downloader && ./downloader \
    --skip-download \
    --release-manifest-filepath $(pwd)/manifest.json \
    --release-manifest-signature-filepath $(pwd)/manifest.json.sig \
    --download-directory $(pwd) \
    --pubkey-filepath $(pwd)/key.pub
    1.  If the configuration is successful, the console returns an output
    similar to the following:
    
    ```none {.:devsite-disable-click-to-copy}
    I0318 20:34:58.610286 1678445 downloader.go:228] Downloading from
    gs://foo/bar/0.0.encrypted.bin.sig...
    I0318 20:34:58.658212 1678445 downloader.go:198] Blob foo/bar/0.0.encrypted.bin.sig downloaded to local
    file /usr/local/dir/foo/bar/0.0.encrypted.bin.sig...
    I0318 20:34:58.658449 1678445 downloader.go:257] Validating artifact at
    /usr/local/dir/foo/bar/0.0.encrypted.bin... against signed digest ...
    GDCH downloaded and unpacked successfully.
    Find artifacts at /usr/home/root/gdch/gemini
    

后续步骤