下載並轉移 Gemini 模型權重

本頁面詳細說明如何下載 Gemini 模型權重,並將模型轉移至已中斷連線的環境,以便在 Google Distributed Cloud (GDC) 實體隔離環境中使用。本指南適用於基礎架構作業人員 (IO),您必須與 Google 聯絡窗口密切合作,才能順利下載及轉移 Gemini 模型權重。

將 Gemini 模型導入 GDC 環境的高階步驟如下:

  1. 將含有模型的圖片下載到可存取網際網路的裝置,以便轉移至 GDC 部署作業。如要進一步瞭解 GDC 的下載程序,請參閱「下載檔案」。
  2. 將模型轉移至實體隔離環境。如要進一步瞭解如何將檔案傳輸至氣隙隔離環境,請參閱「將 Distributed Cloud 下載內容傳輸至氣隙隔離環境」。

事前準備

如要下載 Gemini 模型權重並轉移至 GDC,您必須具備下列條件:

  • 設定 Gemini 的網路
  • 將 Gemini 生成的公開金鑰分享給 Google,以便專為您的帳戶加密模型。
  • 登入帳戶並存取 Cloud Storage bucket。
  • 已安裝 gcloudgsutil

下載並轉移 Gemini 模型權重

您必須與 Google 聯絡窗口密切合作,才能完成本節中的步驟。如要下載 Gemini 模型權重並轉移至 GDC,請按照下列步驟操作:

  1. 向 Google 聯絡窗口索取下載所需的網址。您需要 DOWNLOADER_URLMANIFEST_URL 變數的值。
  2. 執行 gcloud auth login,存取下一個步驟中使用的 Cloud Storage bucket。
  3. 下載並驗證下載器簽章:

    gcloud storage cp DOWNLOADER_URL .
    gcloud storage cp DOWNLOADER_URL.sig .
    gcloud storage cp MANIFEST_URL .
    gcloud storage cp MANIFEST_URL.sig .
    PUBLIC_KEY=$(cat <<-PUBEND
    -----BEGIN PUBLIC KEY-----
    MFkwEwYHKoZIzj0CAQYIKoZIzj0DAQcDQgAEn46iVSyFXsvuKLZ4dVOr2AqlXDnR
    5cKztkpraexHDxn/ozq03EvrdkRmZkSACFfcaEFyitpraidgAx8sPjvzXQ==
    -----END PUBLIC KEY-----
    PUBEND 
    )
    echo "${PUBLIC_KEY}" > "key.pub" 
    openssl dgst -sha256 -verify "key.pub" -signature "downloader.sig" downloader
    chmod +x downloader && ./downloader \
    --skip-unzip 
    --release-manifest-filepath $(pwd)/manifest.json \
    --release-manifest-signature-filepath $(pwd)/manifest.json.sig \
    --download-directory $(pwd) \
    --pubkey-filepath $(pwd)/key.pub
    

    更改下列內容:

    • DOWNLOADER_URL:第一個步驟中的網址。
    • MANIFEST_URL:第一個步驟中的網址。
  4. 將下載器指令碼、資訊清單和 download-directory 複製到您的環境。

  5. 將更新複製到 Operations Suite Infrastructure (OI) 環境。將檔案放在類似的位置,例如 /home/download/

  6. 擷取包含 Gemini 模型的圖片:

    PUBLIC_KEY=$(cat <<-PUBEND
    -----BEGIN PUBLIC KEY-----
    MFkwEwYHKoZIzj0CAQYIKoZIzj0DAQcDQgAEn46iVSyFXsvuKLZ4dVOr2AqlXDnR
    5cKztkpraexHDxn/ozq03EvrdkRmZkSACFfcaEFyitpraidgAx8sPjvzXQ==
    -----END PUBLIC KEY-----
    PUBEND
    )
    echo "${PUBLIC_KEY}" > "key.pub" 
    openssl dgst -sha256 -verify "key.pub" -signature "downloader.sig" downloader 
    chmod +x ./downloader && ./downloader \
    --skip-download \
    --release-manifest-filepath $(pwd)/manifest.json \
    --release-manifest-signature-filepath $(pwd)/manifest.json.sig \
    --download-directory $(pwd) \
    --pubkey-filepath $(pwd)/key.pub
    1.  If the configuration is successful, the console returns an output
    similar to the following:
    
    ```none {.:devsite-disable-click-to-copy}
    I0318 20:34:58.610286 1678445 downloader.go:228] Downloading from
    gs://foo/bar/0.0.encrypted.bin.sig...
    I0318 20:34:58.658212 1678445 downloader.go:198] Blob foo/bar/0.0.encrypted.bin.sig downloaded to local
    file /usr/local/dir/foo/bar/0.0.encrypted.bin.sig...
    I0318 20:34:58.658449 1678445 downloader.go:257] Validating artifact at
    /usr/local/dir/foo/bar/0.0.encrypted.bin... against signed digest ...
    GDCH downloaded and unpacked successfully.
    Find artifacts at /usr/home/root/gdch/gemini
    

後續步驟