將 Gemini 模型權重載入 GDC

本頁面將逐步說明如何將 Gemini 模型權重載入 Google Distributed Cloud (GDC) 氣隙環境中貴機構的儲存空間值區。

模型載入後，您就可以在 GDC 中使用 Gemini。詳情請參閱「功能」。

事前準備

如要將 Gemini 模型權重載入儲存空間值區，必須符合下列條件：

  • 現有儲存空間 bucket。

  • 必要的身分與存取權角色。請要求安全管理員授予下列角色：

    • Gemini 構件發布者 (gemini-artifacts-distributor)：具備物件儲存空間值區的讀寫權限，可存取 gemini-model-artifact-registry 資源。
    • Gemini Artifacts Cluster Viewer (gemini-artifacts-distributor-cluster-role)：具備叢集命名空間中物件儲存空間 bucket 的讀取權限。

  • 下載並轉移 Gemini 模型權重。模型權重會從 tar 檔案中擷取，並以 /root/release/arbitrary-artifacts/gemini 目錄的形式呈現。

將 Gemini 模型載入儲存空間值區

如要將 Gemini 模型權重載入儲存空間 bucket，請按照下列步驟操作：

  1. 登入已下載並解壓縮 Gemini 的機構。詳情請參閱「下載及轉移 Gemini 模型」。

    gdcloud config set core/organization_console_url
https://console.GEMINI_ORG.zone1.google.gdch.test

    將 GEMINI_ORG 換成貴機構的名稱。

  2. 使用 gdcloud CLI 登入。

  3. 設定已解壓縮及下載模型的路徑：

    export GEMINI_ARTIFACTS=/root/release/arbitrary-artifacts/gemini

  4. 使用 gdcloud system arbitrary-artifacts load 指令將模型權重載入儲存空間值區：

    gdcloud system arbitrary-artifacts load $GEMINI_ARTIFACTS

  5. 列出 bucket 的內容，確認儲存空間 bucket 包含模型權重：

    gdcloud storage ls –-recursive s3://BUCKET_FQDN

    將 BUCKET_FQDN 替換為值區的完整名稱。

  6. 使用 load-oci 指令，將含有模型的容器映像檔載入容器登錄：

    gdcloud system container-registry load-oci BUNDLE_SUB_FOLDER --create-release-metadata=false --skip-failover-registry

    將 BUNDLE_SUB_FOLDER 替換為容器映像檔的路徑，例如 oci/。

    Gemini 現在已載入 GDC。

後續步驟