Gemini-Modellgewichte in GDC laden

Auf dieser Seite erfahren Sie, wie Sie die Gewichte des Gemini-Modells in einen Speicher-Bucket für Ihre Organisation in Google Distributed Cloud (GDC) Air-Gapped laden.

Nachdem das Modell geladen wurde, können Sie Gemini in GDC verwenden. Weitere Informationen finden Sie unter Funktionen.

Hinweise

Zum Laden von Gemini-Modellgewichten in einen Speicher-Bucket benötigen Sie Folgendes:

  • Ein vorhandener Speicher-Bucket.

  • Die erforderlichen Identitäts- und Zugriffsrollen. Bitten Sie Ihren Sicherheitsadministrator, Ihnen die folgenden Rollen zuzuweisen:

    • Gemini Artifact Distributor (gemini-artifacts-distributor): Hat Lese- und Schreibzugriff auf Objekt-Storage-Buckets für gemini-model-artifact-registry-Ressourcen.
    • Gemini Artifacts Cluster Viewer (gemini-artifacts-distributor-cluster-role): Hat Lesezugriff auf Object Storage-Buckets im Cluster-Namespace.

  • Gewichte des Gemini-Modells herunterladen und übertragen Die Modellgewichte werden aus der TAR-Datei extrahiert und sind in Form eines Verzeichnisses unter /root/release/arbitrary-artifacts/gemini verfügbar.

Gemini-Modell in den Speicher-Bucket laden

So laden Sie die Gemini-Modellgewichte in den Speicher-Bucket:

  1. Melden Sie sich in Ihrer Organisation an, in der Gemini heruntergeladen und extrahiert wurde. Weitere Informationen finden Sie unter Gemini-Modell herunterladen und übertragen.

    gdcloud config set core/organization_console_url
https://console.GEMINI_ORG.zone1.google.gdch.test

    Ersetzen Sie GEMINI_ORG durch den Namen Ihrer Organisation.

  2. Melden Sie sich mit der gcloud CLI an.

  3. Legen Sie den Pfad zum extrahierten und heruntergeladenen Modell fest:

    export GEMINI_ARTIFACTS=/root/release/arbitrary-artifacts/gemini

  4. Verwenden Sie den Befehl gdcloud system arbitrary-artifacts load, um das Modellgewicht in den Speicher-Bucket zu laden:

    gdcloud system arbitrary-artifacts load $GEMINI_ARTIFACTS

  5. Prüfen Sie, ob der Speicher-Bucket das Modellgewicht enthält. Listen Sie dazu den Inhalt des Buckets auf:

    gdcloud storage ls –-recursive s3://BUCKET_FQDN

    Ersetzen Sie BUCKET_FQDN durch den vollständig qualifizierten Namen des Buckets.

  6. Laden Sie die Container-Images mit dem Modell mit dem Befehl load-oci in Container Registry hoch:

    gdcloud system container-registry load-oci BUNDLE_SUB_FOLDER --create-release-metadata=false --skip-failover-registry

    Ersetzen Sie BUNDLE_SUB_FOLDER durch den Pfad zu den Container-Images, z. B. oci/.

    Gemini wird jetzt in GDC geladen.

Nächste Schritte