Scaricare e trasferire i pesi del modello Gemini

Questa pagina descrive in dettaglio come scaricare i pesi del modello Gemini e trasferirli al tuo ambiente disconnesso per l'utilizzo in Google Distributed Cloud (GDC) air-gapped. Questa guida è destinata agli operatori dell'infrastruttura e devi collaborare a stretto contatto con il tuo punto di contatto Google per scaricare e trasferire correttamente i pesi del modello Gemini.

I passaggi di alto livello per inserire il modello Gemini nel tuo ambiente GDC sono:

  1. Scarica l'immagine contenente il modello su un dispositivo accessibile a internet per trasferirla al deployment di GDC. Per ulteriori informazioni sulla procedura di download in GDC, vedi Scaricare i file.
  2. Trasferisci il modello nel tuo ambiente isolato. Per ulteriori informazioni su un modo per trasferire file nel tuo ambiente air-gap, vedi Trasferire il download di Distributed Cloud nel tuo ambiente air-gap.

Prima di iniziare

Per scaricare e trasferire i pesi del modello Gemini nel tuo GDC, devi disporre di quanto segue:

  • Configura la rete per Gemini.
  • Condividi la chiave pubblica generata da Gemini con Google per criptare il modello in modo specifico per il tuo account.
  • Aver eseguito l'accesso al tuo account e avere accesso al tuo bucket Cloud Storage.
  • Avere installato gcloud e gsutil.

Scaricare e trasferire i pesi del modello Gemini

Per completare i passaggi di questa sezione, devi collaborare a stretto contatto con un punto di contatto Google. Per scaricare e trasferire i pesi del modello Gemini a GDC, segui questi passaggi:

  1. Chiedi al tuo punto di contatto Google gli URL necessari per eseguire il download. Devi avere i valori per le variabili DOWNLOADER_URL e MANIFEST_URL.
  2. Esegui gcloud auth login per accedere al bucket Cloud Storage utilizzato nel passaggio successivo.

  3. Scarica e verifica la firma del programma di download:

    gcloud storage cp DOWNLOADER_URL .
gcloud storage cp DOWNLOADER_URL.sig .
gcloud storage cp MANIFEST_URL .
gcloud storage cp MANIFEST_URL.sig .
PUBLIC_KEY=$(cat <<-PUBEND
-----BEGIN PUBLIC KEY-----
MFkwEwYHKoZIzj0CAQYIKoZIzj0DAQcDQgAEn46iVSyFXsvuKLZ4dVOr2AqlXDnR
5cKztkpraexHDxn/ozq03EvrdkRmZkSACFfcaEFyitpraidgAx8sPjvzXQ==
-----END PUBLIC KEY-----
PUBEND 
)
echo "${PUBLIC_KEY}" > "key.pub" 
openssl dgst -sha256 -verify "key.pub" -signature "downloader.sig" downloader
chmod +x downloader && ./downloader \
--skip-unzip 
--release-manifest-filepath $(pwd)/manifest.json \
--release-manifest-signature-filepath $(pwd)/manifest.json.sig \
--download-directory $(pwd) \
--pubkey-filepath $(pwd)/key.pub

    Sostituisci quanto segue:

    • DOWNLOADER_URL: l'URL del primo passaggio.
    • MANIFEST_URL: l'URL del primo passaggio.

  4. Copia lo script di download, il manifest e download-directory nel tuo ambiente.

  5. Copia l'aggiornamento nell'ambiente Operations Suite Infrastructure (OI). Colloca i file in una posizione simile, ad esempio/home/download/.

  6. Estrai l'immagine contenente il modello Gemini:

    PUBLIC_KEY=$(cat <<-PUBEND
-----BEGIN PUBLIC KEY-----
MFkwEwYHKoZIzj0CAQYIKoZIzj0DAQcDQgAEn46iVSyFXsvuKLZ4dVOr2AqlXDnR
5cKztkpraexHDxn/ozq03EvrdkRmZkSACFfcaEFyitpraidgAx8sPjvzXQ==
-----END PUBLIC KEY-----
PUBEND
)
echo "${PUBLIC_KEY}" > "key.pub" 
openssl dgst -sha256 -verify "key.pub" -signature "downloader.sig" downloader 
chmod +x ./downloader && ./downloader \
--skip-download \
--release-manifest-filepath $(pwd)/manifest.json \
--release-manifest-signature-filepath $(pwd)/manifest.json.sig \
--download-directory $(pwd) \
--pubkey-filepath $(pwd)/key.pub
1.  If the configuration is successful, the console returns an output
similar to the following:

```none {.:devsite-disable-click-to-copy}
I0318 20:34:58.610286 1678445 downloader.go:228] Downloading from
gs://foo/bar/0.0.encrypted.bin.sig...
I0318 20:34:58.658212 1678445 downloader.go:198] Blob foo/bar/0.0.encrypted.bin.sig downloaded to local
file /usr/local/dir/foo/bar/0.0.encrypted.bin.sig...
I0318 20:34:58.658449 1678445 downloader.go:257] Validating artifact at
/usr/local/dir/foo/bar/0.0.encrypted.bin... against signed digest ...
GDCH downloaded and unpacked successfully.
Find artifacts at /usr/home/root/gdch/gemini

Passaggi successivi