Descargar y transferir los pesos del modelo de Gemini

En esta página se explica cómo descargar los pesos del modelo de Gemini y transferir el modelo a tu entorno desconectado para usarlo en Google Distributed Cloud (GDC) aislado. Esta guía está dirigida a operadores de infraestructura (IOs) y debes colaborar estrechamente con tu contacto de Google para descargar y transferir correctamente los pesos del modelo de Gemini.

Estos son los pasos generales para incorporar el modelo de Gemini a tu entorno de GDC:

  1. Descarga la imagen que contiene el modelo en un dispositivo con acceso a Internet para transferirla a tu implementación de GDC. Para obtener más información sobre el proceso de descarga en GDC, consulta Descargar archivos.
  2. Transfiere el modelo a tu entorno aislado. Para obtener más información sobre una forma de transferir archivos a tu entorno con air gap, consulta Transferir la descarga de Distributed Cloud a tu entorno con air gap.

Antes de empezar

Para descargar y transferir los pesos del modelo de Gemini a tu GDC, debes tener lo siguiente:

  • Configura la red para Gemini.
  • Comparte con Google la clave pública generada por Gemini para cifrar el modelo específicamente para tu cuenta.
  • Haber iniciado sesión en tu cuenta y tener acceso a tu segmento de Cloud Storage.
  • Tener instalados gcloud y gsutil.

Descargar y transferir los pesos del modelo de Gemini

Para completar los pasos de esta sección, debes colaborar estrechamente con una persona de contacto de Google. Para descargar y transferir los pesos del modelo de Gemini a GDC, sigue estos pasos:

  1. Pide a tu persona de contacto de Google las URLs necesarias para realizar la descarga. Necesitas los valores de las variables DOWNLOADER_URL y MANIFEST_URL.
  2. Ejecuta gcloud auth login para acceder al segmento de Cloud Storage que se usa en el siguiente paso.

  3. Descarga y verifica la firma del descargador:

    gcloud storage cp DOWNLOADER_URL .
gcloud storage cp DOWNLOADER_URL.sig .
gcloud storage cp MANIFEST_URL .
gcloud storage cp MANIFEST_URL.sig .
PUBLIC_KEY=$(cat <<-PUBEND
-----BEGIN PUBLIC KEY-----
MFkwEwYHKoZIzj0CAQYIKoZIzj0DAQcDQgAEn46iVSyFXsvuKLZ4dVOr2AqlXDnR
5cKztkpraexHDxn/ozq03EvrdkRmZkSACFfcaEFyitpraidgAx8sPjvzXQ==
-----END PUBLIC KEY-----
PUBEND 
)
echo "${PUBLIC_KEY}" > "key.pub" 
openssl dgst -sha256 -verify "key.pub" -signature "downloader.sig" downloader
chmod +x downloader && ./downloader \
--skip-unzip 
--release-manifest-filepath $(pwd)/manifest.json \
--release-manifest-signature-filepath $(pwd)/manifest.json.sig \
--download-directory $(pwd) \
--pubkey-filepath $(pwd)/key.pub

    Haz los cambios siguientes:

    • DOWNLOADER_URL: la URL del primer paso.
    • MANIFEST_URL: la URL del primer paso.

  4. Copia la secuencia de comandos de descarga, el manifiesto y el download-directory en tu entorno.

  5. Copia la actualización en el entorno de infraestructura de Operations Suite (OI). Coloca los archivos en un lugar similar, como /home/download/.

  6. Extrae la imagen que contiene el modelo de Gemini:

    PUBLIC_KEY=$(cat <<-PUBEND
-----BEGIN PUBLIC KEY-----
MFkwEwYHKoZIzj0CAQYIKoZIzj0DAQcDQgAEn46iVSyFXsvuKLZ4dVOr2AqlXDnR
5cKztkpraexHDxn/ozq03EvrdkRmZkSACFfcaEFyitpraidgAx8sPjvzXQ==
-----END PUBLIC KEY-----
PUBEND
)
echo "${PUBLIC_KEY}" > "key.pub" 
openssl dgst -sha256 -verify "key.pub" -signature "downloader.sig" downloader 
chmod +x ./downloader && ./downloader \
--skip-download \
--release-manifest-filepath $(pwd)/manifest.json \
--release-manifest-signature-filepath $(pwd)/manifest.json.sig \
--download-directory $(pwd) \
--pubkey-filepath $(pwd)/key.pub
1.  If the configuration is successful, the console returns an output
similar to the following:

```none {.:devsite-disable-click-to-copy}
I0318 20:34:58.610286 1678445 downloader.go:228] Downloading from
gs://foo/bar/0.0.encrypted.bin.sig...
I0318 20:34:58.658212 1678445 downloader.go:198] Blob foo/bar/0.0.encrypted.bin.sig downloaded to local
file /usr/local/dir/foo/bar/0.0.encrypted.bin.sig...
I0318 20:34:58.658449 1678445 downloader.go:257] Validating artifact at
/usr/local/dir/foo/bar/0.0.encrypted.bin... against signed digest ...
GDCH downloaded and unpacked successfully.
Find artifacts at /usr/home/root/gdch/gemini

Siguientes pasos