Descarga y transfiere los pesos del modelo de Gemini

En esta página, se detalla cómo descargar los pesos del modelo de Gemini y transferir el modelo a tu entorno desconectado para usarlo en Google Distributed Cloud (GDC) aislado. Esta guía está dirigida a los operadores de infraestructura (IO), y debes trabajar en estrecha colaboración con tu punto de contacto de Google para descargar y transferir correctamente los pesos del modelo de Gemini.

Estos son los pasos generales para incorporar el modelo de Gemini a tu entorno de GDC:

  1. Descarga la imagen que contiene el modelo en un dispositivo con acceso a Internet para transferirla a tu implementación de GDC. Para obtener más información sobre el proceso de descarga en GDC, consulta Descarga archivos.
  2. Transfiere el modelo a tu entorno aislado. Si deseas obtener más información sobre una forma de transferir archivos a tu entorno aislado, consulta Cómo transferir la descarga de Distributed Cloud a tu entorno aislado.

Antes de comenzar

Para descargar y transferir los pesos del modelo de Gemini a tu GDC, debes tener lo siguiente:

  • Configura la red para Gemini.
  • Comparte tu clave pública generada por Gemini con Google para encriptar el modelo específicamente para tu cuenta.
  • Haber accedido a tu cuenta y tener acceso a tu bucket de Cloud Storage
  • Tener instalados gcloud y gsutil

Descarga y transfiere los pesos del modelo de Gemini

Debes trabajar en estrecha colaboración con un punto de contacto de Google para completar los pasos de esta sección. Para descargar y transferir los pesos del modelo de Gemini al GDC, sigue estos pasos:

  1. Pídele a tu punto de contacto de Google las URLs necesarias para realizar la descarga. Necesitas valores para las variables DOWNLOADER_URL y MANIFEST_URL.
  2. Ejecuta gcloud auth login para acceder al bucket de Cloud Storage que se usará en el siguiente paso.

  3. Descarga y verifica la firma del descargador:

    gcloud storage cp DOWNLOADER_URL .
gcloud storage cp DOWNLOADER_URL.sig .
gcloud storage cp MANIFEST_URL .
gcloud storage cp MANIFEST_URL.sig .
PUBLIC_KEY=$(cat <<-PUBEND
-----BEGIN PUBLIC KEY-----
MFkwEwYHKoZIzj0CAQYIKoZIzj0DAQcDQgAEn46iVSyFXsvuKLZ4dVOr2AqlXDnR
5cKztkpraexHDxn/ozq03EvrdkRmZkSACFfcaEFyitpraidgAx8sPjvzXQ==
-----END PUBLIC KEY-----
PUBEND 
)
echo "${PUBLIC_KEY}" > "key.pub" 
openssl dgst -sha256 -verify "key.pub" -signature "downloader.sig" downloader
chmod +x downloader && ./downloader \
--skip-unzip 
--release-manifest-filepath $(pwd)/manifest.json \
--release-manifest-signature-filepath $(pwd)/manifest.json.sig \
--download-directory $(pwd) \
--pubkey-filepath $(pwd)/key.pub

    Reemplaza lo siguiente:

    • DOWNLOADER_URL: Es la URL del primer paso.
    • MANIFEST_URL: Es la URL del primer paso.

  4. Copia la secuencia de comandos del descargador, el manifiesto y el download-directory en tu entorno.

  5. Copia la actualización en el entorno de la infraestructura de Operations Suite (OI). Coloca los archivos en un lugar similar, como/home/download/.

  6. Extrae la imagen que contiene el modelo de Gemini:

    PUBLIC_KEY=$(cat <<-PUBEND
-----BEGIN PUBLIC KEY-----
MFkwEwYHKoZIzj0CAQYIKoZIzj0DAQcDQgAEn46iVSyFXsvuKLZ4dVOr2AqlXDnR
5cKztkpraexHDxn/ozq03EvrdkRmZkSACFfcaEFyitpraidgAx8sPjvzXQ==
-----END PUBLIC KEY-----
PUBEND
)
echo "${PUBLIC_KEY}" > "key.pub" 
openssl dgst -sha256 -verify "key.pub" -signature "downloader.sig" downloader 
chmod +x ./downloader && ./downloader \
--skip-download \
--release-manifest-filepath $(pwd)/manifest.json \
--release-manifest-signature-filepath $(pwd)/manifest.json.sig \
--download-directory $(pwd) \
--pubkey-filepath $(pwd)/key.pub
1.  If the configuration is successful, the console returns an output
similar to the following:

```none {.:devsite-disable-click-to-copy}
I0318 20:34:58.610286 1678445 downloader.go:228] Downloading from
gs://foo/bar/0.0.encrypted.bin.sig...
I0318 20:34:58.658212 1678445 downloader.go:198] Blob foo/bar/0.0.encrypted.bin.sig downloaded to local
file /usr/local/dir/foo/bar/0.0.encrypted.bin.sig...
I0318 20:34:58.658449 1678445 downloader.go:257] Validating artifact at
/usr/local/dir/foo/bar/0.0.encrypted.bin... against signed digest ...
GDCH downloaded and unpacked successfully.
Find artifacts at /usr/home/root/gdch/gemini

¿Qué sigue?