Transfira e transfira os pesos do modelo Gemini

Esta página detalha como transferir os pesos do modelo Gemini e transferir o modelo para o seu ambiente desligado para utilização no Google Distributed Cloud (GDC) com isolamento de ar. Este guia destina-se aos operadores de infraestrutura (OIs) e tem de trabalhar em estreita colaboração com o seu ponto de contacto da Google para transferir e transferir com êxito os pesos do modelo Gemini.

Os passos gerais para integrar o modelo Gemini no seu ambiente da GDC são:

  1. Transfira a imagem que contém o modelo para um dispositivo com acesso à Internet para a transferir para a sua implementação do GDC. Para mais informações sobre o processo de transferência no GDC, consulte o artigo Transferir ficheiros.
  2. Transfira o modelo para o seu ambiente isolado. Para mais informações sobre uma forma de transferir ficheiros para o seu ambiente isolado, consulte o artigo Transfira a transferência da nuvem distribuída para o seu ambiente isolado.

Antes de começar

Para transferir os pesos do modelo Gemini para o seu GDC, tem de ter o seguinte:

  • Configure a rede para o Gemini.
  • Partilhe a sua chave pública gerada pelo Gemini com a Google para encriptar o modelo especificamente para a sua conta.
  • Ter sessão iniciada na sua conta e ter acesso ao seu contentor do Cloud Storage.
  • Ter o gcloud e o gsutil instalados.

Transfira e transfira os pesos do modelo Gemini

Tem de trabalhar em estreita colaboração com um ponto de contacto da Google para concluir os passos nesta secção. Para transferir os pesos do modelo do Gemini para o GDC, siga estes passos:

  1. Peça ao seu ponto de contacto da Google os URLs necessários para fazer a transferência. Precisa de valores para as variáveis DOWNLOADER_URL e MANIFEST_URL.
  2. Execute gcloud auth login para aceder ao contentor do Cloud Storage usado no passo seguinte.

  3. Transfira e valide a assinatura do programa de transferência:

    gcloud storage cp DOWNLOADER_URL .
gcloud storage cp DOWNLOADER_URL.sig .
gcloud storage cp MANIFEST_URL .
gcloud storage cp MANIFEST_URL.sig .
PUBLIC_KEY=$(cat <<-PUBEND
-----BEGIN PUBLIC KEY-----
MFkwEwYHKoZIzj0CAQYIKoZIzj0DAQcDQgAEn46iVSyFXsvuKLZ4dVOr2AqlXDnR
5cKztkpraexHDxn/ozq03EvrdkRmZkSACFfcaEFyitpraidgAx8sPjvzXQ==
-----END PUBLIC KEY-----
PUBEND 
)
echo "${PUBLIC_KEY}" > "key.pub" 
openssl dgst -sha256 -verify "key.pub" -signature "downloader.sig" downloader
chmod +x downloader && ./downloader \
--skip-unzip 
--release-manifest-filepath $(pwd)/manifest.json \
--release-manifest-signature-filepath $(pwd)/manifest.json.sig \
--download-directory $(pwd) \
--pubkey-filepath $(pwd)/key.pub

    Substitua o seguinte:

    • DOWNLOADER_URL: o URL do primeiro passo.
    • MANIFEST_URL: o URL do primeiro passo.

  4. Copie o script de transferência, o manifesto e o download-directory para o seu ambiente.

  5. Copie a atualização para o ambiente de infraestrutura do Operations Suite (OI). Coloque os ficheiros num local semelhante, como/home/download/.

  6. Extraia a imagem que contém o modelo Gemini:

    PUBLIC_KEY=$(cat <<-PUBEND
-----BEGIN PUBLIC KEY-----
MFkwEwYHKoZIzj0CAQYIKoZIzj0DAQcDQgAEn46iVSyFXsvuKLZ4dVOr2AqlXDnR
5cKztkpraexHDxn/ozq03EvrdkRmZkSACFfcaEFyitpraidgAx8sPjvzXQ==
-----END PUBLIC KEY-----
PUBEND
)
echo "${PUBLIC_KEY}" > "key.pub" 
openssl dgst -sha256 -verify "key.pub" -signature "downloader.sig" downloader 
chmod +x ./downloader && ./downloader \
--skip-download \
--release-manifest-filepath $(pwd)/manifest.json \
--release-manifest-signature-filepath $(pwd)/manifest.json.sig \
--download-directory $(pwd) \
--pubkey-filepath $(pwd)/key.pub
1.  If the configuration is successful, the console returns an output
similar to the following:

```none {.:devsite-disable-click-to-copy}
I0318 20:34:58.610286 1678445 downloader.go:228] Downloading from
gs://foo/bar/0.0.encrypted.bin.sig...
I0318 20:34:58.658212 1678445 downloader.go:198] Blob foo/bar/0.0.encrypted.bin.sig downloaded to local
file /usr/local/dir/foo/bar/0.0.encrypted.bin.sig...
I0318 20:34:58.658449 1678445 downloader.go:257] Validating artifact at
/usr/local/dir/foo/bar/0.0.encrypted.bin... against signed digest ...
GDCH downloaded and unpacked successfully.
Find artifacts at /usr/home/root/gdch/gemini

O que se segue?