Baixar e transferir os pesos do modelo do Gemini

Nesta página, detalhamos como baixar os pesos do modelo Gemini e transferir o modelo para seu ambiente desconectado para uso no Google Distributed Cloud (GDC) com isolamento físico. Este guia é destinado a operadores de infraestrutura (IOs, na sigla em inglês), e você precisa trabalhar em estreita colaboração com seu ponto de contato do Google para baixar e transferir os pesos do modelo Gemini.

As etapas gerais para colocar o modelo do Gemini no seu ambiente do GDC são:

  1. Baixe a imagem que contém o modelo em um dispositivo com acesso à Internet para transferência para sua implantação do GDC. Para mais informações sobre o processo de download no GDC, consulte Fazer o download de arquivos.
  2. Transfira o modelo para seu ambiente isolado. Para mais informações sobre uma maneira de transferir arquivos para seu ambiente isolado, consulte Transferir o download do Distributed Cloud para seu ambiente isolado.

Antes de começar

Para fazer o download e transferir os pesos do modelo do Gemini para seu GDC, você precisa ter o seguinte:

  • Configure a rede para o Gemini.
  • Compartilhe sua chave pública gerada pelo Gemini com o Google para criptografar o modelo especificamente para sua conta.
  • Faça login na sua conta e tenha acesso ao bucket do Cloud Storage.
  • Ter o gcloud e o gsutil instalados.

Baixar e transferir os pesos do modelo do Gemini

É necessário trabalhar em conjunto com um ponto de contato do Google para concluir as etapas desta seção. Para fazer o download e transferir os pesos do modelo do Gemini para o GDC, siga estas etapas:

  1. Pergunte ao seu ponto de contato do Google quais URLs são necessários para fazer o download. Você precisa de valores para as variáveis DOWNLOADER_URL e MANIFEST_URL.
  2. Execute gcloud auth login para acessar o bucket do Cloud Storage usado na próxima etapa.

  3. Faça o download e verifique a assinatura do downloader:

    gcloud storage cp DOWNLOADER_URL .
gcloud storage cp DOWNLOADER_URL.sig .
gcloud storage cp MANIFEST_URL .
gcloud storage cp MANIFEST_URL.sig .
PUBLIC_KEY=$(cat <<-PUBEND
-----BEGIN PUBLIC KEY-----
MFkwEwYHKoZIzj0CAQYIKoZIzj0DAQcDQgAEn46iVSyFXsvuKLZ4dVOr2AqlXDnR
5cKztkpraexHDxn/ozq03EvrdkRmZkSACFfcaEFyitpraidgAx8sPjvzXQ==
-----END PUBLIC KEY-----
PUBEND 
)
echo "${PUBLIC_KEY}" > "key.pub" 
openssl dgst -sha256 -verify "key.pub" -signature "downloader.sig" downloader
chmod +x downloader && ./downloader \
--skip-unzip 
--release-manifest-filepath $(pwd)/manifest.json \
--release-manifest-signature-filepath $(pwd)/manifest.json.sig \
--download-directory $(pwd) \
--pubkey-filepath $(pwd)/key.pub

    Substitua:

    • DOWNLOADER_URL: o URL da primeira etapa.
    • MANIFEST_URL: o URL da primeira etapa.

  4. Copie o script do downloader, o manifesto e o download-directory para seu ambiente.

  5. Copie a atualização para o ambiente da infraestrutura do pacote de operações (OI). Coloque os arquivos em um local semelhante, como /home/download/.

  6. Extraia a imagem que contém o modelo do Gemini:

    PUBLIC_KEY=$(cat <<-PUBEND
-----BEGIN PUBLIC KEY-----
MFkwEwYHKoZIzj0CAQYIKoZIzj0DAQcDQgAEn46iVSyFXsvuKLZ4dVOr2AqlXDnR
5cKztkpraexHDxn/ozq03EvrdkRmZkSACFfcaEFyitpraidgAx8sPjvzXQ==
-----END PUBLIC KEY-----
PUBEND
)
echo "${PUBLIC_KEY}" > "key.pub" 
openssl dgst -sha256 -verify "key.pub" -signature "downloader.sig" downloader 
chmod +x ./downloader && ./downloader \
--skip-download \
--release-manifest-filepath $(pwd)/manifest.json \
--release-manifest-signature-filepath $(pwd)/manifest.json.sig \
--download-directory $(pwd) \
--pubkey-filepath $(pwd)/key.pub
1.  If the configuration is successful, the console returns an output
similar to the following:

```none {.:devsite-disable-click-to-copy}
I0318 20:34:58.610286 1678445 downloader.go:228] Downloading from
gs://foo/bar/0.0.encrypted.bin.sig...
I0318 20:34:58.658212 1678445 downloader.go:198] Blob foo/bar/0.0.encrypted.bin.sig downloaded to local
file /usr/local/dir/foo/bar/0.0.encrypted.bin.sig...
I0318 20:34:58.658449 1678445 downloader.go:257] Validating artifact at
/usr/local/dir/foo/bar/0.0.encrypted.bin... against signed digest ...
GDCH downloaded and unpacked successfully.
Find artifacts at /usr/home/root/gdch/gemini

A seguir