Gemini 모델 가중치 다운로드 및 전송

이 페이지에서는 Gemini 모델 가중치를 다운로드하고 Google Distributed Cloud (GDC) 에어 갭에서 사용할 수 있도록 연결이 끊긴 환경으로 모델을 전송하는 방법을 자세히 설명합니다. 이 가이드는 인프라 운영자 (IO)를 대상으로 하며, Gemini 모델 가중치를 성공적으로 다운로드하고 전송하려면 Google 담당자와 긴밀하게 협력해야 합니다.

Gemini 모델을 GDC 환경에 가져오는 대략적인 단계는 다음과 같습니다.

  1. 모델이 포함된 이미지를 인터넷에 액세스할 수 있는 기기에 다운로드하여 GDC 배포에 전송합니다. GDC의 다운로드 프로세스에 관한 자세한 내용은 파일 다운로드를 참고하세요.
  2. 모델을 에어 갭 환경으로 전송합니다. 에어 갭 환경으로 파일을 전송하는 한 가지 방법에 대한 자세한 내용은 에어 갭 환경으로 Distributed Cloud 다운로드 전송을 참고하세요.

시작하기 전에

Gemini 모델 가중치를 다운로드하여 GDC로 전송하려면 다음이 필요합니다.

  • Gemini용 네트워크 설정
  • Gemini에서 생성된 공개 키를 Google과 공유하여 내 계정에 맞게 모델을 암호화합니다.
  • 계정에 로그인되어 있고 Cloud Storage 버킷에 액세스할 수 있어야 합니다.
  • gcloudgsutil이 설치되어 있어야 합니다.

Gemini 모델 가중치 다운로드 및 전송

이 섹션의 단계를 완료하려면 Google 담당자와 긴밀하게 협력해야 합니다. Gemini 모델 가중치를 다운로드하여 GDC로 전송하려면 다음 단계를 따르세요.

  1. 다운로드를 실행하는 데 필요한 URL을 Google 담당자에게 요청하세요. DOWNLOADER_URLMANIFEST_URL 변수의 값이 필요합니다.
  2. gcloud auth login을 실행하여 다음 단계에서 사용되는 Cloud Storage 버킷에 액세스합니다.
  3. 다운로더 서명을 다운로드하고 확인합니다.

    gcloud storage cp DOWNLOADER_URL .
    gcloud storage cp DOWNLOADER_URL.sig .
    gcloud storage cp MANIFEST_URL .
    gcloud storage cp MANIFEST_URL.sig .
    PUBLIC_KEY=$(cat <<-PUBEND
    -----BEGIN PUBLIC KEY-----
    MFkwEwYHKoZIzj0CAQYIKoZIzj0DAQcDQgAEn46iVSyFXsvuKLZ4dVOr2AqlXDnR
    5cKztkpraexHDxn/ozq03EvrdkRmZkSACFfcaEFyitpraidgAx8sPjvzXQ==
    -----END PUBLIC KEY-----
    PUBEND 
    )
    echo "${PUBLIC_KEY}" > "key.pub" 
    openssl dgst -sha256 -verify "key.pub" -signature "downloader.sig" downloader
    chmod +x downloader && ./downloader \
    --skip-unzip 
    --release-manifest-filepath $(pwd)/manifest.json \
    --release-manifest-signature-filepath $(pwd)/manifest.json.sig \
    --download-directory $(pwd) \
    --pubkey-filepath $(pwd)/key.pub
    

    다음을 바꿉니다.

    • DOWNLOADER_URL: 첫 번째 단계의 URL입니다.
    • MANIFEST_URL: 첫 번째 단계의 URL입니다.
  4. 다운로더 스크립트, 매니페스트, download-directory를 모두 환경에 복사합니다.

  5. Operations Suite Infrastructure (OI) 환경에 업데이트를 복사합니다. 파일을 /home/download/와 같은 유사한 위치에 배치합니다.

  6. Gemini 모델이 포함된 이미지를 추출합니다.

    PUBLIC_KEY=$(cat <<-PUBEND
    -----BEGIN PUBLIC KEY-----
    MFkwEwYHKoZIzj0CAQYIKoZIzj0DAQcDQgAEn46iVSyFXsvuKLZ4dVOr2AqlXDnR
    5cKztkpraexHDxn/ozq03EvrdkRmZkSACFfcaEFyitpraidgAx8sPjvzXQ==
    -----END PUBLIC KEY-----
    PUBEND
    )
    echo "${PUBLIC_KEY}" > "key.pub" 
    openssl dgst -sha256 -verify "key.pub" -signature "downloader.sig" downloader 
    chmod +x ./downloader && ./downloader \
    --skip-download \
    --release-manifest-filepath $(pwd)/manifest.json \
    --release-manifest-signature-filepath $(pwd)/manifest.json.sig \
    --download-directory $(pwd) \
    --pubkey-filepath $(pwd)/key.pub
    1.  If the configuration is successful, the console returns an output
    similar to the following:
    
    ```none {.:devsite-disable-click-to-copy}
    I0318 20:34:58.610286 1678445 downloader.go:228] Downloading from
    gs://foo/bar/0.0.encrypted.bin.sig...
    I0318 20:34:58.658212 1678445 downloader.go:198] Blob foo/bar/0.0.encrypted.bin.sig downloaded to local
    file /usr/local/dir/foo/bar/0.0.encrypted.bin.sig...
    I0318 20:34:58.658449 1678445 downloader.go:257] Validating artifact at
    /usr/local/dir/foo/bar/0.0.encrypted.bin... against signed digest ...
    GDCH downloaded and unpacked successfully.
    Find artifacts at /usr/home/root/gdch/gemini
    

다음 단계