Gemini 모델 가중치를 GDC에 로드

이 페이지에서는 Google Distributed Cloud (GDC) 에어 갭에서 조직의 스토리지 버킷에 Gemini 모델 가중치를 로드하는 방법을 안내합니다.

모델이 로드되면 GDC 내에서 Gemini를 사용할 수 있습니다. 자세한 내용은 기능을 참고하세요.

시작하기 전에

스토리지 버킷에 Gemini 모델 가중치를 로드하려면 다음이 필요합니다.

  • 기존 스토리지 버킷

  • 필요한 ID 및 액세스 역할입니다. 보안 관리자에게 다음 역할을 부여해 달라고 요청합니다.

    • Gemini 아티팩트 배포자 (gemini-artifacts-distributor): gemini-model-artifact-registry 리소스의 객체 스토리지 버킷에 대한 읽기 및 쓰기 액세스 권한이 있습니다.
    • Gemini Artifacts Cluster Viewer(gemini-artifacts-distributor-cluster-role): 클러스터 네임스페이스의 객체 스토리지 버킷에 대한 읽기 액세스 권한이 있습니다.

  • Gemini 모델 가중치를 다운로드하고 전송합니다. 모델 가중치는 tar 파일에서 추출되며 /root/release/arbitrary-artifacts/gemini의 디렉터리 형태로 표시됩니다.

스토리지 버킷에 Gemini 모델 로드

스토리지 버킷에 Gemini 모델 가중치를 로드하려면 다음 단계를 따르세요.

  1. Gemini가 다운로드되고 추출된 조직에 로그인합니다. 자세한 내용은 Gemini 모델 다운로드 및 전송을 참고하세요.

    gdcloud config set core/organization_console_url
https://console.GEMINI_ORG.zone1.google.gdch.test

    GEMINI_ORG을 조직 이름으로 바꿉니다.

  2. gdcloud CLI로 로그인합니다.

  3. 추출되고 다운로드된 모델의 경로를 설정합니다.

    export GEMINI_ARTIFACTS=/root/release/arbitrary-artifacts/gemini

  4. gdcloud system arbitrary-artifacts load 명령어를 사용하여 모델 가중치를 스토리지 버킷에 로드합니다.

    gdcloud system arbitrary-artifacts load $GEMINI_ARTIFACTS

  5. 버킷의 콘텐츠를 나열하여 스토리지 버킷에 모델 가중치가 포함되어 있는지 확인합니다.

    gdcloud storage ls –-recursive s3://BUCKET_FQDN

    BUCKET_FQDN을 버킷의 정규화된 이름으로 바꿉니다.

  6. load-oci 명령어를 사용하여 모델이 포함된 컨테이너 이미지를 Container Registry에 로드합니다.

    gdcloud system container-registry load-oci BUNDLE_SUB_FOLDER --create-release-metadata=false --skip-failover-registry

    BUNDLE_SUB_FOLDER을 oci/과 같은 컨테이너 이미지의 경로로 바꿉니다.

    이제 Gemini가 GDC에 로드됩니다.

다음 단계