Carga las ponderaciones del modelo de Gemini en GDC

En esta página, se explica cómo cargar los pesos del modelo de Gemini en un bucket de almacenamiento para tu organización en Google Distributed Cloud (GDC) aislado.

Una vez que se cargue el modelo, podrás usar Gemini en GDC. Para obtener más información, consulta Capacidades.

Antes de comenzar

Para cargar las ponderaciones de un modelo de Gemini en un bucket de almacenamiento, debes tener lo siguiente:

  • Un bucket de almacenamiento existente

  • Los roles de identidad y acceso necesarios Pídele a tu administrador de seguridad que te otorgue los siguientes roles:

    • Distribuidor de artefactos de Gemini (gemini-artifacts-distributor): Tiene acceso de lectura y escritura a los buckets de almacenamiento de objetos para los recursos de gemini-model-artifact-registry.
    • Gemini Artifacts Cluster Viewer (gemini-artifacts-distributor-cluster-role): Tiene acceso de lectura a los buckets de almacenamiento de objetos en el espacio de nombres del clúster.

  • Descarga y transfiere los pesos del modelo de Gemini. Los pesos del modelo se extraen del archivo tar y se presentan en forma de directorio en /root/release/arbitrary-artifacts/gemini.

Carga el modelo de Gemini en el bucket de almacenamiento

Para cargar las ponderaciones del modelo de Gemini en el bucket de almacenamiento, sigue estos pasos:

  1. Accede a tu organización en la que se descargó y extrajo Gemini. Para obtener más información, consulta Cómo descargar y transferir el modelo de Gemini.

    gdcloud config set core/organization_console_url
https://console.GEMINI_ORG.zone1.google.gdch.test

    Reemplaza GEMINI_ORG por el nombre de tu organización.

  2. Accede con la CLI de gcloud.

  3. Configura la ruta de acceso al modelo extraído y descargado:

    export GEMINI_ARTIFACTS=/root/release/arbitrary-artifacts/gemini

  4. Usa el comando gdcloud system arbitrary-artifacts load para cargar el peso del modelo en el bucket de almacenamiento:

    gdcloud system arbitrary-artifacts load $GEMINI_ARTIFACTS

  5. Para verificar que el bucket de almacenamiento contenga el peso del modelo, enumera el contenido del bucket:

    gdcloud storage ls –-recursive s3://BUCKET_FQDN

    Reemplaza BUCKET_FQDN por el nombre completamente calificado del bucket.

  6. Carga las imágenes del contenedor que contienen el modelo en Container Registry con el comando load-oci:

    gdcloud system container-registry load-oci BUNDLE_SUB_FOLDER --create-release-metadata=false --skip-failover-registry

    Reemplaza BUNDLE_SUB_FOLDER por la ruta de acceso a las imágenes de contenedor, como oci/.

    Gemini ahora se cargó en GDC.

¿Qué sigue?