Conéctate a los modelos de IA generativa de Vertex AI

Precaución: Las integraciones de Cloud Run dejarán de estar disponibles en la consola de Google Cloud y Google Cloud CLI para los usuarios nuevos en octubre de 2024. Si ya eres usuario, seguirás teniendo acceso hasta enero de 2025. No es necesario que realices ninguna acción. Los servicios implementados que usan estas integraciones seguirán funcionando. Te recomendamos que realices la transición para usar las experiencias de productos individuales para cada integración que hayas implementado. Para compilar tu aplicación de IA generativa en Google Cloud, puedes usar Vertex AI. Para obtener más información, consulta Envía solicitudes a la API de Vertex AI para Gemini.

Vista previa — Using the Cloud Run integrations

Esta función está sujeta a las "Condiciones de las Ofertas de Fase Previa a la DG" de la sección Condiciones Generales del Servicio de las Condiciones Específicas del Servicio. Las funciones de fase previa a la DG están disponibles “tal cual” y podrían tener asistencia limitada. Para obtener más información, consulta las descripciones de la etapa de lanzamiento.

Vertex AI es una plataforma de aprendizaje automático (AA) que te permite entrenar, ajustar e implementar modelos de AA y aplicaciones de IA. Para agregar capacidades de IA generativa a un servicio existente de Cloud Run, puedes usar Vertex AI para acceder a modelos de IA generativas, como Gemini, PaLM, Imagen, Codey y muchos más.

En esta guía, se explica cómo usar las integraciones de Cloud Run a fin de configurar con rapidez el acceso a Vertex AI para tu servicio de Cloud Run.

Antes de comenzar

• Asegúrate de que el servicio de Cloud Run con el que te integras ya esté implementado.
• Revisa la página de precios de Vertex AI. Se te facturan los recursos individuales usados en la integración.

Roles obligatorios

Para usar las integraciones de Cloud Run, tú o tu administrador deben otorgar roles de IAM en dos principales diferentes.

Haz clic para ver los roles necesarios para tu Cuenta de Google

Para obtener los permisos que necesitas para usar las integraciones de Cloud Run, pídele a tu administrador que otorgue a tu Cuenta de Google los siguientes roles de IAM en tu proyecto:

• Desarrollador de Cloud Run (roles/run.developer)
• Visualizador de Compute (roles/compute.viewer)
• Desarrollador de Serverless Integrations (roles/runapps.developer)
• Operador de Serverless Integrations (roles/runapps.operator)
• Usuario de cuenta de servicio (roles/iam.serviceAccountUser)

Haz clic para ver los roles necesarios para la cuenta de servicio

Para implementar el servicio de Cloud Run, puedes usar la cuenta de servicio predeterminada de Compute Engine creada automáticamente o especificar una cuenta de servicio administrada por el usuario. Esta cuenta de servicio debe tener los siguientes roles:

• Desarrollador de Cloud Run (roles/run.developer)
• Escritor de bucket de servicios (roles/logging.bucketWriter)
• Usuario de cuenta de servicio (roles/iam.serviceAccountUser)
• Administrador de almacenamiento (roles/storage.admin)
• Administrador de IAM de proyecto (roles/project.iamAdmin)

Conecta un servicio a Vertex AI

Cuando usas integraciones de Cloud Run para conectarte a Vertex AI, la integración hace lo siguiente:

• Habilita la API de Vertex AI para que el servicio de Cloud Run acceda a los modelos de IA generativa de Vertex AI.
• Otorga a la identidad del servicio los roles necesarios.

Puedes crear la integración mediante la consola o la línea de comandos.

Console

1. En la consola de Google Cloud, ve a la página Cloud Run.

   Ir a Cloud Run

2. Haz clic en el servicio de la lista de servicios que deseas usar en esta integración.

3. Haz clic en la pestaña Integraciones.

4. Haz clic en Agregar integración.

5. Haz clic en Vertex AI.

6. Usa el nombre predeterminado o cambia el nombre por el valor que quieres usar.

7. Si se te solicita que habilites una lista de APIs, haz clic en Habilitar y espera a que las API se habiliten.

8. Haz clic en Enviar y espera a que se complete la integración. Esto puede tardar hasta un minuto.

gcloud

1. Actualiza a la versión más reciente de Google Cloud CLI:

   gcloud components update

2. Crea la integración:

   gcloud beta run integrations create \
   --type=vertex-genai \
   --service=SERVICE \

   Reemplaza lo siguiente:

   • SERVICE por el nombre de servicio de Cloud Run

   De manera opcional, puedes incluir la marca --service-account=SERVICE_ACCOUNT_EMAIL.

   • Reemplaza SERVICE_ACCOUNT_EMAIL por la dirección de correo electrónico de la cuenta de servicio administrada por el usuario ([e-mail]) que se usa para implementar el servicio. Omite esta marca si deseas usar la cuenta de servicio de procesamiento predeterminada (SERVICE_ACCOUNT_ID@PROJECT_ID.iam.gserviceaccount.com).

     Para seguir usando la cuenta de servicio especificada cuando implementas integraciones de Cloud Run, ejecuta lo siguiente:

     gcloud config set runapps/deployment-service-account

3. Espera hasta un minuto, durante el cual tu servicio de Cloud Run recibe permisos para llamar a la API de Vertex AI.

   [vertex-genai] integration [vertex-genai-xxx] has been created successfully.

   Puedes verificar el estado con gcloud beta run integrations describe.

Ver integraciones de Vertex AI

Para ver el estado actual de las integraciones de Vertex AI para el servicio de Cloud Run, sigue estos pasos:

Console

1. En la consola de Google Cloud, ve a la página Cloud Run.

   Ir a Cloud Run

2. Haz clic en el servicio de la lista de servicios que deseas usar en esta integración.

3. Haz clic en la pestaña Integraciones.

4. Ubica la integración de Vertex AI que te interese y haz clic en Ver detalles.

gcloud

1. Usa el siguiente comando para obtener una lista de las integraciones disponibles:

   gcloud beta run integrations list

2. Con un nombre de la lista que se muestra, muestra sus detalles:

   gcloud beta run integrations describe INTEGRATION_NAME

   Reemplaza INTEGRATION_NAME por el nombre de tu integración de Vertex AI.

Borra integraciones de Vertex AI

Si borras una integración, también se borrarán todos los recursos de Google Cloud asociados a esa integración, pero no se borrará tu servicio de Cloud Run.

Para borrar una integración de Vertex AI de tu servicio de Cloud Run, sigue estos pasos:

Console

1. En la consola de Google Cloud, ve a la página Cloud Run.

   Ir a Cloud Run

2. Haz clic en el servicio del que deseas borrar una integración.

3. Haz clic en la pestaña Integraciones.

4. Ubica la integración de Vertex AI que te interese y haz clic en el ícono de puntos suspensivos a la derecha de la integración. Luego, haz clic en Borrar.

gcloud

1. Usa el siguiente comando para obtener una lista de las integraciones disponibles:

   gcloud beta run integrations list

2. Con un nombre de la lista que se muestra, borra la integración:

   gcloud beta run integrations delete INTEGRATION_NAME

   Reemplaza lo siguiente:

   • INTEGRATION_NAME por el nombre de tu integración de Vertex AI.

   De manera opcional, puedes usar las siguientes opciones de marcas:

   Opción	Descripción
   --service-account	La dirección de correo electrónico de la cuenta de servicio administrada por el usuario para realizar la operación de eliminación.

Accede a modelos de IA generativa de Vertex AI en tu código

Después de completar la integración, puedes enviar solicitudes a las APIs de modelo de Vertex AI y usar Vertex AI Studio para probar y personalizar con rapidez los modelos de IA generativa en tu aplicación.

Limitaciones

Las integraciones de Cloud Run solo se admiten en ciertas regiones. Si necesitas usar una región que no sea compatible con las integraciones de Cloud Run, consulta Ubicaciones de Vertex AI.