Migra de Gemini en Google AI a Vertex AI

Si no tienes experiencia en Gemini, usar las guías de inicio rápido es la forma más rápida de comenzar.

Sin embargo, a medida que tus soluciones de IA generativas evolucionan, es posible que necesites una plataforma para compilar y, luego, implementar aplicaciones y soluciones de IA generativas de extremo a extremo. Google Cloud proporciona un ecosistema integral de herramientas para que los desarrolladores puedan aprovechar la potencia de la IA generativa, desde las etapas iniciales del desarrollo de apps hasta la implementación de apps, el hosting de apps y la administración de datos complejos a gran escala.

La plataforma Vertex AI de Google Cloud ofrece un conjunto de herramientas de MLOps que optimizan el uso, la implementación y la supervisión de los modelos de IA para lograr eficiencia y confiabilidad. Además, las integraciones con bases de datos, las herramientas de DevOps, el registro, la supervisión y la IAM proporcionan un enfoque integral para administrar todo el ciclo de vida de la IA generativa.

Además, las integraciones con bases de datos, las herramientas de DevOps, el registro, la supervisión y la IAM proporcionan un enfoque integral para administrar todo el ciclo de vida de la IA generativa.

Estos son algunos ejemplos de casos de uso comunes que son adecuados para las ofertas de Google Cloud.

  • Pon en producción tus apps y soluciones. Productos como Cloud Functions y Cloud Run te permiten implementar apps con escalamiento, seguridad y privacidad de nivel empresarial. Obtén más detalles sobre la seguridad y la privacidad en la guía Seguridad, privacidad y cumplimiento de la nube en Google Cloud.
  • Usa Vertex AI para las capacidades de MLOps de extremo a extremo desde el ajuste hasta las búsquedas de similitud de vectores y las canalizaciones de AA.
  • Activa tu llamada de LLM con arquitectura basada en eventos con Cloud Functions o Cloud Run.
  • Supervisa el uso de tu app con Cloud Logging y BigQuery.
  • Almacena tus datos con seguridad de nivel empresarial y a gran escala a través de servicios como BigQuery, Cloud Storage yCloud SQL.
  • Realiza la generación de aumento de recuperación (RAG) a través de los datos de la nube con BigQuery o Cloud Storage.
  • Crea y programa canalizaciones de datos. Puedes programar trabajos con Cloud Scheduler.
  • Aplica los LLM a tus datos en la nube. Si almacenas datos en Cloud Storage o BigQuery, puedes enviar mensajes de LLM sobre esos datos. Por ejemplo, para extraer información, resume o haz preguntas sobre esta.
  • Aprovecha las políticas de administración/residencia de datos de Google Cloud para administrar el ciclo de vida de los datos.

Diferencias entre Google AI y Vertex AI

En la siguiente tabla, se resumen las principales diferencias entre Google AI y Vertex AI para ayudarte a decidir qué opción es adecuada para tu caso de uso:

Atributos API de Gemini de Google AI API de Gemini de Vertex AI de Google Cloud
Modelos de Gemini más recientes Gemini Pro y Gemini Ultra Gemini Pro y Gemini Ultra
Registrarse Cuenta de Google Cuenta de Google Cloud (con acuerdo de condiciones y facturación)
Authentication Clave de API Cuenta de servicio de Google Cloud
Zona de pruebas de la interfaz de usuario Google AI Studio Vertex AI Studio
API y SDK Python, Node.js, Android (Kotlin/Java), Swift, Go El SDK es compatible con Python, Node.js, Java y Go
Nivel gratuito Sí $300 en crédito de Google Cloud para usuarios nuevos
Cuota (solicitud por minuto) 60 (puede solicitar un aumento) Aumento a pedido (valor predeterminado: 60)
Asistencia para empresas No Clave de encriptación del cliente
Nube privada virtual
Residencia de datos
Transparencia de acceso
Infraestructura escalable para el hosting de aplicaciones
Bases de datos y almacenamiento de datos
MLOps No. MLOps completas en Vertex AI (ejemplos: evaluación de modelos, supervisión de modelos y registro de modelos)

Migrar a Vertex AI

En esta sección, se muestra cómo migrar de Gemini en Google AI a Gemini en Vertex AI en Google Cloud.

Consideraciones para migrar

Ten en cuenta lo siguiente cuando migres:

Comienza a usar Vertex AI Studio

El proceso que sigues para migrar a Vertex AI es diferente, según si ya tienes una cuenta de Google Cloud o si eres nuevo en Google Cloud.

Para obtener información sobre cómo migrar a Vertex AI, haz clic en una de las siguientes pestañas, según el estado de tu cuenta de Google Cloud:

Ya usas Google Cloud

  1. Accede a Google AI Studio.

  2. En la parte inferior del panel de navegación izquierdo, haz clic en Compilar con Vertex AI en Google Cloud.

    Se abrirá la página Prueba Vertex AI y Google Cloud gratis.

  3. Haz clic en Aceptar y continuar.

    Aparecerá el cuadro de diálogo Comenzar con Vertex AI Studio.

  4. A fin de habilitar las API necesarias para ejecutar Vertex AI, haz clic en Aceptar y continuar.

    Aparecerá la consola de Vertex AI. Para obtener información sobre cómo migrar tus datos de Google AI Studio, consulta Migra mensajes.

¿Eres nuevo en Google Cloud?

  1. Accede a Google AI Studio.

  2. En la parte inferior del panel de navegación izquierdo, haz clic en Compilar con Vertex AI en Google Cloud.

    Se abrirá la página Crea una cuenta para comenzar a usar Google Cloud.

  3. Haz clic en Aceptar y continuar.

    Aparecerá la página Confirmemos tu identidad.

  4. Haz clic en Comenzar gratis.

    Aparecerá el cuadro de diálogo Comenzar con Vertex AI Studio.

  5. A fin de habilitar las API necesarias para ejecutar Vertex AI, haz clic en Aceptar y continuar.

  6. Opcional: Para obtener información sobre cómo migrar tus datos desde Google AI Studio, consulta Migra mensajes en esta página Migra mensajes.

Python: Migra a la API de Gemini en Vertex AI

En las siguientes secciones, se muestran fragmentos de código para ayudarte a migrar tu código de Python para usar la API de Gemini en Vertex AI.

Configuración del SDK de Vertex AI para Python

En Vertex AI, no necesitas una clave de API. En cambio, Gemini en Vertex AI se administra a través del acceso a IAM, que controla el permiso de un usuario, un grupo o una cuenta de servicio para llamar a la API de Gemini a través del SDK de Vertex AI.

Si bien hay muchas formas de autenticar, el método más fácil para realizar la autenticación en un entorno de desarrollo es instalar Google Cloud CLI y, luego, usar tus credenciales de usuario para acceder a la CLI.

Para realizar llamadas de inferencia a Vertex AI, también debes asegurarte de que tu cuenta de usuario o servicio tenga el rol de usuario de Vertex AI.

Ejemplo de código para instalar el cliente

Google AI Vertex AI 

# To install the Python SDK, use this CLI command:
# pip install google-generativeai

from google.generativeai import GenerativeModel
from google.colab import userdata

genai.configure(userdata.get('API_KEY'))
        

# To install the Python SDK, use this CLI command:
# pip install google-cloud-aiplatform

import vertexai
from vertexai.generative_models
          import GenerativeModel, Image

PROJECT_ID = ""
REGION = ""  # e.g. us-central1
vertexai.init(project=PROJECT_ID, location=REGION)

Ejemplo de código para generar texto a partir de una solicitud de texto

Google AI Vertex AI 

model = GenerativeModel('gemini-1.0-pro')

response = model.generate_content('The opposite of hot is')
print(response.text) #  The opposite of hot is cold.
        

model = GenerativeModel('gemini-1.0-pro')

response = model.generate_content('The opposite of hot is')
print(response.text) #  The opposite of hot is cold.

Ejemplo de código para generar texto a partir de imagen y texto

Google AI Vertex AI 

import PIL.Image

multimodal_model = GenerativeModel('gemini-1.0-pro-vision')

image = PIL.Image.open('image.jpg')

response = multimodal_model.generate_content(['What is this picture?', image])
print(response.text) # A cat is shown in this picture.
        

multimodal_model = GenerativeModel("gemini-1.0-pro-vision")

image = Image.load_from_file("image.jpg")

response = multimodal_model.generate_content(["What is shown in this image?", image])

print(response.text) # A cat is shown in this picture.

Ejemplo de código para generar un chat de varios turnos

Google AI Vertex AI 

model = GenerativeModel('gemini-1.0-pro')

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)
        

model = GenerativeModel("gemini-1.0-pro")

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)

Migra mensajes a Vertex AI Studio

Los datos de los mensajes de Google AI Studio se guardan en una carpeta de Google Drive. En esta sección, se muestra cómo migrar tus mensajes a Vertex AI Studio.

  1. Abra Google Drive.
  2. Navega a la carpeta AI_Studio en la que se almacenan los mensajes. Ubicación de los mensajes en Google Drive

  3. Descarga los mensajes de Google Drive en un directorio local.

  4. Abre Vertex AI Generative AI Studio en la consola de Google Cloud.

  5. En el menú Vertex AI, haz clic en Lenguaje.

  6. Haz clic en la pestaña Mis mensajes.

  7. Haz clic en Importar mensaje.

  8. En el campo Archivo de mensajes, haz clic en Explorar y selecciona un mensaje de tu directorio local.

    Para subir mensajes de forma masiva, debes combinarlos de forma manual en un solo archivo JSON.

  9. Haz clic en Subir.

    Los mensajes se suben a la pestaña Mis mensajes.

Sube datos de entrenamiento a Vertex AI Studio

Para migrar tus datos de entrenamiento a Vertex AI, debes subir tus datos a un bucket de Google Cloud Storage. Para obtener más información, consulta Ajusta los modelos base de lenguaje.

Borra claves de API sin usar

Si ya no necesitas usar tu clave de API de Gemini en Google AI, sigue las prácticas recomendadas de seguridad y bórrala.

¿Qué sigue?