Prueba los modelos de Gemini 1.5, nuestros modelos multimodales más recientes en Vertex AI y observa lo que puedes compilar con una ventana de contexto de 1 millón de tokens. Prueba los modelos de Gemini 1.5, nuestros modelos multimodales más recientes en Vertex AI y observa lo que puedes compilar con una ventana de contexto de 1 millón de tokens.

Usa modelos abiertos de Gemma

Gemma es un conjunto de modelos abiertos de inteligencia artificial (IA) ligeros y generativos. Los modelos de Gemma están disponibles para ejecutarse en tus aplicaciones y en tu hardware, tus dispositivos móviles o tus servicios alojados. También puedes personalizar estos modelos con técnicas de ajuste para que se destaquen en la realización de tareas que son importantes para ti y tus usuarios. Los modelos de Gemma se basan en modelos de Gemini y están diseñados para que la comunidad de desarrollo de IA los extienda y los mejore.

El ajuste puede ayudar a mejorar el rendimiento de un modelo en tareas específicas. Debido a que los modelos de la familia de modelos de Gemma son de peso abierto, puedes ajustar cualquiera de ellos con el framework de IA que elijas y el SDK de Vertex AI. Puedes abrir un ejemplo de notebook para ajustar el modelo de Gemma mediante un vínculo disponible en la tarjeta de modelo de Gemma en Model Garden.

Los siguientes modelos de Gemma están disponibles para usarse con Vertex Generative AI. Para obtener más información sobre los modelos de Gemma y probarlos, consulta sus tarjetas de modelo de Model Garden.

Nombre del modelo	Casos de uso	Tarjeta de modelo de Model Garden
Gemma	Ideal para la generación, el resumen y la extracción de textos.	Ir a la tarjeta del modelo de Gemma
CodeGemma	Ideal para la generación y finalización de código.	Ir a la tarjeta de modelo de CodeGemma
PaliGemma	Ideal para tareas de leyenda de imágenes y tareas visuales de preguntas y respuestas.	Ir a la tarjeta de modelo de PaliGemma

Las siguientes son algunas opciones en las que puedes usar Gemma:

Usa Gemma con Vertex Generative AI

Vertex Generative AI ofrece una plataforma administrada para compilar y escalar con rapidez proyectos de aprendizaje automático sin necesidad de tener experiencia interna en MLOps. Puedes usar Vertex Generative AI como la aplicación descendente que entrega los modelos de Gemma. Por ejemplo, puedes transferir ponderaciones de la implementación de Keras de Gemma. A continuación, puedes usar Vertex AI para entregar esa versión de Gemma a fin de obtener predicciones. Recomendamos usar Vertex Generative AI si deseas funciones de MLOps de extremo a extremo, funciones de AA de valor agregado y una experiencia sin servidores para un desarrollo optimizado.

Para comenzar a usar Gemma, consulta los siguientes notebooks:

Usa Gemma en otros productos de Google Cloud

Puedes usar Gemma con otros productos de Google Cloud, como Google Kubernetes Engine y Dataflow.

Usa Gemma con GKE

Google Kubernetes Engine (GKE) es la solución de Google Cloud para Kubernetes administrado que proporciona escalabilidad, seguridad, resiliencia y rentabilidad. Recomendamos esta opción si tienes inversiones existentes en Kubernetes, tu organización tiene experiencia interna en MLOps o si necesitas un control detallado sobre cargas de trabajo de IA/AA complejas con requisitos únicos de seguridad, canalización de datos y administración de recursos. Para obtener más información, consulta los siguientes instructivos en la documentación de GKE:

Usa Gemma con Dataflow

Puedes usar modelos de Gemma con Dataflow para el análisis de opiniones. Usa Dataflow para ejecutar canalizaciones de inferencia que usen los modelos de Gemma. Para obtener más información, consulta Ejecuta canalizaciones de inferencia con modelos abiertos de Gemma.

Usa Gemma con Colab

Puedes usar Gemma con Colaboratory para crear tu solución de Gemma. En Colab, puedes usar Gemma con opciones de framework, como PyTorch y JAX. Para obtener más información, consulta:

Tamaños y capacidades de los modelos de Gemma

Los modelos de Gemma están disponibles en varios tamaños para que puedas compilar soluciones de IA generativa en función de tus recursos de procesamiento disponibles, las capacidades que necesitas y el lugar en el que deseas ejecutarlos. Cada modelo está disponible en una versión ajustada y no ajustada:

Preentrenada: Esta versión del modelo no se entrenó con ninguna tarea o instrucción específica más allá del conjunto de entrenamiento de datos principal de Gemma. No recomendamos usar este modelo sin realizar algunos ajustes.
Ajuste de instrucciones: Esta versión del modelo se entrenó con interacciones en lenguaje humano para que pueda participar en una conversación, similar a un chat bot simple.
Combinación ajustada: Esta versión del modelo se ajusta en una mezcla de conjuntos de datos académicos y acepta mensajes de lenguaje natural.

Si necesitas decidir entre Gemma 2B y Gemma 7B, considera Gemma 2B. Los tamaños de parámetros más bajos de Gemma 2B significan que tiene requisitos de recursos más bajos y más flexibilidad de implementación que Gemma 7B.

Nombre del modelo	Tamaño de los parámetros	Entrada	Resultado	Versiones ajustadas	Plataformas previstas
Gemma 2B	2,200 millones	Texto	Texto	Previamente entrenados Instrucción ajustada	Dispositivos móviles y laptops
Gemma 7B	7,000 millones	Texto	Texto	Previamente entrenados Instrucción ajustada	Computadoras de escritorio y servidores pequeños
CodeGemma 2B	2,000 millones	Texto	Texto	Con entrenamiento previo	Computadoras de escritorio y servidores pequeños
CodeGemma 7B	7,000 millones	Texto	Texto	Previamente entrenados Instrucción ajustada	Computadoras de escritorio y servidores pequeños
PaliGemma 3B	3,000 millones	Texto	Texto	Previamente entrenados Combinación ajustada	Computadoras de escritorio y servidores pequeños

Gemma se probó con el hardware de TPU v5e compilado para propósitos específicos de Google y el hardware de GPU L4 (G2 estándar), A100 (A2 estándar), H100 (A3 estándar) de NVIDIA.