Llama es una colección de modelos abiertos desarrollados por Meta que puedes ajustar y, además, implementar en Vertex AI. Llama ofrece modelos multimodales y de texto generativos previamente entrenados y ajustados a instrucciones para chat de tipo asistente. Puedes implementar modelos de Llama 3.2, Llama 3.1, Llama 3 y Llama 2 en Vertex AI.
Llama 3.2
Llama 3.2 permite a los desarrolladores compilar e implementar los modelos y las aplicaciones de IA generativa más recientes que usan las capacidades de Llama para generar nuevas innovaciones, como el razonamiento de imágenes. Llama 3.2 también está diseñado para ser más accesible para las aplicaciones integradas en el dispositivo. En la siguiente lista, se destacan las funciones de Llama 3.2:
- Ofrece una experiencia de IA más privada y personalizada, con procesamiento integrado en el dispositivo para modelos más pequeños.
- Ofrece modelos diseñados para ser más eficientes, con latencia reducida y un rendimiento mejorado, lo que los hace adecuados para una amplia variedad de aplicaciones.
- Se compiló en la parte superior de Llama Stack, lo que facilita la compilación y la implementación de aplicaciones. Llama Stack es una interfaz estandarizada para compilar componentes de cadena de herramientas canónicos y aplicaciones de agentes.
- Admite tareas de visión, con una nueva arquitectura de modelos que integra las representaciones del codificador de imágenes en el modelo de lenguaje.
Los modelos de 1,000 y 3,000 millones son modelos ligeros de solo texto que admiten casos de uso en el dispositivo, como la recuperación de conocimiento local multilingüe, el resumen y la reescritura.
Los modelos Llama 11B y 90B son modelos multimodales pequeños y medianos con razonamiento de imágenes. Por ejemplo, pueden analizar datos visuales de gráficos para proporcionar respuestas más precisas y extraer detalles de las imágenes para generar descripciones de texto.
Para obtener más información, consulta la tarjeta de modelo de Llama 3.2 en Model Garden.
Consideraciones
Cuando usas los 11B y 90B, no hay restricciones cuando envías instrucciones de solo texto. Sin embargo, si incluyes una imagen en la instrucción, esta debe estar al comienzo y solo puedes incluir una. Por ejemplo, no puedes incluir texto y, luego, una imagen.
Llama 3.1
La colección Llama 3.1 de modelos de lenguaje grandes (LLM) multilingües es una colección de modelos generativos previamente entrenados y ajustados con instrucciones en tamaños 8B, 70B y 405B (texto entrante/texto). Los modelos de solo texto ajustados por instrucciones de Llama 3.1 (8000, 70,000, 405,000 millones) están optimizados para casos de uso de diálogos multilingües y tienen un mejor rendimiento que muchos de los modelos de chat cerrado y de código abierto en comparativas comunes de la industria.
Para obtener más información, consulta la tarjeta de modelo Llama 3.1 en Model Garden.
Llama 3
Los modelos ajustados a instrucciones de Llama 3 son una colección de LLM optimizados para casos de uso de diálogo. Los modelos de Llama 3 tienen un rendimiento superior a muchos de los modelos de chat de código abierto disponibles en comparativas de sectores comunes.
Para obtener más información, consulta la tarjeta de modelo Llama 3 en Model Garden.
Llama 2
El LLM de Llama 2 es una colección de modelos de texto generativo previamente entrenados y ajustados, que varía en tamaño de 7,000 millones a 70,000 millones de parámetros.
Para obtener más información, consulta la tarjeta de modelo Llama 2 en Model Garden.
Code Llama
Los modelos de Code Llama de Meta están diseñados para la síntesis de código, la comprensión y la instrucción.
Para obtener más información, consulta la tarjeta de modelo Code Llama en Model Garden.
Llama Guard 3
Llama Guard 3 se basa en las capacidades de Llama Guard 2 y agrega tres categorías nuevas: Difamación, Elecciones y Abuso del intérprete de código. Además, este modelo es multilingüe y tiene un formato de instrucción que es coherente con los modelos de instrucción de Llama 3 o posteriores.
Para obtener más información, consulta la tarjeta de modelo de Llama Guard en Model Garden.
Recursos
Para obtener más información acerca de Model Garden, consulta Explora los modelos de IA en Model Garden.