Llama è una raccolta di modelli aperti sviluppati da Meta che puoi perfezionare ed eseguirne il deployment su Vertex AI. Llama offre modelli di testo e multimodali generativi preaddestrati e ottimizzati in base alle istruzioni per chat simili ad assistenti. Puoi eseguire il deployment Modelli Llama 3.2, Llama 3.1, Llama 3 e Llama 2 su Vertex AI.
Llama 3.2
Llama 3.2 consente agli sviluppatori di creare ed eseguire il deployment dei più recenti modelli di AI generativa e applicazioni che usano le capacità di Llama per stimolare nuove innovazioni, come il ragionamento delle immagini. Llama 3.2 è inoltre progettato per essere più accessibile le applicazioni on-device. Il seguente elenco evidenzia le funzionalità di Llama 3.2:
- Offre un'esperienza IA più privata e personalizzata, con l'elaborazione sul dispositivo per i modelli più piccoli.
- Offre modelli progettati per essere più efficienti, con latenza e prestazioni migliorate, il che li rende adatti a un'ampia gamma di diverse applicazioni.
- Costruita sopra allo stack Llama, consente di costruire e il deployment delle applicazioni. Llama Stack è un'interfaccia standardizzata nella creazione di componenti della toolchain e applicazioni degli agenti.
- Supporta le attività di visione artificiale, con una nuova architettura del modello che si integra di immagine nel modello linguistico.
I modelli 1B e 3B sono modelli leggeri di solo testo che supportano l'utilizzo sul dispositivo come il recupero, il riassunto e il recupero di conoscenze locali multilingue di riscrittura.
I modelli Llama 11B e 90B sono modelli multimodali di piccole e medie dimensioni con immagine ragionare. Ad esempio, possono analizzare i dati visivi dei grafici per fornire risposte più accurate ed estrarre dettagli dalle immagini per generare descrizioni di testo.
Per ulteriori informazioni, consulta la scheda del modello Llama 3.2 in Model Garden.
Considerazioni
Quando utilizzi i modelli 11B e 90B, non ci sono limitazioni per l'invio di prompt solo testo. Se invece includi un'immagine nel prompt, quest'ultima deve essere all'inizio del prompt e puoi includere solo un'immagine. Tu non può, ad esempio, includere del testo seguito da un'immagine.
Llama 3.1
La raccolta di modelli linguistici di grandi dimensioni (LLM) multilingue Llama 3.1 è una raccolta di modelli generativi preaddestrati e ottimizzati per le istruzioni con dimensioni di 8 miliardi, 70 miliardi e 405 miliardi (testo in/testo out). Modelli di solo testo ottimizzati per le istruzioni Llama 3.1 (8B, 70B, 405B) sono ottimizzati per casi d'uso di dialogo multilingue e hanno prestazioni migliori molti dei modelli di chat open source e chiusi disponibili sul mercato e benchmark.
Per ulteriori informazioni, consulta la sezione Llama Scheda del modello 3.1 Model Garden.
Llama 3
I modelli ottimizzati per le istruzioni di Llama 3 sono una raccolta di LLM ottimizzati per i casi d'uso di dialogo. I modelli Llama 3 superano molti dei modelli open source disponibili modelli di chat basati su benchmark di settore comuni.
Per ulteriori informazioni, consulta la scheda del modello Llama 3 in Model Garden.
Llama 2
Gli LLM Llama 2 sono una raccolta di testo generativo preaddestrato e perfezionato modelli, con dimensioni comprese tra 7B e 70B.
Per ulteriori informazioni, consulta la scheda del modello Llama 2 in Model Garden.
Code Llama
I modelli Code Llama di Meta sono progettati per la sintesi, la comprensione e l'istruzione del codice.
Per ulteriori informazioni, consulta la sezione Codice Scheda del modello Llama in Model Garden.
Llama Guard 3
Llama Guard 3 sfrutta le capacità di Llama Guard 2, aggiungendo tre nuove categorie: Diffamazione, Elezioni e Abuso dell'Interprete di codice. Inoltre, questo modello è multilingue e ha un formato di prompt che in modo coerente con i modelli Llama 3 o successivi.
Per ulteriori informazioni, consulta la scheda del modello Llama Guard in Model Garden.
Risorse
Per ulteriori informazioni su Model Garden, consulta Esplora i modelli di IA in Model Garden.