Puoi utilizzare modelli aperti con Vertex Generative AI. Un modello aperto è disponibile gratuitamente, puoi pubblicarne gli output e puoi utilizzarlo ovunque, a condizione di rispettare i termini di licenza. Quando usi un modello aperto con Vertex Generative AI, Vertex Generative AI per la tua infrastruttura. Puoi anche utilizzare modelli aperti con altri prodotti di infrastruttura, come PyTorch o Jax. I modelli aperti non devono essere confusi con i modelli open source, poiché questi non forniscono necessariamente codice sorgente e informazioni per addestrare il modello da zero.
Molti modelli aperti sono considerati modelli linguistici di grandi dimensioni (LLM) a peso aperto. I modelli aperti offrono maggiore trasparenza rispetto ai modelli senza ponderazione aperta. Le ponderazioni di un modello sono i valori numerici archiviati nell'architettura della rete neurale del modello che rappresentano pattern e relazioni appresi dai dati su cui viene addestrato un modello. Vengono rilasciati i parametri preaddestrati, o ponderazioni, dei modelli di peso aperto. Puoi utilizzare un modello di ponderazione aperta per l'inferenza e l'ottimizzazione, senza fornire dettagli come il set di dati originale, l'architettura del modello e il codice di addestramento.
I dettagli su un modello aperto e su come utilizzarlo sono disponibili nella relativa scheda del modello in Model Garden. Per accedere alla scheda di un modello aperto, vai a Model Garden e cerca il suo nome. Per maggiori informazioni su Model Garden, consulta Esplorazione di modelli di IA in Model Garden.
Per imparare a utilizzare i modelli aperti Gemma e Llama, consulta: