Utilizzare modelli aperti

Puoi usare modelli aperti con Vertex AI. Un modello aperto è disponibile gratuitamente, puoi pubblicarne gli output e puoi utilizzarlo ovunque, a condizione di rispettare i termini di licenza. Un modello aperto con Vertex AI usa Vertex AI per l'infrastruttura. Puoi anche utilizzare modelli aperti con altri prodotti di infrastruttura, come PyTorch o Jax. I modelli aperti non devono essere confusi con i modelli open source, poiché questi non forniscono necessariamente codice sorgente e informazioni per addestrare il modello da zero.

Molti modelli aperti sono considerati modelli linguistici di grandi dimensioni (LLM) a peso aperto. I modelli aperti offrono maggiore trasparenza rispetto ai modelli senza ponderazione aperta. Le ponderazioni di un modello sono i valori numerici archiviati nell'architettura della rete neurale del modello che rappresentano pattern e relazioni appresi dai dati su cui viene addestrato un modello. Vengono rilasciati i parametri preaddestrati, o ponderazioni, dei modelli di peso aperto. Puoi utilizzare un modello di ponderazione aperta per l'inferenza e l'ottimizzazione, senza fornire dettagli come il set di dati originale, l'architettura del modello e il codice di addestramento.

I dettagli su un modello aperto e su come utilizzarlo sono disponibili nella relativa scheda del modello in Model Garden. Per accedere alla scheda di un modello aperto, vai a Model Garden e cerca il suo nome. Per maggiori informazioni su Model Garden, consulta Esplorazione di modelli di IA in Model Garden.

Per imparare a utilizzare i modelli aperti Gemma e Llama, consulta: