Introduzione alle classi dei modelli linguistici nell'SDK Vertex AI

Puoi utilizzare l'SDK Vertex AI per Python per creare soluzioni in modo programmatico utilizzando i modelli di base del linguaggio Vertex AI. L'SDK Vertex AI include classi per generazione di testi, chat di testo, incorporamento di testo, generazione di codice, chat di codice e modelli di completamento del codice.

Per scoprire come installare l'SDK Vertex AI per Python, consulta Installare l'SDK Vertex AI per Python. Per visualizzare la sezione del modello linguistico nella guida di riferimento dell'SDK Vertex AI, consulta Modelli linguistici dei pacchetti.

I modelli linguistici rappresentati nell'SDK Vertex AI si aggiungono alle classi che consentono di creare soluzioni Vertex AI non correlate all'IA generativa e ai modelli linguistici. Per informazioni su come utilizzare l'SDK Vertex AI per automatizzare l'importazione dati, addestrare i modelli e ottenere previsioni su Vertex AI, consulta Introduzione all'SDK Vertex AI per Python.

Panoramica della classe del modello linguistico

L'SDK Vertex AI include classi del modello linguistico che consentono di svolgere attività comuni relative all'IA generativa. Di seguito sono riportate le classi di modelli utilizzate per lavorare con i modelli di base disponibili in Vertex AI:

  • ChatModel: utilizza questo corso per lavorare con il modello di base della chat di testo. Il nome della versione stabile corrente di questo modello è chat-bison@002.
  • CodeChatModel: utilizza questo corso per lavorare con il modello di base della chat di codice. Il nome della versione stabile corrente di questo modello è codechat-bison@002.
  • CodeGenerationModel: utilizza questa classe per lavorare con i modelli di base per la generazione del codice e il completamento del codice. Il nome della versione stabile corrente del modello di generazione del codice è code-bison@002, mentre il nome della versione stabile corrente del modello di completamento del codice è code-gecko@001.
  • TextEmbeddingModel: utilizza questa classe per lavorare con il modello di base incorporamento del testo. Il nome della versione stabile corrente del modello di generazione del codice è textembedding-gecko@003.
  • TextGenerationModel: utilizza questa classe per lavorare con i modelli di base per la generazione di testi. I nomi delle versioni stabili correnti dei modelli di generazione del testo sono text-bison@002 e text-unicorn@001.

Carica un modello di base

Per iniziare a utilizzare l'SDK Vertex AI al fine di lavorare con un modello di base, devi caricare un'istanza del modello. Per caricare un modello, usa il metodo from_pretrained su una classe del modello linguistico. I modelli di base sono noti anche come modelli preaddestrati. Quando chiami from_pretrained, specifica una versione stabile o la versione più recente del modello con cui vuoi lavorare. Per ulteriori informazioni sulle versioni stabili e più recenti e su come vengono specificate nel codice, consulta Versioni e ciclo di vita del modello.

Le seguenti righe di esempio di codice Python mostrano come caricare un modello di base.

  • Ottieni la versione 001 della versione stabile del modello preaddestrato della chat di codice:

    from vertexai.language_models import ChatModel

my_chat_model = ChatModel.from_pretrained("chat-bison@002")

  • Scarica la versione più recente del modello di generazione del testo:

    from vertexai.language_models import TextGenerationModel

my_text_generation_model = TextGenerationModel.from_pretrained("text-bison")

Dopo aver utilizzato l'SDK Vertex AI per caricare un modello, puoi utilizzarlo per creare soluzioni di IA generativa. Alcune delle attività che puoi svolgere con il modello caricato sono generare contenuti di testo e codice, trasmettere contenuti in streaming, creare una sessione di chat di testo o codice, ottimizzare il modello, ottenere incorporamenti e creare previsioni batch. Le attività specifiche che puoi svolgere dipendono dal tipo di modello che hai caricato.

Passaggi successivi