Esegui la migrazione da Gemini sull'IA di Google a Vertex AI

Se non hai mai utilizzato Gemini, le guide rapide sono il modo più rapido per iniziare.

Tuttavia, man mano che le tue soluzioni di AI generativa maturano, potresti aver bisogno di una piattaforma per la creazione e il deployment end-to-end di applicazioni e soluzioni di AI generativa. Google Cloud fornisce un ecosistema completo di strumenti per consentire agli sviluppatori di sfruttare la potenza dell'AI generativa, dalle fasi iniziali dello sviluppo delle app al deployment delle app, all'hosting delle app e alla gestione di dati complessi su larga scala.

La piattaforma Vertex AI di Google Cloud offre una suite di strumenti MLOps che semplificano l'utilizzo, il deployment e il monitoraggio dei modelli di AI per una maggiore efficienza e affidabilità. Inoltre, le integrazioni con database, strumenti DevOps, logging, monitoraggio e IAM forniscono un approccio olistico alla gestione dell'intero ciclo di vita dell'AI generativa.

Casi d'uso comuni per le offerte Google Cloud

Di seguito sono riportati alcuni esempi di casi d'uso comuni particolarmente adatti per le offerte Google Cloud.

  • Produzione di app e soluzioni. Prodotti come Cloud Functions e Cloud Run ti consentono di eseguire il deployment delle app con scalabilità, sicurezza e privacy di livello aziendale. Scopri di più su sicurezza e privacy nella guida Sicurezza, privacy e conformità nel cloud su Google Cloud.
  • Utilizza Vertex AI per le funzionalità MLOps end-to-end, dall'ottimizzazione alla ricerca di somiglianze vettoriali e alle pipeline ML.
  • Attiva la chiamata LLM con un'architettura basata su eventi con Cloud Functions o Cloud Run.
  • Monitora l'utilizzo della tua app con Cloud Logging e BigQuery.
  • Archivia i tuoi dati con sicurezza di livello enterprise su larga scala con servizi come BigQuery, Cloud Storage e BigQuery.
  • Esegui la generazione aumentata al recupero (RAG, Retrieval-Augmented Generation) utilizzando i dati nel cloud con BigQuery o Cloud Storage.
  • Crea e pianifica pipeline di dati. Puoi pianificare i job utilizzando Cloud Scheduler.
  • Applica gli LLM ai tuoi dati nel cloud. Se archivi dati in Cloud Storage o BigQuery, puoi richiedere agli LLM di trasferire questi dati. Ad esempio, per estrarre informazioni, riassumere o fare domande al riguardo.
  • Sfrutta i criteri di governance/residenza dei dati di Google Cloud per gestire il ciclo di vita dei dati.

Differenze tra IA di Google e Vertex AI

La seguente tabella riassume le principali differenze tra l'IA di Google e Vertex AI per aiutarti a scegliere l'opzione giusta per il tuo caso d'uso:

Funzionalità API Google AI Gemini API Vertex AI Gemini di Google Cloud
Ultimi modelli Gemini Gemini Pro e Gemini Ultra Gemini Pro e Gemini Ultra
Registrati Account Google Account Google Cloud (con contratto sui termini e fatturazione)
Autenticazione Chiave API Account di servizio Google Cloud
Playground dell'interfaccia utente Google AI Studio Vertex AI Studio
API e SDK Python, Node.js, Android (Kotlin/Java), Swift, Go L'SDK supporta Python, Node.js, Java, Go
Livello gratuito 300 $ di credito Google Cloud per i nuovi utenti
Quota (richiesta al minuto) 60 (può richiedere un aumento) Aumento su richiesta (valore predefinito: 60)
Supporto per le aziende No Chiave di crittografia del cliente
Virtual Private Cloud
Residenza dei dati
Trasparenza degli accessi
Infrastruttura scalabile per l'hosting di applicazioni
Database e archiviazione dei dati
MLOps No MLOps completo su Vertex AI (esempi: valutazione del modello, monitoraggio dei modelli, registro dei modelli)

Esegui migrazione a Vertex AI

Questa sezione mostra come eseguire la migrazione dall'utilizzo di Google AI Gemini a Vertex AI Gemini in Google Cloud.

Considerazioni per la migrazione

Durante la migrazione, considera i seguenti aspetti:

  • Puoi utilizzare il tuo progetto Google Cloud esistente (lo stesso che hai utilizzato per generare la chiave API) oppure creare un nuovo progetto Google Cloud.

  • Le regioni supportate potrebbero essere diverse tra Google AI Studio e Vertex AI. Consulta l'elenco delle regioni supportate per l'AI generativa su Google Cloud.

  • Tutti i modelli creati in Google AI Studio devono essere riaddestrati in Vertex AI.

Inizia a utilizzare Vertex AI Studio

Il processo da seguire per eseguire la migrazione a Vertex AI è diverso a seconda che tu abbia già un account Google Cloud o non abbia mai utilizzato Google Cloud.

Per scoprire come eseguire la migrazione a Vertex AI, fai clic su una delle seguenti schede, a seconda dello stato del tuo account Google Cloud:

Utilizzo già Google Cloud

  1. Accedi a Google AI Studio.
  2. Nella parte inferiore del riquadro di navigazione a sinistra, fai clic su Build with Vertex AI on Google Cloud.

    Si apre la pagina Prova Vertex AI e Google Cloud gratuitamente.

  3. Fai clic su Accetta e continua.

    Viene visualizzata la finestra di dialogo Inizia a utilizzare Vertex AI Studio.

  4. Per abilitare le API necessarie per eseguire Vertex AI, fai clic su Accetta e continua.

    Viene visualizzata la console Vertex AI. Per scoprire come eseguire la migrazione dei dati da Google AI Studio, consulta Eseguire la migrazione dei prompt.

Non hai mai utilizzato Google Cloud

  1. Accedi a Google AI Studio.
  2. Nella parte inferiore del riquadro di navigazione a sinistra, fai clic su Build with Vertex AI on Google Cloud.

    Si apre la pagina Crea un account per iniziare a utilizzare Google Cloud.

  3. Fai clic su Accetta e continua.

    Viene visualizzata la pagina Confermiamo la tua identità.

  4. Fai clic su Inizia gratuitamente.

    Viene visualizzata la finestra di dialogo Inizia a utilizzare Vertex AI Studio.

  5. Per abilitare le API necessarie per eseguire Vertex AI, fai clic su Accetta e continua.

  6. (Facoltativo) Per scoprire come eseguire la migrazione dei dati da Google AI Studio, consulta Eseguire la migrazione dei prompt in questa pagina Eseguire la migrazione dei prompt.

Python: migrazione all'API Vertex AI Gemini

Le seguenti sezioni mostrano gli snippet di codice utili per la migrazione del codice Python per utilizzare l'API Vertex AI Gemini.

Configurazione dell'SDK Python di Vertex AI

In Vertex AI non è necessaria una chiave API. Gemini su Vertex AI viene gestito utilizzando l'accesso IAM, che controlla l'autorizzazione di un utente, un gruppo o un account di servizio a chiamare l'API Gemini tramite l'SDK Vertex AI.

Anche se esistono molti modi per eseguire l'autenticazione, il metodo più semplice per eseguire l'autenticazione in un ambiente di sviluppo è installare Google Cloud CLI e utilizzare le tue credenziali utente per accedere all'interfaccia a riga di comando.

Per effettuare chiamate di inferenza a Vertex AI, devi anche assicurarti che il tuo account utente o di servizio abbia il ruolo Utente Vertex AI.

Esempio di codice per installare il client

Google AI Vertex AI
# To install the Python SDK, use this CLI command:
# pip install google-generativeai

from google.generativeai import GenerativeModel
from google.colab import userdata

genai.configure(userdata.get('API_KEY'))
        
# To install the Python SDK, use this CLI command:
# pip install google-cloud-aiplatform

import vertexai
from vertexai.generative_models
          import GenerativeModel, Image

PROJECT_ID = ""
REGION = ""  # e.g. us-central1
vertexai.init(project=PROJECT_ID, location=REGION)
        

Esempio di codice per generare testo da un prompt di testo

Google AI Vertex AI
model = GenerativeModel('gemini-1.0-pro')

response = model.generate_content('The opposite of hot is')
print(response.text) #  The opposite of hot is cold.
        
model = GenerativeModel('gemini-1.0-pro')

response = model.generate_content('The opposite of hot is')
print(response.text) #  The opposite of hot is cold.
        

Esempio di codice per generare testo da testo e immagine

Google AI Vertex AI
import PIL.Image

multimodal_model = GenerativeModel('gemini-1.0-pro-vision')

image = PIL.Image.open('image.jpg')

response = multimodal_model.generate_content(['What is this picture?', image])
print(response.text) # A cat is shown in this picture.
        
multimodal_model = GenerativeModel("gemini-1.0-pro-vision")

image = Image.load_from_file("image.jpg")

response = multimodal_model.generate_content(["What is shown in this image?", image])

print(response.text) # A cat is shown in this picture.
        

Esempio di codice per generare una chat multi-turno

Google AI Vertex AI
model = GenerativeModel('gemini-1.0-pro')

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)
        
model = GenerativeModel("gemini-1.0-pro")

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)
        

Esegui la migrazione dei prompt a Vertex AI Studio

I dati dei prompt di Google AI Studio vengono salvati in una cartella di Google Drive. Questa sezione mostra come eseguire la migrazione dei prompt a Vertex AI Studio.

  1. Apri Google Drive.
  2. Vai alla cartella AI_Studio in cui sono archiviati i prompt. Posizione dei prompt su Google Drive
  3. Scarica i tuoi prompt da Google Drive in una directory locale.

  4. Apri Generative AI Studio di Vertex AI nella console Google Cloud.

  5. Nel menu Vertex AI, fai clic su Lingua.

  6. Fai clic sulla scheda I miei prompt.

  7. Fai clic su Importa prompt.

  8. Nel campo File dei prompt, fai clic su Sfoglia e seleziona un prompt dalla directory locale.

    Per caricare collettivamente i prompt, devi combinarli manualmente in un singolo file JSON.

  9. Fai clic su Carica.

    I prompt vengono caricati nella scheda I miei prompt.

Caricare i dati di addestramento su Vertex AI Studio

Per eseguire la migrazione dei dati di addestramento in Vertex AI, devi caricarli in un bucket Google Cloud Storage. Per maggiori informazioni, consulta Modelli di base del linguaggio perfezionato.

Elimina le chiavi API inutilizzate

Se non hai più bisogno di utilizzare la chiave API Google AI Gemini, segui le best practice per la sicurezza ed eliminala.

Passaggi successivi