Eseguire la migrazione da Gemini su Google AI a Vertex AI

Se non hai mai utilizzato Gemini, le guide rapide rappresentano il modo più rapido per iniziare.

Tuttavia, con la maturazione delle tue soluzioni di IA generativa, potresti aver bisogno di una piattaforma per creare e implementare soluzioni e applicazioni di IA generativa end-to-end. Google Cloud fornisce un ecosistema completo di strumenti per consentire agli sviluppatori di sfruttare la potenza dell'IA generativa, dalle fasi iniziali di sviluppo delle app al loro deployment, all'hosting e alla gestione di dati complessi su larga scala.

La piattaforma Vertex AI di Google Cloud offre una suite di strumenti MLOps che semplificano l'utilizzo, il deployment e il monitoraggio dei modelli di IA per garantire efficienza e affidabilità. Inoltre, le integrazioni con database, strumenti DevOps, logging, monitoraggio e IAM forniscono un approccio olistico per gestire l'intero ciclo di vita dell'IA generativa.

Casi d'uso comuni per le offerte Google Cloud

Ecco alcuni esempi di casi d'uso comuni che sono adatti alle offerte Google Cloud.

  • Esegui la produzione delle tue app e soluzioni. Prodotti come funzioni Cloud Run e Cloud Run ti consentono di eseguire il deployment di app con scalabilità, sicurezza e privacy di livello enterprise. Scopri di più sulla sicurezza e sulla privacy nella guida Sicurezza, privacy e conformità del cloud su Google Cloud.
  • Utilizza Vertex AI per funzionalità MLOps end-to-end, dalla regolazione alla ricerca di similarità vettoriale e alle pipeline di ML.
  • Attiva la chiamata LLM con un'architettura basata su eventi con funzioni Cloud Run o Cloud Run.
  • Monitora l'utilizzo della tua app con Cloud Logging e BigQuery.
  • Archivia i tuoi dati con sicurezza di livello enterprise su larga scala con servizi come BigQuery, Cloud Storage, e Cloud SQL.
  • Esegui la generazione basata sul recupero (RAG) utilizzando i dati nel cloud con BigQuery o Cloud Storage.
  • Crea e pianifica le pipeline di dati. Puoi pianificare i job utilizzando Cloud Scheduler.
  • Applica gli LLM ai tuoi dati nel cloud. Se archivi i dati in Cloud Storage o BigQuery, puoi richiedere LLM su questi dati. Ad esempio, per estrarre informazioni, riassumerle o porre domande al riguardo.
  • Utilizza le norme di residenza/governance dei dati di Google Cloud per gestire il ciclo di vita dei dati.

Differenze tra l'AI di Google e Vertex AI

La seguente tabella riassume le principali differenze tra l'AI di Google e Vertex AI per aiutarti a scegliere l'opzione più adatta al tuo caso d'uso:

Funzionalità API Gemini di Google AI API Vertex AI Gemini
Modelli Gemini Gemini 1.5 Flash, Gemini 1.5 Pro, Gemini 1.0 Pro, Gemini 1.0 Pro Vision (dismesso) Gemini 1.5 Flash, Gemini 1.5 Pro, Gemini 1.0 Pro, Gemini 1.0 Pro Vision, Gemini 1.0 Ultra, Gemini 1.0 Ultra Vision
Registrati Account Google Account Google Cloud (con contratto e fatturazione)
Autenticazione Chiave API Account di servizio Google Cloud
Playground dell'interfaccia utente Google AI Studio Vertex AI Studio
API e SDK SDK server e client mobile/web
  • Server: Python, Node.js, Go, Dart, ABAP
  • Client mobile/web: Android (Kotlin/Java), Swift, web, Flutter
 SDK server e client mobile/web
  • Server: Python, Node.js, Go, Java, ABAP
  • Client mobile/web (tramite Vertex AI per Firebase): Android (Kotlin/Java), Swift, web, Flutter
Utilizzo senza costi di API e SDK Sì, ove applicabile Credito Google Cloud di 300 $ per i nuovi utenti
Quota (richieste al minuto) Varia in base al modello e al piano tariffario (consulta le informazioni dettagliate) Varia in base al modello e alla regione (vedi informazioni dettagliate)
Supporto per le aziende No Chiave di crittografia del cliente
Virtual Private Cloud
Residenza dei dati
Access Transparency
Infrastruttura scalabile per l'hosting di applicazioni
Database e archiviazione dei dati
MLOps No MLOps completo su Vertex AI (ad es. valutazione dei modelli, monitoraggio dei modelli, Model Registry)

Esegui migrazione a Vertex AI

Questa sezione mostra come eseguire la migrazione da Gemini sull'IA di Google a Vertex AI.

Considerazioni durante la migrazione

Tieni presente quanto segue durante la migrazione:

  • Puoi utilizzare il tuo progetto Google Cloud esistente (lo stesso utilizzato per generare la chiave API) o creare un nuovo progetto Google Cloud.

  • Le regioni supportate potrebbero variare tra Google AI Studio e Vertex AI. Consulta l'elenco delle regioni supportate per l'AI generativa su Google Cloud.

  • Tutti i modelli creati in Google AI Studio devono essere riattizzati in Vertex AI.

Iniziare a utilizzare Vertex AI Studio

La procedura da seguire per eseguire la migrazione a Vertex AI è diversa a seconda che tu abbia già un account Google Cloud o che tu non abbia mai utilizzato Google Cloud.

Per scoprire come eseguire la migrazione a Vertex AI, fai clic su una delle seguenti schede, a seconda dello stato del tuo account Google Cloud:

Utilizzi già Google Cloud

  1. Accedi a Google AI Studio.

  2. Nella parte inferiore del riquadro di navigazione a sinistra, fai clic su Crea con Vertex AI su Google Cloud.

    Viene visualizzata la pagina Prova Vertex AI e Google Cloud gratuitamente.

  3. Fai clic su Accetta e continua.

    Viene visualizzata la finestra di dialogo Inizia a utilizzare Vertex AI Studio.

  4. Per abilitare le API necessarie per eseguire Vertex AI, fai clic su Accetta e continua.

    Viene visualizzata la console Vertex AI. Per scoprire come eseguire la migrazione dei dati da Google AI Studio, consulta Eseguire la migrazione dei prompt.

Non hai mai utilizzato Google Cloud

  1. Accedi a Google AI Studio.

  2. Nella parte inferiore del riquadro di navigazione a sinistra, fai clic su Crea con Vertex AI su Google Cloud.

    Viene visualizzata la pagina Crea un account per iniziare a utilizzare Google Cloud.

  3. Fai clic su Accetta e continua.

    Viene visualizzata la pagina Verifichiamo la tua identità.

  4. Fai clic su Inizia gratis.

    Viene visualizzata la finestra di dialogo Inizia a utilizzare Vertex AI Studio.

  5. Per abilitare le API necessarie per eseguire Vertex AI, fai clic su Accetta e continua.

  6. (Facoltativo) Per scoprire come eseguire la migrazione dei dati da Google AI Studio, consulta Migrazione Prompt in questa pagina Eseguire la migrazione dei prompt.

Python: esegui la migrazione all'API Gemini di Vertex AI

Le sezioni seguenti mostrano snippet di codice per aiutarti a eseguire la migrazione del codice Python in modo da utilizzare l'API Vertex AI Gemini.

Configurazione dell'SDK Vertex AI Python

Su Vertex AI non è necessaria una chiave API. Gemini su Vertex AI viene invece gestito utilizzando l'accesso IAM, che controlla l'autorizzazione di un utente, un gruppo o un account di servizio a chiamare l'API Gemini tramite l'SDK Vertex AI.

Sebbene esistano molti modi per eseguire l'autenticazione, il metodo più semplice per eseguire l'autenticazione in un ambiente di sviluppo è installare Google Cloud CLI e poi utilizzare le credenziali utente per accedere alla CLI.

Per effettuare chiamate di inferenza a Vertex AI, devi anche assicurarti che il tuo account utente o di servizio abbia il ruolo Utente Vertex AI.

Esempio di codice per installare il client

Google AI Vertex AI 
# To install the Python SDK, use this CLI command:
# pip install google-generativeai

import google.generativeai as genai
from google.generativeai import GenerativeModel

API_KEY="API_KEY"
genai.configure(api_key=API_KEY)
        
# To install the Python SDK, use this CLI command:
# pip install google-cloud-aiplatform

import vertexai
from vertexai.generative_models import GenerativeModel, Image

PROJECT_ID = "PROJECT_ID"
REGION = "REGION"  # e.g. us-central1
vertexai.init(project=PROJECT_ID, location=REGION)

Esempio di codice per generare testo dal prompt di testo

Google AI Vertex AI 
model = GenerativeModel("gemini-1.5-flash")

response = model.generate_content("The opposite of hot is")
print(response.text) #  The opposite of hot is cold.
        
model = GenerativeModel("gemini-1.5-flash")

response = model.generate_content("The opposite of hot is")
print(response.text) #  The opposite of hot is cold.

Esempio di codice per generare testo da testo e immagine

Google AI Vertex AI 
import PIL.Image

multimodal_model = GenerativeModel("gemini-1.5-flash")

image = PIL.Image.open("image.jpg")

response = multimodal_model.generate_content(["What is this picture?", image])
print(response.text) # A cat is shown in this picture.
        
multimodal_model = GenerativeModel("gemini-1.5-flash")

image = Image.load_from_file("image.jpg")

response = multimodal_model.generate_content(["What is shown in this image?", image])

print(response.text) # A cat is shown in this picture.

Esempio di codice per generare una chat multi-turno

Google AI Vertex AI 
model = GenerativeModel("gemini-1.5-flash")

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)
        
model = GenerativeModel("gemini-1.5-flash")

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)

Esegui la migrazione dei prompt in Vertex AI Studio

I dati dei prompt di Google AI Studio vengono salvati in una cartella di Google Drive. Questa sezione mostra come eseguire la migrazione dei prompt in Vertex AI Studio.

  1. Apri Google Drive.
  2. Vai alla cartella AI_Studio in cui sono archiviati i prompt. Posizione dei prompt in Google Drive

  3. Scarica i prompt da Google Drive in una directory locale.

  4. Apri Vertex AI Studio nella console Google Cloud.

  5. Nel menu Vertex AI, fai clic su Gestione prompt.

  6. Fai clic su Importa prompt.

  7. Nel campo File prompt, fai clic su Sfoglia e seleziona un prompt dalla directory locale.

    Per caricare i prompt collettivamente, devi combinarli manualmente in un singolo file JSON.

  8. Fai clic su Carica.

    I prompt vengono caricati nella scheda I miei prompt.

Carica i dati di addestramento in Vertex AI Studio

Per eseguire la migrazione dei dati di addestramento a Vertex AI, devi caricarli in un bucket Cloud Storage. Per ulteriori informazioni, consulta la sezione Introduzione all'ottimizzazione .

Eliminare le chiavi API inutilizzate

Se non hai più bisogno di utilizzare la chiave API Google AI Gemini, segui le best practice per la sicurezza ed eliminala.

Per eliminare una chiave API:

  1. Apri la pagina Credenziali API Google Cloud.

  2. Individua la chiave API che vuoi eliminare e fai clic sull'icona Azioni.

  3. Seleziona Elimina chiave API.

  4. Nella finestra modale Elimina credenziale, seleziona Elimina.

    L'eliminazione di una chiave API richiede alcuni minuti per essere propagata. Al termine della propagazione, tutto il traffico che utilizza la chiave API eliminata viene rifiutato.

Passaggi successivi