Migrazione da Gemini su Google AI a Vertex AI

Se non hai mai utilizzato Gemini, le guide rapide sono il modo più rapido per iniziare.

Tuttavia, man mano che le tue soluzioni di AI generativa maturano, potresti aver bisogno di una piattaforma per creare e eseguire il deployment di applicazioni e soluzioni di AI generativa end-to-end. Google Cloud offre un ecosistema completo di strumenti per consentire agli sviluppatori di sfruttare la potenza dell'AI generativa, dalle fasi iniziali dello sviluppo delle app al deployment delle app, all'hosting delle app e alla gestione di dati complessi su larga scala.

La piattaforma Vertex AI di Google Cloud offre una suite di strumenti MLOps che semplificano l'utilizzo, il deployment e il monitoraggio dei modelli di IA per garantire efficienza e affidabilità. Inoltre, le integrazioni con database, strumenti DevOps, logging, monitoraggio e IAM forniscono un approccio olistico alla gestione dell'intero ciclo di vita dell'AI generativa.

Casi d'uso comuni per le offerte Google Cloud

Di seguito sono riportati alcuni esempi di casi d'uso comuni adatti alle offerte di Google Cloud.

  • Metti in produzione le tue app e le tue soluzioni. Prodotti come Cloud Functions e Cloud Run ti consentono di eseguire il deployment delle app con scalabilità, sicurezza e privacy di livello aziendale. Scopri di più su sicurezza e privacy nella guida Sicurezza, privacy e conformità nel cloud su Google Cloud.
  • Utilizza Vertex AI per le funzionalità MLOps end-to-end, dall'ottimizzazione alla ricerca di somiglianze vettoriali e alle pipeline ML.
  • Attiva la chiamata LLM con un'architettura basata su eventi con Cloud Functions o Cloud Run.
  • Monitora l'utilizzo della tua app con Cloud Logging e BigQuery.
  • Archivia i tuoi dati con la sicurezza di livello enterprise, su larga scala, con servizi come BigQuery, Cloud Storage e BigQuery.
  • Esegui RAG (Retrieval-Augmented Generation) utilizzando dati nel cloud con BigQuery o Cloud Storage.
  • Creare e pianificare pipeline di dati. Puoi pianificare i job utilizzando Cloud Scheduler.
  • Applica gli LLM ai dati nel cloud. Se archivi i dati in Cloud Storage o BigQuery, puoi richiedere questi dati agli LLM. Ad esempio, per estrarre informazioni, riassumere o porre domande al riguardo.
  • Sfrutta i criteri di governance/residency dei dati di Google Cloud per gestire il ciclo di vita dei dati.

Differenze tra l'IA di Google e Vertex AI

La tabella seguente riassume le principali differenze tra Google AI e Vertex AI per aiutarti a decidere quale opzione è adatta al tuo caso d'uso:

Funzionalità API Gemini dell'IA di Google API Gemini Vertex AI
Modelli Gemini Gemini 1.5 Flash, Gemini 1.5 Pro, Gemini 1.0 Pro, Gemini 1.0 Pro Vision (deprecato) Gemini 1.5 Flash, Gemini 1.5 Pro, Gemini 1.0 Pro, Gemini 1.0 Pro Vision, Gemini 1.0 Ultra, Gemini 1.0 Ultra Vision
Registrati Account Google Account Google Cloud (con contratto sui termini e fatturazione)
Autenticazione Chiave API Account di servizio Google Cloud
Playground interfaccia utente Google AI Studio Vertex AI Studio
API e SDK SDK server e client mobile/web
  • Server: Python, Node.js, Go, Dart
  • Client web/mobile: Android (Kotlin/Java), Swift, Web, Flutter
 SDK server e client mobile/web
  • Server: Python, Node.js, Go, Java
  • Client web/mobile (tramite Vertex AI per Firebase): Android (Kotlin/Java), Swift, Web, Flutter
Utilizzo senza costi di API e SDK Sì, ove applicabile 300 $ di credito Google Cloud per i nuovi utenti
Quota (richieste al minuto) Varia in base al modello e al piano tariffario (vedi informazioni dettagliate) Varia in base al modello e alla regione (vedi le informazioni dettagliate)
Supporto per le aziende No Chiave di crittografia del cliente
Cloud privato virtuale
Residenza dei dati
Trasparenza degli accessi
Infrastruttura scalabile per l'hosting di applicazioni
Database e archiviazione dati
MLOps Nessuna MLOps complete su Vertex AI (esempi: valutazione del modello, monitoraggio del modello, registro dei modelli)

Esegui migrazione a Vertex AI

Questa sezione mostra come eseguire la migrazione da Gemini su Google AI a Vertex AI.

Considerazioni da fare durante la migrazione

Durante la migrazione, considera quanto segue:

  • Puoi utilizzare il tuo progetto Google Cloud esistente (lo stesso che hai utilizzato per generare la chiave API) oppure creare un nuovo progetto Google Cloud.

  • Le regioni supportate potrebbero essere diverse tra Google AI Studio e Vertex AI. Consulta l'elenco delle regioni supportate per l'AI generativa su Google Cloud.

  • Tutti i modelli creati in Google AI Studio devono essere riaddestrati in Vertex AI.

Inizia a utilizzare Vertex AI Studio

Il processo che segui per eseguire la migrazione a Vertex AI è diverso a seconda che tu abbia già un account Google Cloud o non abbia mai utilizzato Google Cloud.

Per scoprire come eseguire la migrazione a Vertex AI, fai clic su una delle seguenti schede, a seconda dello stato del tuo account Google Cloud:

Utilizza già Google Cloud

  1. Accedi a Google AI Studio.

  2. Nella parte inferiore del riquadro di navigazione a sinistra, fai clic su Crea con Vertex AI su Google Cloud.

    Si apre la pagina Prova Vertex AI e Google Cloud gratuitamente.

  3. Fai clic su Accetta e continua.

    Viene visualizzata la finestra di dialogo Inizia a utilizzare Vertex AI Studio.

  4. Per abilitare le API necessarie per eseguire Vertex AI, fai clic su Accetta e continua.

    Viene visualizzata la console Vertex AI. Per scoprire come eseguire la migrazione dei dati da Google AI Studio, consulta Eseguire la migrazione dei prompt.

Non hai mai utilizzato Google Cloud

  1. Accedi a Google AI Studio.

  2. Nella parte inferiore del riquadro di navigazione a sinistra, fai clic su Crea con Vertex AI su Google Cloud.

    Si apre la pagina Crea un account per iniziare a utilizzare Google Cloud.

  3. Fai clic su Accetta e continua.

    Viene visualizzata la pagina Conferma la tua identità.

  4. Fai clic su Inizia gratuitamente.

    Viene visualizzata la finestra di dialogo Inizia a utilizzare Vertex AI Studio.

  5. Per abilitare le API necessarie per eseguire Vertex AI, fai clic su Accetta e continua.

  6. (Facoltativo) Per scoprire come eseguire la migrazione dei dati da Google AI Studio, consulta Eseguire la migrazione dei prompt in questa pagina.

Python: esegui la migrazione all'API Gemini di Vertex AI

Le sezioni seguenti mostrano snippet di codice per aiutarti a eseguire la migrazione del codice Python per utilizzare l'API Gemini di Vertex AI.

Configurazione dell'SDK Python per Vertex AI

Su Vertex AI non è necessaria una chiave API. Gemini su Vertex AI viene invece gestito utilizzando l'accesso IAM, che controlla l'autorizzazione per un utente, un gruppo o un account di servizio per chiamare l'API Gemini tramite l'SDK Vertex AI.

Sebbene esistano diversi modi per eseguire l'autenticazione, il metodo più semplice per l'autenticazione in un ambiente di sviluppo è installare Google Cloud CLI, quindi utilizzare le tue credenziali utente per accedere all'interfaccia a riga di comando.

Per effettuare chiamate di inferenza a Vertex AI, devi anche assicurarti che il tuo account utente o di servizio abbia il ruolo Utente Vertex AI.

Esempio di codice per installare il client

Google AI Vertex AI 
# To install the Python SDK, use this CLI command:
# pip install google-generativeai

import google.generativeai as genai
from google.generativeai import GenerativeModel

API_KEY=""
genai.configure(api_key=API_KEY)
        
# To install the Python SDK, use this CLI command:
# pip install google-cloud-aiplatform

import vertexai
from vertexai.generative_models
          import GenerativeModel, Image

PROJECT_ID = ""
REGION = ""  # e.g. us-central1
vertexai.init(project=PROJECT_ID, location=REGION)

Esempio di codice per generare testo da un prompt di testo

Google AI Vertex AI 
model = GenerativeModel('gemini-1.5-flash')

response = model.generate_content('The opposite of hot is')
print(response.text) #  The opposite of hot is cold.
        
model = GenerativeModel('gemini-1.5-flash')

response = model.generate_content('The opposite of hot is')
print(response.text) #  The opposite of hot is cold.

Esempio di codice per generare testo da testo e immagine

Google AI Vertex AI 
import PIL.Image

multimodal_model = GenerativeModel('gemini-1.5-flash')

image = PIL.Image.open('image.jpg')

response = multimodal_model.generate_content(['What is this picture?', image])
print(response.text) # A cat is shown in this picture.
        
multimodal_model = GenerativeModel("gemini-1.5-flash")

image = Image.load_from_file("image.jpg")

response = multimodal_model.generate_content(["What is shown in this image?", image])

print(response.text) # A cat is shown in this picture.

Esempio di codice per generare una chat a turni multipli

Google AI Vertex AI 
model = GenerativeModel('gemini-1.5-flash')

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)
        
model = GenerativeModel("gemini-1.5-flash")

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)

Esegui la migrazione dei prompt a Vertex AI Studio

I dati dei prompt di Google AI Studio vengono salvati in una cartella di Google Drive. Questa sezione mostra come eseguire la migrazione dei prompt a Vertex AI Studio.

  1. Apri Google Drive.
  2. Vai alla cartella AI_Studio in cui sono archiviati i prompt. Posizione delle richieste su Google Drive

  3. Scarica i tuoi prompt da Google Drive in una directory locale.

  4. Apri Generative AI Studio di Vertex AI nella console Google Cloud.

  5. Nel menu Vertex AI, fai clic su Lingua.

  6. Fai clic sulla scheda I miei prompt.

  7. Fai clic su Importa prompt.

  8. Nel campo File prompt, fai clic su Sfoglia e seleziona un prompt dalla directory locale.

    Per caricare i prompt in blocco, devi combinarli manualmente in un singolo file JSON.

  9. Fai clic su Carica.

    I prompt vengono caricati nella scheda I miei prompt.

Carica i dati di addestramento in Vertex AI Studio

Per eseguire la migrazione dei dati di addestramento a Vertex AI, devi caricare i dati in un bucket Google Cloud Storage. Per maggiori informazioni, consulta Ottimizzazione dei modelli di base linguistici.

Elimina chiavi API inutilizzate

Se non hai più bisogno di utilizzare la chiave API Gemini di Google AI, segui le best practice per la sicurezza ed eliminala.

Per eliminare una chiave API:

  1. Apri la pagina Credenziali API di Google Cloud.

  2. Trova la chiave API che vuoi eliminare e fai clic sull'icona Azioni.

  3. Seleziona Elimina chiave API.

  4. Nella finestra modale Elimina credenziale, seleziona Elimina.

    L'eliminazione di una chiave API richiede alcuni minuti per la propagazione. Una volta completata la propagazione, il traffico che utilizza la chiave API eliminata viene rifiutato.

Passaggi successivi