Migrazione da Gemini su Google AI a Vertex AI

Se non hai mai utilizzato Gemini, consulta le guide rapide. è il modo più rapido per iniziare.

Tuttavia, man mano che le tue soluzioni di AI generativa maturano, potresti aver bisogno di una piattaforma per creare e il deployment di applicazioni e soluzioni di AI generativa end-to-end. Google Cloud offre un ecosistema completo di strumenti per consentire agli sviluppatori di sfruttare la potenza dell'AI generativa, dalle fasi iniziali di sviluppo dell'app al deployment, all'hosting delle app e alla gestione di attività di dati su larga scala.

La piattaforma Vertex AI di Google Cloud offre una suite di strumenti MLOps che semplificano l'utilizzo, il deployment e il monitoraggio dei modelli di AI per migliorarne l'efficienza e l'affidabilità. Inoltre, le integrazioni con gli strumenti DevOps, il logging, il monitoraggio e IAM forniscono un approccio olistico alla l'intero ciclo di vita dell'AI generativa.

Casi d'uso comuni per le offerte Google Cloud

Di seguito sono riportati alcuni esempi di casi d'uso comuni adatti alle offerte di Google Cloud.

  • Metti in produzione le tue app e le tue soluzioni. Prodotti simili a Cloud Functions e Cloud Run consente di eseguire il deployment delle app con scalabilità, sicurezza e privacy di livello aziendale. Scopri altri dettagli su sicurezza e privacy sul Guida Sicurezza, privacy e conformità nel cloud su Google Cloud.
  • Utilizza Vertex AI per le funzionalità MLOps end-to-end, dall'ottimizzazione alla ricerca di somiglianze vettoriali e pipeline di ML.
  • Attiva la chiamata LLM con un'architettura basata su eventi con Cloud Functions o Cloud Run.
  • Monitora l'utilizzo della tua app con Cloud Logging e BigQuery.
  • Archivia i tuoi dati con la sicurezza di livello aziendale, su larga scala con servizi come BigQuery Cloud Storage e Cloud SQL.
  • Esegui RAG (Retrieval-Augmented Generation) utilizzando dati nel cloud con BigQuery o Cloud Storage.
  • Creare e pianificare pipeline di dati. Puoi pianificare lavori utilizzando Cloud Scheduler.
  • Applica gli LLM ai dati nel cloud. Se archivi i dati in Cloud Storage o BigQuery, puoi richiedere agli LLM questi dati. Ad esempio, per estrarre informazioni, riassumere o chiedere domande al riguardo.
  • Sfrutta Google Cloud governance/residenza dei dati per gestire il ciclo di vita dei dati.

Differenze tra Google AI e Vertex AI

La seguente tabella riassume le principali differenze tra Google AI e Vertex AI per aiutarti a decidi quale opzione è più adatta al tuo caso d'uso:

Funzionalità API Gemini dell'IA di Google API Gemini Vertex AI
Modelli Gemini Gemini 1.5 Flash, Gemini 1.5 Pro, Gemini 1.0 Pro, Gemini 1.0 Pro Vision (deprecato) Gemini 1.5 Flash, Gemini 1.5 Pro, Gemini 1.0 Pro, Gemini 1.0 Pro Vision, Gemini 1.0 Ultra, Gemini 1.0 Ultra Vision
Registrati Account Google Account Google Cloud (con contratto sui termini e fatturazione)
Autenticazione Chiave API Account di servizio Google Cloud
Playground interfaccia utente Google AI Studio Vertex AI Studio
API e SDK SDK server e client mobile/web
  • Server: Python, Node.js, Go, Dart
  • Client web/mobile: Android (Kotlin/Java), Swift, Web, Flutter
 SDK server e client mobile/web
  • Server: Python, Node.js, Go, Java
  • Client web/mobile (tramite Vertex AI per Firebase): Android (Kotlin/Java), Swift, Web, Flutter
Utilizzo senza costi di API e SDK Sì, se applicabile 300 $ di credito Google Cloud per i nuovi utenti
Quota (richieste al minuto) Varia in base al modello e al piano tariffario (leggi le informazioni dettagliate) Varia in base al modello e alla regione (leggi le informazioni dettagliate)
Supporto per le aziende No Chiave di crittografia del cliente
Virtual Private Cloud
Residenza dei dati
Trasparenza degli accessi
Infrastruttura scalabile per l'hosting di applicazioni
Database e archiviazione dati
MLOps No MLOps complete su Vertex AI (esempi: valutazione del modello, monitoraggio del modello, registro dei modelli)

Esegui migrazione a Vertex AI

Questa sezione mostra come eseguire la migrazione da Gemini su Google AI a Vertex AI.

Considerazioni da fare durante la migrazione

Durante la migrazione, considera quanto segue:

  • Puoi usare il tuo progetto Google Cloud esistente (lo stesso che hai usato per generare la tua chiave API) o creare un nuovo account Google Cloud progetto.

  • Le regioni supportate potrebbero variare tra Google AI Studio e Vertex AI. Consulta l'elenco delle regioni supportate per AI generativa su Google Cloud.

  • Tutti i modelli creati in Google AI Studio devono essere riaddestrati Vertex AI.

Inizia a utilizzare Vertex AI Studio

Il processo che segui per eseguire la migrazione a Vertex AI è diverso, a seconda se hai già un account Google Cloud o non hai mai utilizzato Google Cloud.

Per scoprire come eseguire la migrazione a Vertex AI, fai clic su una delle seguenti schede, a seconda dello stato del tuo account Google Cloud:

Utilizza già Google Cloud

  1. Accedi a Google AI Studio.

  2. Nella parte inferiore del riquadro di navigazione a sinistra, fai clic su Crea con Vertex AI su Google Cloud.

    Si apre la pagina Prova Vertex AI e Google Cloud gratuitamente.

  3. Fai clic su Accetto e Continua.

    Viene visualizzata la finestra di dialogo Inizia a utilizzare Vertex AI Studio.

  4. Per abilitare le API necessarie per eseguire Vertex AI, fai clic su Accetta e Continua.

    Viene visualizzata la console Vertex AI. Per scoprire come eseguire la migrazione dei dati da Google AI Studio, consulta Eseguire la migrazione dei prompt.

Non hai mai utilizzato Google Cloud

  1. Accedi a Google AI Studio.

  2. Nella parte inferiore del riquadro di navigazione a sinistra, fai clic su Crea con Vertex AI su Google Cloud.

    Si apre la pagina Crea un account per iniziare a utilizzare Google Cloud.

  3. Fai clic su Accetto e Continua.

    Viene visualizzata la pagina Conferma la tua identità.

  4. Fai clic su Inizia gratuitamente.

    Viene visualizzata la finestra di dialogo Inizia a utilizzare Vertex AI Studio.

  5. Per abilitare le API necessarie per eseguire Vertex AI, fai clic su Accetta e Continua.

  6. (Facoltativo) Per scoprire come eseguire la migrazione dei tuoi dati da Google AI Studio, consulta Prompt in questa pagina Esegui la migrazione dei prompt.

Python: esegui la migrazione all'API Gemini di Vertex AI

Le seguenti sezioni mostrano snippet di codice utili per eseguire la migrazione del codice Python per utilizzare l'API Gemini di Vertex AI.

Configurazione dell'SDK Python per Vertex AI

Su Vertex AI non è necessaria una chiave API. Gemini su Vertex AI viene gestito tramite l'accesso IAM, che controlla l'autorizzazione di un utente, un gruppo o un account di servizio per chiamare l'API Gemini tramite l'SDK Vertex AI.

Sebbene ci siano molti modi per l'autenticazione, il metodo più semplice per l'autenticazione in un ambiente di sviluppo è installa Google Cloud CLI quindi utilizza le tue credenziali utente accedi all'interfaccia a riga di comando.

Per effettuare chiamate di inferenza a Vertex AI, devi anche assicurarti che il tuo account utente o di servizio abbia lo strumento Vertex AI Ruolo utente.

Esempio di codice per installare il client

Google AI Vertex AI 
# To install the Python SDK, use this CLI command:
# pip install google-generativeai

import google.generativeai as genai
from google.generativeai import GenerativeModel

API_KEY=""
genai.configure(api_key=API_KEY)
        
# To install the Python SDK, use this CLI command:
# pip install google-cloud-aiplatform

import vertexai
from vertexai.generative_models
          import GenerativeModel, Image

PROJECT_ID = ""
REGION = ""  # e.g. us-central1
vertexai.init(project=PROJECT_ID, location=REGION)

Esempio di codice per generare testo da un prompt di testo

Google AI Vertex AI 
model = GenerativeModel('gemini-1.5-flash')

response = model.generate_content('The opposite of hot is')
print(response.text) #  The opposite of hot is cold.
        
model = GenerativeModel('gemini-1.5-flash')

response = model.generate_content('The opposite of hot is')
print(response.text) #  The opposite of hot is cold.

Esempio di codice per generare testo da testo e immagine

Google AI Vertex AI 
import PIL.Image

multimodal_model = GenerativeModel('gemini-1.5-flash')

image = PIL.Image.open('image.jpg')

response = multimodal_model.generate_content(['What is this picture?', image])
print(response.text) # A cat is shown in this picture.
        
multimodal_model = GenerativeModel("gemini-1.5-flash")

image = Image.load_from_file("image.jpg")

response = multimodal_model.generate_content(["What is shown in this image?", image])

print(response.text) # A cat is shown in this picture.

Esempio di codice per generare una chat a turni multipli

Google AI Vertex AI 
model = GenerativeModel('gemini-1.5-flash')

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)
        
model = GenerativeModel("gemini-1.5-flash")

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)

Esegui la migrazione dei prompt a Vertex AI Studio

I dati dei prompt di Google AI Studio vengono salvati in una cartella di Google Drive. Questo mostra come eseguire la migrazione dei prompt a Vertex AI Studio.

  1. Apri Google Drive.
  2. Vai alla cartella AI_Studio in cui sono archiviati i prompt. Posizione delle richieste su Google Drive

  3. Scarica i tuoi prompt da Google Drive in una directory locale.

  4. Apri Generative AI Studio di Vertex AI nella console Google Cloud.

  5. Nel menu Vertex AI, fai clic su Lingua.

  6. Fai clic sulla scheda I miei prompt.

  7. Fai clic su Importa prompt.

  8. Nel campo File prompt, fai clic su Sfoglia e seleziona un prompt nella directory locale.

    Per caricare le richieste in blocco, devi combinarle manualmente in un un singolo file JSON.

  9. Fai clic su Carica.

    I prompt vengono caricati nella scheda I miei prompt.

Carica i dati di addestramento in Vertex AI Studio

Per eseguire la migrazione dei dati di addestramento a Vertex AI, devi caricare i dati in una Cloud Storage. Per ulteriori informazioni, vedi Perfeziona la lingua di base.

Elimina chiavi API inutilizzate

Se non hai più bisogno di utilizzare la chiave API Gemini di Google AI, segui le best practice sulla sicurezza pratiche ed eliminazione.

Per eliminare una chiave API:

  1. Apri l'app Credenziali API Google Cloud .

  2. Trova la chiave API che vuoi eliminare e fai clic sull'icona Azioni.

  3. Seleziona Elimina chiave API.

  4. Nella finestra modale Elimina credenziale, seleziona Elimina.

    L'eliminazione di una chiave API richiede alcuni minuti per la propagazione. Dopo il giorno viene completata la propagazione, qualsiasi traffico che utilizza la chiave API eliminata viene rifiutato.

Passaggi successivi