Von Gemini in Google AI zu Vertex AI migrieren

Wenn Sie noch nicht mit Gemini vertraut sind, verwenden Sie die Kurzanleitungen für die ersten Schritte.

Wenn Ihre generativen KI-Lösungen besser werden, benötigen Sie möglicherweise eine Plattform für die Erstellung und Bereitstellung von generativen KI-Anwendungen und -Lösungen. Google Cloud bietet ein umfassendes Netzwerk an Tools, mit denen Entwickler das Potenzial der generativen KI nutzen können – von den ersten Phasen der Anwendungsentwicklung über die Anwendungsbereitstellung bis hin zum Anwendungshosting und der Verwaltung komplexer Daten im großen Maßstab.

Die Vertex AI-Plattform von Google Cloud bietet eine Reihe von MLOps-Tools, die die Nutzung, Bereitstellung und Monitoring von KI-Modellen im Hinblick auf Effizienz und Zuverlässigkeit optimieren. Darüber hinaus bieten Integrationen mit Datenbanken, DevOps-Tools, Logging, Monitoring und IAM einen ganzheitlichen Ansatz zum Verwalten des gesamten Lebenszyklus der generativen KI.

Gängige Anwendungsfälle für Google Cloud-Angebote

Hier sind einige Beispiele für häufige Anwendungsfälle, die sich gut für Google Cloud-Angebote eignen.

  • Anwendungen und Lösungen in die Produktion bringen. Mit Produkten wie Cloud Functions und Cloud Run können Sie Anwendungen mit Sicherheit und Datenschutz im Unternehmensmaßstab bereitstellen. Weitere Informationen zu Sicherheit und Datenschutz finden Sie im Leitfaden Sicherheit, Datenschutz und Cloud-Compliance in Google Cloud.
  • Vertex AI für End-to-End-MLOps-Funktionen verwenden, von der Feinabstimmung bis zur Suche nach Vektorähnlichkeiten und ML-Pipelines
  • Lösen Sie Ihren LLM-Aufruf mit einer ereignisgesteuerten Architektur mit Cloud Functions oder Cloud Run aus.
  • Überwachen Sie die Nutzung der Anwendung mit Cloud Logging und BigQuery.
  • Speichern Sie Ihre Daten mit Sicherheit auf Unternehmensniveau – mit Diensten wie BigQuery Cloud Storage, sowie BigQuery.
  • Führen Sie mithilfe von Daten in der Cloud mit BigQuery oder Cloud Storage RAG (Retrieval Augmented Generation) durch.
  • Datenpipelines erstellen und planen. Sie können mit Cloud Scheduler Jobs planen.
  • Wenden Sie LLMs auf Ihre Daten in der Cloud an. Wenn Sie Daten in Cloud Storage oder BigQuery speichern, können Sie LLMs über diese Daten prompten. Sie können beispielsweise Informationen extrahieren, zusammenfassen oder Fragen dazu stellen.
  • Nutzen Sie die Data Governance-/Residence-Richtlinien von Google Cloud, um Ihren Datenlebenszyklus zu verwalten.

Unterschiede zwischen Google AI und Vertex AI

In der folgenden Tabelle sind die Hauptunterschiede zwischen Google AI und Vertex AI zusammengefasst, damit Sie Entscheiden können, welche Option für Ihren Anwendungsfall am besten ist:

Produkte Google AI Gemini API Google Cloud Vertex AI Gemini API
Neueste Gemini-Modelle Gemini Pro und Gemini Ultra Gemini Pro und Gemini Ultra
Anmelden Google-Konto Google Cloud-Konto (mit Nutzungsbedingungen und Abrechnung)
Authentifizierung API-Schlüssel Google Cloud-Dienstkonto
Playground auf der Benutzeroberfläche Google AI Studio Vertex AI Studio
API und SDK Python, Node.js, Android (Kotlin/Java), Swift, Go SDK unterstützt Python, Node.js, Java und Go
Kostenlose Stufe Ja Google Cloud-Guthaben von 300 $ für neue Nutzer
Kontingent (Anfrage pro Minute) 60 (kann erhöht werden) Auf Anfrage erhöhen (Standard: 60)
Abbildung: Enterprise Support Nein kunden-Verschlüsselungsschlüssel
Virtual private cloud
Datenstandort
Access transparency
Skalierbare Infrastruktur für Anwendungshosting
Datenbanken und Datenspeicher
MLOps Nein Vollständige MLOps in Vertex AI (Beispiele: Modellbewertung, Modellmonitoring, Model Registry)

Zu Vertex AI migrieren

In diesem Abschnitt wird gezeigt, wie Sie von Google AI Gemini zu Vertex AI Gemini in Google Cloud migrieren.

Überlegungen bei der Migration

Beachten Sie bei der Migration Folgendes:

Vertex AI Studio verwenden

Der Prozess für die Migration zu Vertex AI unterscheidet sich je nachdem, ob Sie bereits ein Google Cloud-Konto haben oder neu bei Google Cloud sind.

Klicken Sie je nach Status Ihres Google Cloud-Kontos auf einen der folgenden Tabs, um zu erfahren, wie Sie zu Vertex AI migrieren:

Sie verwenden bereits Google Cloud.

  1. Melden Sie sich in Google AI Studio an.
  2. Klicken Sie im linken Navigationsbereich unten auf Mit Vertex AI in Google Cloud erstellen.

    Die Seite Vertex AI und Google Cloud kostenlos testen wird geöffnet.

  3. Klicken Sie auf Zustimmen und Fortfahren.

    Das Dialogfeld Erste Schritte mit Vertex AI Studio wird angezeigt.

  4. Klicken Sie zum Aktivieren der zum Ausführen von Vertex AI erforderlichen APIs auf Zustimmen und Weiter.

    Die Vertex AI-Konsole wird angezeigt. Informationen zum Migrieren Ihrer Daten aus Google AI Studio finden Sie unter Prompts migrieren.

Neu bei Google Cloud?

  1. Melden Sie sich in Google AI Studio an.
  2. Klicken Sie im linken Navigationsbereich unten auf Mit Vertex AI in Google Cloud erstellen.

    Die Seite Konto erstellen, um mit Google Cloud loszulegen wird geöffnet.

  3. Klicken Sie auf Zustimmen und Fortfahren.

    Die Seite Identität bestätigen wird angezeigt.

  4. Klicken Sie auf Kostenlos starten.

    Das Dialogfeld Erste Schritte mit Vertex AI Studio wird angezeigt.

  5. Klicken Sie zum Aktivieren der zum Ausführen von Vertex AI erforderlichen APIs auf Zustimmen und Weiter.

  6. Optional: Informationen zum Migrieren Ihrer Daten aus Google AI Studio finden Sie auf der Seite Prompts migrieren unter Prompts migrieren.

Python: Migration zur Vertex AI Gemini API

In den folgenden Abschnitten finden Sie Code-Snippets, die Ihnen bei der Migration Ihres Python-Codes zur Verwendung der Vertex AI Gemini API helfen.

Vertex AI Python SDK einrichten

In Vertex AI benötigen Sie keinen API-Schlüssel. Stattdessen wird Gemini in Vertex AI mit IAM-Zugriff verwaltet. Damit wird die Berechtigung für einen Nutzer, eine Gruppe oder ein Dienstkonto gesteuert, mit dem die Gemini API über das Vertex AI SDK aufgerufen wird.

Es gibt zwar viele Möglichkeiten zur Authentifizierung, aber die einfachste Methode zur Authentifizierung in einer Entwicklungsumgebung ist die Installation der Google Cloud CLI und die Verwendung Ihrer Nutzeranmeldedaten, um sich bei der CLI anzumelden.

Für Inferenzaufrufe an Vertex AI müssen Sie außerdem dafür sorgen, dass Ihr Nutzer oder Dienstkonto die Rolle Vertex AI-Nutzer hat.

Codebeispiel für die Installation des Clients

KI von Google Vertex AI
# To install the Python SDK, use this CLI command:
# pip install google-generativeai

import google.generativeai as genai
from google.generativeai import GenerativeModel

API_KEY=""
genai.configure(api_key=API_KEY)
        
# To install the Python SDK, use this CLI command:
# pip install google-cloud-aiplatform

import vertexai
from vertexai.generative_models
          import GenerativeModel, Image

PROJECT_ID = ""
REGION = ""  # e.g. us-central1
vertexai.init(project=PROJECT_ID, location=REGION)
        

Codebeispiel zum Generieren von Text aus einem Text-Prompt

KI von Google Vertex AI
model = GenerativeModel('gemini-1.5-flash')

response = model.generate_content('The opposite of hot is')
print(response.text) #  The opposite of hot is cold.
        
model = GenerativeModel('gemini-1.5-flash')

response = model.generate_content('The opposite of hot is')
print(response.text) #  The opposite of hot is cold.
        

Codebeispiel zum Erstellen von Text aus Text und Bild

KI von Google Vertex AI
import PIL.Image

multimodal_model = GenerativeModel('gemini-1.5-flash')

image = PIL.Image.open('image.jpg')

response = multimodal_model.generate_content(['What is this picture?', image])
print(response.text) # A cat is shown in this picture.
        
multimodal_model = GenerativeModel("gemini-1.5-flash")

image = Image.load_from_file("image.jpg")

response = multimodal_model.generate_content(["What is shown in this image?", image])

print(response.text) # A cat is shown in this picture.
        

Codebeispiel zum Generieren des wechselseitigen Chats

KI von Google Vertex AI
model = GenerativeModel('gemini-1.5-flash')

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)
        
model = GenerativeModel("gemini-1.5-flash")

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)
        

Prompts zu Vertex AI Studio migrieren

Die Daten Ihrer Google AI Studio-Prompts werden in einem Google Drive-Ordner gespeichert. In diesem Abschnitt wird gezeigt, wie Sie Ihre Prompts zu Vertex AI Studio migrieren.

  1. Öffnen Sie Google Drive.
  2. Wechseln Sie zum Ordner AI_Studio, in dem die Prompts gespeichert sind. Speicherort der Prompts in Google Drive
  3. Laden Sie Ihre Prompts aus Google Drive in ein lokales Verzeichnis herunter.

  4. Öffnen Sie Vertex AI Generative AI Studio in der Google Cloud Console.

  5. Klicken Sie im Menü Vertex AI auf Sprache.

  6. Klicken Sie auf den Tab Meine Prompts.

  7. Klicken Sie auf Prompt importieren.

  8. Klicken Sie im Feld Prompt-Datei auf Durchsuchen und wählen Sie einen Prompt aus in Ihrem lokalen Verzeichnis.

    Wenn Sie Prompts im Bulk hochladen möchten, müssen Sie Ihre Prompts manuell in einer einzigen JSON-Datei zusammenfassen.

  9. Klicken Sie auf Hochladen.

    Die Prompts werden auf den Tab Meine Prompts hochgeladen.

Trainingsdaten in Vertex AI Studio hochladen

Wenn Sie Ihre Trainingsdaten zu Vertex AI migrieren möchten, müssen Sie die Daten in ein Google Cloud Storage-Bucket hochladen. Weitere Informationen finden Sie unter Foundation Models verfeinern.

Nicht verwendete API-Schlüssel löschen

Wenn Sie den Google AI Gemini API-Schlüssel nicht mehr verwenden müssen, folgen Sie den Best Practices für die Sicherheit und löschen Sie ihn.

So löschen Sie einen API-Schlüssel:

  1. Öffnen Sie die Google Cloud API-Anmeldedaten .

  2. Suchen Sie den API-Schlüssel, den Sie löschen möchten, und klicken Sie auf das Symbol Aktionen.

  3. Wählen Sie API-Schlüssel löschen aus.

  4. Wählen Sie im modalen Dialogfeld Anmeldedaten löschen die Option Löschen aus.

    Das Löschen eines API-Schlüssels dauert einige Minuten. Danach werden alle Anfragen, für die der gelöschte API-Schlüssel verwendet wird, abgelehnt.

Nächste Schritte