Von Gemini in Google AI zu Vertex AI migrieren

Wenn Sie noch nicht mit Gemini vertraut sind, verwenden Sie die Kurzanleitungen für den schnellen Einstieg.

Wenn Ihre generativen KI-Lösungen besser werden, benötigen Sie möglicherweise eine Plattform für die Erstellung und Bereitstellung von generativen KI-Anwendungen und -Lösungen. Google Cloud bietet eine umfassende Auswahl an Tools, mit denen Entwickler das Potenzial der generativen KI nutzen können, von den ersten Phasen der Anwendungsentwicklung bis hin zur Anwendungsbereitstellung, Anwendungshosting und der Verwaltung komplexer Daten im großen Maßstab.

Die Vertex AI-Plattform von Google Cloud bietet eine Reihe von MLOps-Tools, die Nutzung, Bereitstellung und Monitoring von KI-Modellen im Hinblick auf Effizienz und Zuverlässigkeit optimieren. Darüber hinaus bieten die Einbindung von Datenbanken, DevOps-Tools, Logging, Monitoring und IAM einen ganzheitlichen Ansatz für die Verwaltung des gesamten Lebenszyklus der generativen KI.

Darüber hinaus bieten die Einbindung von Datenbanken, DevOps-Tools, Logging, Monitoring und IAM einen ganzheitlichen Ansatz für die Verwaltung des gesamten Lebenszyklus der generativen KI.

Hier sind einige Beispiele für häufige Anwendungsfälle, die sich gut für Google Cloud-Angebote eignen.

  • Produktion Ihrer Anwendungen und Lösungen erstellen Mit Produkten wie Cloud Functions und Cloud Run können Sie Anwendungen mit Sicherheit und Datenschutz im Unternehmensmaßstab bereitstellen. Weitere Informationen zu Sicherheit und Datenschutz finden Sie im Leitfaden Sicherheit, Datenschutz und Cloud-Compliance in Google Cloud.
  • Vertex AI für End-to-End-MLOps-Funktionen verwenden, von der Feinabstimmung bis zur Suche nach Vektorähnlichkeiten und ML-Pipelines
  • Lösen Sie Ihren LLM-Aufruf mit einer ereignisgesteuerten Architektur mit Cloud Functions oder Cloud Run aus.
  • Überwachen Sie die Nutzung Ihrer Anwendung mit Cloud Logging und BigQuery.
  • Speichern Sie Ihre Daten im Unternehmensmaßstab in großem Umfang mit Diensten wie BigQuery, Cloud Storage und Cloud SQL.
  • Führen Sie mithilfe von Daten in der Cloud mit BigQuery oder Cloud Storage RAG (Retrieval Augmented Generation) durch.
  • Datenpipelines erstellen und planen. Mit Cloud Scheduler können Sie Jobs planen.
  • Wenden Sie LLMs auf Ihre Daten in der Cloud an. Wenn Sie Daten in Cloud Storage oder BigQuery speichern, können Sie LLMs über diese Daten prompten. Sie können beispielsweise Informationen extrahieren, zusammenfassen oder Fragen dazu stellen.
  • Nutzen Sie die Google Cloud-Richtlinien für Data Governance/Residency zur Verwaltung Ihres Datenlebenszyklus.

Unterschiede zwischen Google AI und Vertex AI

In der folgenden Tabelle werden die Hauptunterschiede zwischen Google AI und Vertex AI zusammengefasst, damit Sie entscheiden können, welche Option für Ihren Anwendungsfall am besten geeignet ist:

Features Google AI Gemini API Google Cloud Vertex AI Gemini API
Neueste Gemini-Modelle Gemini Pro und Gemini Ultra Gemini Pro und Gemini Ultra
Anmelden Google-Konto Google Cloud-Konto (mit Nutzungsbedingungen und Abrechnung)
Authentifizierung API-Schlüssel Google Cloud-Dienstkonto
Playground der Benutzeroberfläche Google AI Studio Vertex AI Studio
API und SDK Python, Node.js, Android (Kotlin/Java), Swift, Go SDK unterstützt Python, Node.js, Java und Go
Kostenlose Stufe Ja 300 $ Google Cloud-Guthaben für neue Nutzer
Kontingent (Anfrage pro Minute) 60 (kann erhöht werden) Auf Anfrage erhöhen (Standard: 60)
Abbildung: Enterprise Support Nein Kundenverschlüsselungsschlüssel
Virtual Private Cloud
Datenstandort
Access Transparency
Skalierbare Infrastruktur für das Anwendungshosting
Datenbanken und Datenspeicher
MLOps Nein Vollständige MLOps in Vertex AI (Beispiele: Modellbewertung, Model Monitoring, Model Registry)

Zu Vertex AI migrieren

In diesem Abschnitt erfahren Sie, wie Sie von Google AI Gemini zu Vertex AI Gemini in Google Cloud migrieren.

Überlegungen bei der Migration

Berücksichtigen Sie bei der Migration Folgendes:

Vertex AI Studio verwenden

Die Migration zu Vertex AI unterscheidet sich je nachdem, ob Sie bereits ein Google Cloud-Konto haben oder mit Google Cloud noch nicht vertraut sind.

Klicken Sie je nach Google Cloud-Kontostatus auf einen der folgenden Tabs, um zu erfahren, wie Sie zu Vertex AI migrieren:

Sie verwenden bereits Google Cloud.

  1. Melden Sie sich in Google AI Studio an.
  2. Klicken Sie unten im linken Navigationsbereich auf Mit Vertex AI in Google Cloud erstellen.

    Die Seite Vertex AI und Google Cloud kostenlos testen wird geöffnet.

  3. Klicken Sie auf Zustimmen und fortfahren.

    Das Dialogfeld Erste Schritte mit Vertex AI Studio wird angezeigt.

  4. Klicken Sie auf Zustimmen und fortfahren, um die zum Ausführen von Vertex AI erforderlichen APIs zu aktivieren.

    Die Vertex AI-Konsole wird angezeigt. Informationen zum Migrieren Ihrer Daten aus Google AI Studio finden Sie unter Prompts migrieren.

Neu bei Google Cloud?

  1. Melden Sie sich in Google AI Studio an.
  2. Klicken Sie unten im linken Navigationsbereich auf Mit Vertex AI in Google Cloud erstellen.

    Die Seite Konto für den Einstieg in Google Cloud wird geöffnet.

  3. Klicken Sie auf Zustimmen und fortfahren.

    Die Seite Identität bestätigen wird angezeigt.

  4. Klicken Sie auf Jetzt kostenlos testen.

    Das Dialogfeld Erste Schritte mit Vertex AI Studio wird angezeigt.

  5. Klicken Sie auf Zustimmen und fortfahren, um die zum Ausführen von Vertex AI erforderlichen APIs zu aktivieren.

  6. Optional: Informationen zum Migrieren Ihrer Daten aus Google AI Studio finden Sie unter „Prompts migrieren“ auf dieser Seite Prompts migrieren.

Python: Migration zur Vertex AI Gemini API

In den folgenden Abschnitten finden Sie Code-Snippets, die Ihnen bei der Migration Ihres Python-Codes zur Verwendung der Vertex AI Gemini API helfen.

Vertex AI Python SDK einrichten

In Vertex AI benötigen Sie keinen API-Schlüssel. Stattdessen wird Gemini in Vertex AI mit IAM-Zugriff verwaltet. Damit wird die Berechtigung für einen Nutzer, eine Gruppe oder ein Dienstkonto gesteuert, mit dem die Gemini API über das Vertex AI SDK aufgerufen wird.

Es gibt zwar viele Möglichkeiten zur Authentifizierung, aber die einfachste Methode zur Authentifizierung in einer Entwicklungsumgebung ist die Installation der Google Cloud CLI und die Verwendung Ihrer Nutzeranmeldedaten, um sich bei der CLI anzumelden.

Für Inferenzaufrufe an Vertex AI müssen Sie außerdem dafür sorgen, dass Ihr Nutzer oder Dienstkonto die Rolle Vertex AI-Nutzer hat.

Codebeispiel für die Installation des Clients

KI von Google Vertex AI

# To install the Python SDK, use this CLI command:
# pip install google-generativeai

from google.generativeai import GenerativeModel
from google.colab import userdata

genai.configure(userdata.get('API_KEY'))
        

# To install the Python SDK, use this CLI command:
# pip install google-cloud-aiplatform

import vertexai
from vertexai.generative_models
          import GenerativeModel, Image

PROJECT_ID = ""
REGION = ""  # e.g. us-central1
vertexai.init(project=PROJECT_ID, location=REGION)
        

Codebeispiel zum Generieren von Text aus einem Text-Prompt

KI von Google Vertex AI

model = GenerativeModel('gemini-1.0-pro')

response = model.generate_content('The opposite of hot is')
print(response.text) #  The opposite of hot is cold.
        

model = GenerativeModel('gemini-1.0-pro')

response = model.generate_content('The opposite of hot is')
print(response.text) #  The opposite of hot is cold.
        

Codebeispiel zum Erstellen von Text aus Text und Bild

KI von Google Vertex AI

import PIL.Image

multimodal_model = GenerativeModel('gemini-1.0-pro-vision')

image = PIL.Image.open('image.jpg')

response = multimodal_model.generate_content(['What is this picture?', image])
print(response.text) # A cat is shown in this picture.
        

multimodal_model = GenerativeModel("gemini-1.0-pro-vision")

image = Image.load_from_file("image.jpg")

response = multimodal_model.generate_content(["What is shown in this image?", image])

print(response.text) # A cat is shown in this picture.
        

Codebeispiel zum Generieren des wechselseitigen Chats

KI von Google Vertex AI

model = GenerativeModel('gemini-1.0-pro')

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)
        

model = GenerativeModel("gemini-1.0-pro")

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)
        

Prompts zu Vertex AI Studio migrieren

Die Daten Ihrer Google AI Studio-Prompts werden in einem Google Drive-Ordner gespeichert. In diesem Abschnitt wird gezeigt, wie Sie Ihre Prompts zu Vertex AI Studio migrieren.

  1. Öffnen Sie Google Drive.
  2. Wechseln Sie zum Ordner AI_Studio, in dem die Prompts gespeichert sind. Speicherort der Prompts in Google Drive
  3. Laden Sie Ihre Prompts aus Google Drive in ein lokales Verzeichnis herunter.

  4. Öffnen Sie Vertex AI Generative AI Studio in der Google Cloud Console.

  5. Klicken Sie im Menü Vertex AI auf Sprache.

  6. Klicken Sie auf den Tab Meine Prompts.

  7. Klicken Sie auf Prompt importieren.

  8. Klicken Sie im Feld Prompt-Datei auf Durchsuchen und wählen Sie einen Prompt aus Ihrem lokalen Verzeichnis aus.

    Um Prompts im Bulk hochzuladen, müssen Sie Ihre Prompts manuell in einer einzigen JSON-Datei kombinieren.

  9. Klicken Sie auf Hochladen.

    Die Prompts werden auf den Tab Meine Prompts hochgeladen.

Trainingsdaten in Vertex AI Studio hochladen

Für die Migration Ihrer Trainingsdaten zu Vertex AI müssen Sie Ihre Daten in einen Google Cloud Storage-Bucket hochladen. Weitere Informationen finden Sie unter Foundation Models verfeinern.

Nicht verwendete API-Schlüssel löschen

Wenn Sie den Google AI Gemini API-Schlüssel nicht mehr verwenden müssen, folgen Sie den Best Practices für die Sicherheit und löschen Sie ihn.

Nächste Schritte