Fundierungsübersicht

Bei der generativen KI ist Fundierung die Fähigkeit, die Modellausgabe mit überprüfbaren Informationsquellen zu verbinden. Wenn Sie den Modellen Zugang zu bestimmten Datenquellen gewähren, dann bindet die Fundierung ihre Ausgabe an diese Daten und verringert die Wahrscheinlichkeit, dass Inhalte erfunden werden. Dies ist besonders in Situationen wichtig, in denen Genauigkeit und Zuverlässigkeit von Bedeutung sind.

Fundierung bietet folgende Vorteile:

  • Reduziert die Modellhalluzinationen, also Fälle, bei denen das Modell Inhalte generiert, die nicht faktisch sind.
  • Verankert Modellantworten auf bestimmte Informationen.
  • Verbessert die Vertrauenswürdigkeit und Anwendbarkeit der generierten Inhalte.

In Vertex AI können Sie die unterstützte Modellausgabe auf zwei Arten fundieren:

Fundierung mit der Google Suche

Wenn Sie Fundierung mit der Google Suche verwenden, verknüpft es das Google-Modell mit dem Internet. Da die nicht-fundierten Antworten der generativen KI-Modelle als neue Inhalte betrachtet werden, die auf gelernten Mustern basieren, erhalten Sie keine sachlichen Antworten, die zeitabhängig sind, z. B. die Frage nach der Wettervorhersage in Ihrem Prompt. Da das Internet Zugriff auf vorhandene und neue Informationen bietet, kann eine fundierte Eingabeaufforderung differenzierte und spezifische Aufforderungen mit wenig Fehlern und mit zitierten Quellen liefern.

Hier ist ein Beispiel, in dem eine nicht fundierte Prompt-Antwort mit einer fundierten Antwort verglichen wird:

Unfundiertes Gemini Fundierung mit der Google Suche
Prompt: Wie hoch ist die 401k-Beitragsgrenze?
Antwort: Im Jahr 2023 beträgt die jährliche Beitragsgrenze für 401(k)-Tarife 22.500 $, gegenüber 20.500 $im Jahr 2022. Die Beiträge für Personen ab 50 Jahren bleiben bei 7.500 $.		 Prompt: Wie hoch ist die 401k-Beitragsgrenze?
Antwort: So läuft es mit den Beitragslimits von 401(k) im Jahr 2024: Die grundlegende Grenze für Mitarbeiterbeiträge beträgt 23.000 $ in 2024. Das ist eine Erhöhung gegenüber 22.500 $ im Jahr 2023. Wenn Sie 50 oder älter sind, können Sie auch zusätzliche 7.000 $ für Aufholbeiträge beitragen [1]....,Fundierungsquellen
  1. 401(k)-Beitragslimits für 2023 und 2024 – Investopedia, ...[↗]

Wenn Sie Fundierung mit der Google Suche verwenden, müssen Sie Einstiegspunkte für die Suche in der Produktion und in Ihren Anwendungen anzeigen. Informationen zu den Anforderungen bei der Verwendung von Fundierung mit der Google Suche finden Sie unter Einstiegspunkte suchen.

Im folgenden Diagramm wird erläutert, wie die Verwendung von Fundierung mit der Google Suche für die Gemini API funktioniert: Fundierungsübersicht

Fundierung auf Basis Ihrer eigenen Daten

Sie können Sprachmodelle mithilfe von Vertex AI Search als Datenspeicher auf Ihren eigenen Textdaten fundieren. Mit Vertex AI Search binden Sie unabhängig vom Format Ihre eigenen Daten ein, um die Modellausgabe zu verfeinern. Folgende Datentypen werden unterstützt:

  • Websitedaten: Inhalte Ihrer Website direkt verwenden
  • Strukturierte Daten: Verwenden Sie organisierte, abfragbare Daten, z. B. BigQuery-Daten.
  • Strukturierte Inhalte (Medien): Integriere strukturierte Medieninhalte, um Rich-Suchergebnisse zu erhalten.
  • Strukturierte Inhalte für Datenquellen von Drittanbietern: Daten aus externen Quellen lassen sich nahtlos einbinden.
  • Unstrukturierte Daten: Verwenden Sie unstrukturierte Rohdaten.

Wenn Sie auf Ihre spezifischen Daten fundieren, kann das Modell über die Trainingsdaten hinausgehen. Durch die Verknüpfung mit bestimmten Datenspeichern in Vertex AI Search kann das fundierte Modell genauere und relevantere Antworten liefern, die sich direkt auf Ihren Anwendungsfall beziehen.

Hier sehen Sie ein Beispiel, in dem eine private, nicht fundierte Prompt-Antwort mit einer fundierten Antwort verglichen wird:

Fundiertes Gemini Privat fundiertes Gemini
Prompt: Wie lautet die PTO-Richtlinie meines Unternehmens?

Antwort : Ich kann Fragen zu den PTO-Richtlinien Ihres Unternehmens nicht eindeutig beantworten. Die Richtlinien für PTO werden von einzelnen Unternehmen festgelegt und können je nach Größe, Standort und Branche des Unternehmens variieren.		 Prompt: Wie lautet die PTO-Richtlinie meines Unternehmens?

Antwort: Ihr Unternehmen hat eine unbegrenzte PTO-Richtlinie. Eine Genehmigung ist weiterhin erforderlich: Ihr Vorgesetzter muss Anfragen basierend auf Arbeitslast, Abdeckung und Unternehmensanforderungen genehmigen oder ablehnen.

Nächste Schritte