Antworten mit RAG fundieren

Die Fundierung ist eine Technik, mit der Sie dazu beitragen können, dass Modellantworten vertrauenswürdiger, hilfreicher und faktischer sind. Wenn Sie Antworten von generativen KI-Modellen fundieren, verknüpfen Sie sie mit überprüfbaren Informationsquellen. Um Grounding zu implementieren, müssen Sie in der Regel relevante Quelldaten abrufen. Die empfohlene Best Practice ist die Verwendung der Retrieval-Augmented Generation (RAG). Der Abruf erfolgt in der Regel über eine Suchmaschine, die einen Index verwendet, in den die semantischen Bedeutungen des Quelltexts eingebettet sind.

Es gibt auch Dienste und Komponenten-APIs, die den RAG-Lebenszyklus implementieren, z. B. die Vertex AI Search Builder API, die das Erstellen von Mix-and-Match-Lösungen ermöglicht. Mit der Mix-and-Match-Methode können Sie eine RAG-Lösung mit einem der folgenden Dienste oder APIs implementieren:

  • API zur Fundierung der Generierung: Mit dieser API können Sie die Fundierung implementieren oder für den gesamten RAG-Lebenszyklus eine Verbindung zu einem Retrieval-Anbieter herstellen.
  • Parser für Dokumentlayout: Dieser Parser vereint die besten Funktionen von Document AI und Gemini für das Dokumentverständnis. Weitere Informationen zum Layout-Parser finden Sie unter Layout-Parser verwenden.
  • Vertex AI Vector Search: Dieser Suchdienst ist sehr leistungsstark und verwendet eine hochwertige Vektordatenbank.
  • Grounding API prüfen: Diese API vergleicht die RAG-Ausgabe mit den abgerufenen Fakten und trägt dazu bei, dass alle Aussagen fundiert sind, bevor die Antwort an den Nutzer zurückgegeben wird.

Antworten mit der Vertex AI RAG Engine fundieren

Wenn Sie Antworten mit der Vertex AI RAG Engine fundieren möchten, müssen Sie einen Prompt erstellen. Gehen Sie dazu so vor:

  1. Rufen Sie in der Google Cloud Console die Seite Prompt erstellen über Vertex AI Studio auf.

    Zur Seite „Prompt erstellen“

  2. Wählen Sie Fundierung: Ihre Daten aus.

  3. Wählen Sie die Fundierungsquelle RAG Engine aus.

  4. Wählen Sie in der Liste Corpus den Namen Ihres Corpus aus.

  5. Wählen Sie im Feld Top-K-Ähnlichkeit die Option 20 aus. Das ist der Standardwert.

  6. Klicken Sie auf Speichern.

Nächste Schritte