Die generative Fallback-Funktion verwendet die neuesten generativen Large Language Models (LLMs) von Google, um Antworten des virtuellen Kundenservicemitarbeiters zu generieren, wenn die Endnutzereingabe keinem Intent oder Parameter für das Ausfüllen von Formularen entspricht.
Das Feature kann mit einer Textaufforderung konfiguriert werden, die das LLM anweist, wie zu antworten ist. Sie können einen vordefinierten Text-Prompt verwenden oder eigene Prompts hinzufügen. Mit dem vordefinierten Prompt kann der virtuelle Kundenservicemitarbeiter grundlegende Unterhaltungssituationen bewältigen. Beispiel:
- Begrüßen Sie den Nutzer und verabschieden Sie sich.
- Wiederholen Sie, was der Kundenservicemitarbeiter gesagt hat, falls der Nutzer sie nicht verstanden hat.
- Die Leitung halten, wenn der Nutzer danach fragt.
- Fasse das Gespräch zusammen.
Sie können das generative Fallback für Ereignis-Handler ohne Übereinstimmung aktivieren, die in Abläufen, Seiten oder beim Ausfüllen von Parametern verwendet werden. Wenn das generative Fallback für ein No-Match-Ereignis aktiviert ist, versucht Dialogflow bei jedem Auslösen dieses Ereignisses, eine generierte Antwort zu erzeugen, die dem Nutzer zurückgegeben wird. Wenn das Generieren der Antwort fehlschlägt, wird stattdessen die reguläre vorgesehene Agent-Antwort ausgegeben.
Beschränkungen
Die Funktion ist in den von der Gemini API unterstützten Sprachen verfügbar.
Generatives Fallback aktivieren
Sie können das generative Fallback in Ihrem Agent mit No-Match-Event-Handlern aktivieren, die bei der Ablauf-, Seiten- oder Parameterauftragsausführung verwendet werden können.
Aktivieren Sie das generative Fallback für alle No-Match-Ereignisse eines gesamten Ablaufs:
- Zur Dialogflow CX Console
- Wählen Sie ein Projekt aus.
- Wählen Sie einen Agent und dann einen Ablauf aus.
- Klicken Sie auf die Startseite des Ablaufs, um sie zu maximieren.
- Klicken Sie unter Event-Handler auf sys.no-match-default.
- Klicken Sie unter Agent-Antworten auf das Kästchen Generatives Fallback aktivieren.
- Klicken Sie auf Speichern.
Generatives Fallback für bestimmte No-Match-Ereignisse aktivieren:
- Rufen Sie den Ziel-Event-Handler Keine Übereinstimmung auf (ein beliebiges Ereignis, das mit Keine Übereinstimmung beginnt, z. B. Standardeinstellung für keine Übereinstimmung oder Keine Übereinstimmung 1).
- Klicken Sie unter Agent-Antworten auf das Kästchen Generatives Fallback aktivieren.
- Klicken Sie auf Speichern.
Generatives Fallback konfigurieren
Wie bereits erwähnt, übergibt die generative Fallback-Funktion eine Anfrage an ein Large Language Model, um die generierte Antwort zu generieren. Die Anfrage erfolgt in Form einer Text-Eingabeaufforderung, die aus einer Mischung aus natürlicher Sprache und Informationen zum aktuellen Status des Agents und der Unterhaltung besteht. Die Eingabeaufforderung und die generierte Antwort werden mit einer Liste von unzulässigen Wortgruppen abgeglichen. Wenn sie eine verbotene Formulierung enthalten oder anderweitig als unsicher eingestuft werden, schlägt die Generierung fehl. Stattdessen wird die normale vorgesehene Antwort (unter Agent sagt in derselben Auftragsausführung) gesendet.
Die Funktion kann auf verschiedene Arten konfiguriert werden:
- Wählen Sie einen vordefinierten Prompt aus.
- Benutzerdefinierten Prompt definieren.
- Füge der Liste der gesperrten Wortgruppen bestimmte Ausdrücke hinzu oder entferne sie.
Beim Erstellen eines Prompts können zusätzlich zu einer Beschreibung in natürlicher Sprache, welche Art von Kontext generiert werden soll, die folgenden placeholders verwendet werden:
| Begriff | Definition |
|---|---|
| $conversation | Die Unterhaltung zwischen dem Agent und dem Nutzer, mit Ausnahme der letzten Nutzeräußerung. |
| ${conversation USER:"<Nutzerpräfix>" AI:"<Agent-Präfix>" TRETEN:<Turn count>} | Eine parametrisierte Version des Platzhalters $conversation. Sie können das Präfix des Endnutzers (USER), das Präfix des Agents (AI) und die Anzahl der einzubeziehenden vorherigen Runden (TURNS) anpassen. Alle Platzhalterparameterwerte müssen angegeben werden. Beispiel: ${conversation USER:"Human says:" AI:"Agent says:" TURNS:4} |
| $last-user-utterance | Die letzte Nutzeräußerung. |
| $flow-description | Die Ablaufbeschreibung des aktiven Ablaufs. |
| $route-descriptions | Die Intent-Beschreibungen der aktiven Intents. |
Achte auf eine gute Beschreibung des Ablaufs und der Absichten.
Vordefinierten Prompt auswählen
- Gehen Sie in Agent Settings (Agent-Einstellungen) zum Tab Generative AI (Generative KI) und dann zum Untertab Generative Fallback (Generative Fallback).
- Wählen Sie eine der Optionen im Drop-down-Menü Vorlage aus.
- Klicken Sie auf Speichern.
Die Funktion bietet zwei Vorlagen für Prompts: die Default-Vorlage (die nicht sichtbar ist) und die Example-Vorlage, die als Leitfaden zum Schreiben eigener Prompts dienen kann.
Eigenen Prompt definieren
- Gehen Sie in Agent Settings (Agent-Einstellungen) zum Tab Generative AI (Generative KI) und dann zum Untertab Generative Fallback (Generative Fallback).
- Wählen Sie im Drop-down-Menü Vorlage die Option + Neue Vorlage aus.
- Fügen Sie einen Vorlagennamen hinzu.
- Fügen Sie einen Text-Prompt hinzu.
- Klicken Sie auf Speichern.
Sie können auch zuerst die Example-Vorlage bearbeiten und als neue Vorlage speichern:
- Wählen Sie im Drop-down-Menü Vorlage die Option Beispiel aus.
- Klicken Sie auf Bearbeiten.
- Bearbeiten Sie den Vorlagennamen.
- Bearbeiten Sie den Text-Prompt.
- Klicken Sie auf Speichern.
Liste der gesperrten Wortgruppen bearbeiten
- Gehen Sie in Agent Settings (Agent-Einstellungen) zum Tab Generative AI (Generative KI) und dann zum Untertab General (Allgemein).
- Im Abschnitt Gesperrte Wortgruppen können Sie Wortgruppen prüfen, hinzufügen oder entfernen.
- Klicken Sie auf Speichern.
Generatives Fallback testen
Sie können die Funktion Generatives Fallback im Simulator testen. Immer wenn eine Nutzeräußerung auf einem Ablauf oder auf einer Seite, bei der das No-Match-Ereignis für die Erzeugung einer generativen Antwort konfiguriert wurde (und die Generierung erfolgreich ist), zu einer Nichtübereinstimmung führt, gibt der Agent die generierte Antwort aus.
Codelab
Weitere Informationen findest du im Codelab zum generativen Fallback.
Fehlerbehebung
Wenn Sie Fehler an dem Feature beheben möchten, können Sie die Eingabe-Eingabeaufforderung des aufgelösten LLM (Large Language Model) im Simulator der Dialogflow-Konsole überprüfen:
Klicken Sie auf die Schaltfläche Ursprüngliche Antwort:
Suchen Sie das Feld Generative Fallback-Aufforderung. Lesen Sie diese Felder als Klartext und prüfen Sie, ob die LLM-Eingabe sinnvoll ist. Wenn eine Wortgruppe
$enthält, prüfen Sie die Simulatoreingabe und klären Sie, ob die$in den Prompts beabsichtigt sind. So ist beispielsweise$inprice is $10wahrscheinlich beabsichtigt, währendvisit $citywahrscheinlich nicht und könnte entweder fehlerhafte Nutzung oder einen Fehler andeuten. Wenn Sie sich nicht sicher sind, wenden Sie sich an den Support.Wenn Sie eine nicht standardmäßige Vorlage für Prompts verwenden, das Feld „Generative Fallback-Aufforderung“ aber nicht sehen können, wenden Sie sich an den Support.