Die generative Fallback-Funktion verwendet die neuesten generativen Large Language Models (LLMs), um Antworten virtueller Kundenservicemitarbeiter zu generieren, wenn die Endnutzereingabe nicht mit einem Intent oder Parameter zum Ausfüllen eines Formulars übereinstimmt.
Das Feature kann mit einer Textaufforderung konfiguriert werden, die das LLM anweist, wie es zu reagieren soll. Sie können einen vordefinierten Text-Prompt verwenden oder Ihre eigenen Prompts hinzufügen. Über den vordefinierten Prompt kann der virtuelle Kundenservicemitarbeiter grundlegende Gesprächssituationen bewältigen. Beispiel:
- Begrüßen und verabschieden Sie sich von den Nutzenden.
- Wiederholen Sie, was der Kundenservicemitarbeiter gesagt hat, für den Fall, dass der Nutzer nichts verstanden hat.
- Halten Sie die Warteschlange, wenn der Nutzer danach fragt.
- Fasse das Gespräch zusammen.
Sie können ein generatives Fallback für No-Match-Event-Handler aktivieren, die in Abläufen, Seiten oder während der Parameterfüllung verwendet werden. Wenn ein generatives Fallback für ein No-Match-Ereignis aktiviert ist, versucht Dialogflow bei jeder Auslösung dieses Ereignisses eine generierte Antwort zu generieren, die dem Nutzer mitgeteilt wird. Wenn die Antwort nicht generiert werden kann, wird stattdessen die reguläre vorgeschriebene Antwort des Agents ausgegeben.
Beschränkungen
Das Feature ist derzeit in den Sprachen verfügbar, die von der Vertex AI PaLM API unterstützt werden.
Generatives Fallback aktivieren
Sie können generatives Fallback in Ihrem Agent auf No-Match-Event-Handlern aktivieren, die in der Ablauf-, Seiten- oder Parameterausführung verwendet werden können.
Generatives Fallback für die No-Match-Ereignisse eines gesamten Ablaufs aktivieren:
- Zur Dialogflow CX Console
- Wählen Sie ein Projekt aus.
- Wählen Sie einen Agent und einen Ablauf aus.
- Maximieren Sie die Startseite des Ablaufs.
- Klicken Sie unter Event-Handler auf sys.no-match-default.
- Klicken Sie unter Agent-Antworten das Kästchen Generatives Fallback aktivieren an.
- Klicken Sie auf Speichern.
Generatives Fallback für bestimmte No-Match-Ereignisse aktivieren:
- Rufen Sie den Ziel-Event-Handler No-Match auf, also alle Ereignisse, die mit No-Match beginnen, z. B. No-Match default oder No-Match 1.
- Klicken Sie unter Agent-Antworten das Kästchen Generatives Fallback aktivieren an.
- Klicken Sie auf Speichern.
Generatives Fallback konfigurieren
Wie oben erwähnt, leitet das generative Fallback-Feature eine Anfrage an ein Large Language Model weiter, um die generierte Antwort zu erzeugen. Die Anfrage erfolgt in Form einer Text-Prompt, die eine Mischung aus natürlicher Sprache und Informationen über den aktuellen Status des Agents und der Unterhaltung enthält. Die Aufforderung und die generierte Antwort werden mit einer Liste von unzulässigen Wortgruppen abgeglichen. Wenn sie eine gesperrte Wortgruppe enthalten oder aus anderen Gründen als unsicher eingestuft werden, schlägt die Generierung fehl und stattdessen wird die reguläre vorgeschriebene Antwort (unter Agent sagt in derselben Ausführung) ausgegeben.
Die Funktion kann auf verschiedene Arten konfiguriert werden:
- Wählen Sie einen vordefinierten Prompt aus.
- Definieren Sie einen benutzerdefinierten Prompt.
- Wortgruppen zur Liste der gesperrten Wortgruppen hinzufügen oder daraus entfernen.
Beim Erstellen eines Prompts können neben einer Beschreibung in natürlicher Sprache, welche Art von Kontext generiert werden soll, auch die folgenden placeholders verwendet werden:
| Begriff | Definition |
|---|---|
| $conversation | Die Unterhaltung zwischen dem Agent und dem Nutzer, ohne die letzte Äußerung des Nutzers. |
| $last-user-utterance | Die letzte Nutzeräußerung. |
| $flow-Beschreibung | Die Ablaufbeschreibung des aktiven Ablaufs. |
| $route-descriptions | Die Intent-Beschreibungen der aktiven Intents. |
Achten Sie auf gute Abläufe und Intent-Beschreibungen.
Vordefinierte Aufforderung auswählen
- Gehen Sie in Agent Settings (Agent-Einstellungen) zum Tab ML und dann zum Untertab Generative AI.
- Wählen Sie im Drop-down-Menü Vorlage eine der Optionen aus.
- Klicken Sie auf Speichern.
Die Funktion bietet zwei Vorlagen-Prompts, die Default-Vorlage (die nicht sichtbar ist) und die Example-Vorlage, die als Leitfaden für das Schreiben eigener Prompts dienen kann. Wenn Sie die Vorlage Standard ausgewählt haben und auf dem Untertab Generative AI die Eingabeaufforderung für Datenspeicher angezeigt wird, können Sie Informationen über den Agent hinzufügen, die die Agent-Antworten beeinflussen.
Eigenen Prompt definieren
- Gehen Sie in Agent Settings (Agent-Einstellungen) zum Tab ML und dann zum Untertab Generative AI.
- Wählen Sie im Drop-down-Menü Vorlage die Option + Neue Vorlage aus.
- Fügen Sie einen Vorlagennamen hinzu.
- Fügen Sie einen Text-Prompt hinzu.
- Klicken Sie auf Speichern.
Sie können auch damit beginnen, die Example-Vorlage zu bearbeiten und sie als neue Vorlage zu speichern:
- Wählen Sie im Drop-down-Menü Vorlage die Option Beispiel aus.
- Klicken Sie auf Bearbeiten.
- Bearbeiten Sie den Namen der Vorlage.
- Bearbeiten Sie den Text-Prompt.
- Klicken Sie auf Speichern.
Die Liste der gesperrten Wortgruppen ändern
- Gehen Sie in Agent Settings (Agent-Einstellungen) zum Tab ML und dann zum Untertab Generative AI.
- Prüfen Sie im Abschnitt Gesperrte Wortgruppen die Liste, fügen Sie Elemente hinzu oder entfernen Sie sie.
- Klicken Sie auf Speichern.
Generatives Fallback testen
Die Funktion für das generative Fallback kann direkt im Simulator getestet werden. Wenn eine Nutzeräußerung in einem Ablauf oder auf einer Seite, auf der das No-Match-Ereignis so konfiguriert wurde, dass eine generative Antwort generiert wird (und die Generierung erfolgreich ist), zu einer No-Match-Aktion führt, gibt der Agent die generierte Antwort aus.
Codelab
Weitere Informationen finden Sie im Codelab zu generativem Fallback.