Die generative Fallback-Funktion verwendet die neuesten generativen Large Language Models (LLMs), um Antworten des virtuellen Kundenservicemitarbeiters zu generieren, wenn die Endnutzereingabe nicht mit einem Intent oder Parameter für das Ausfüllen eines Formulars übereinstimmt.
Die Funktion kann mit einer Textaufforderung konfiguriert werden, die das LLM anweist, wie es zu reagieren soll. Sie können einen vordefinierten Prompt verwenden oder Ihre eigenen Prompts hinzufügen. Mit der vordefinierten Aufforderung kann der virtuelle Kundenservicemitarbeiter grundlegende Gesprächssituationen bewältigen. Beispiel:
- Begrüßen Sie den Nutzer und verabschieden Sie sich.
- Wiederholen Sie, was der Kundenservicemitarbeiter gesagt hat, für den Fall, dass der Nutzer die Antwort nicht verstanden hat.
- Halten Sie die Warteschlange, wenn der Nutzer danach fragt.
- Fasse das Gespräch zusammen.
Sie können das generative Fallback für No-Match-Event-Handler aktivieren, die in Abläufen, Seiten oder beim Ausfüllen von Parametern verwendet werden. Wenn das generative Fallback für ein No-Match-Ereignis aktiviert ist, versucht Dialogflow bei jeder Auslösung dieses Ereignisses eine generierte Antwort zu generieren, die an den Nutzer zurückgegeben wird. Wenn die Antwort nicht generiert werden kann, wird stattdessen die reguläre vorgeschriebene Agent-Antwort ausgegeben.
Beschränkungen
Das Feature ist in den Sprachen verfügbar, die von der PaLM API von Vertex AI unterstützt werden.
Generatives Fallback aktivieren
Sie können generatives Fallback in Ihrem Agent auf No-Match-Event-Handlern aktivieren, die in der Auftragsausführung von Abläufen, Seiten oder Parametern verwendet werden können.
Aktivieren Sie das generative Fallback für die No-Match-Ereignisse eines gesamten Ablaufs:
- Zur Dialogflow CX Console
- Wählen Sie ein Projekt aus.
- Wählen Sie einen Agent und dann einen Ablauf aus.
- Klicken Sie auf die Startseite des Ablaufs, um sie zu maximieren.
- Klicken Sie unter Event-Handler auf sys.no-match-default.
- Klicken Sie unter Agent-Antworten das Kästchen Generatives Fallback aktivieren an.
- Klicken Sie auf Speichern.
Aktivieren Sie das generative Fallback für bestimmte No-Match-Ereignisse:
- Rufen Sie den Ziel-Event-Handler No-Match auf (alle Ereignisse, die mit No-Match beginnen, z. B. No-Match Standard, No-Match 1 usw.).
- Klicken Sie unter Agent-Antworten das Kästchen Generatives Fallback aktivieren an.
- Klicken Sie auf Speichern.
Generatives Fallback konfigurieren
Wie oben erwähnt, leitet die Funktion Generatives Fallback eine Anfrage an ein Large Language Model weiter, um die generierte Antwort zu generieren. Die Anfrage erfolgt in Form einer Text-Prompt, die eine Mischung aus natürlicher Sprache und Informationen über den aktuellen Status des Agents und der Unterhaltung enthält. Die Aufforderung und die generierte Antwort werden mit einer Liste von gesperrten Wortgruppen abgeglichen. Wenn sie eine gesperrte Wortgruppe enthalten oder anderweitig als unsicher eingestuft werden, schlägt die Generierung fehl und stattdessen die reguläre vorgeschriebene Antwort (unter Agent sagt in derselben Ausführung) ausgegeben.
Die Funktion kann auf verschiedene Arten konfiguriert werden:
- Wählen Sie einen vordefinierten Prompt aus.
- Definieren Sie einen benutzerdefinierten Prompt.
- Du kannst Wortgruppen zur Liste der gesperrten Wortgruppen hinzufügen oder daraus entfernen.
Beim Erstellen einer Aufforderung können zusätzlich zu einer Beschreibung in natürlicher Sprache, welche Art von Kontext generiert werden soll, auch die folgenden placeholders verwendet werden:
| Begriff | Definition |
|---|---|
| $conversation | Die Unterhaltung zwischen dem Agent und dem Nutzer, ohne die letzte Äußerung des Nutzers. |
| ${conversation USER:"<Nutzerpräfix>" AI:"<Agentenpräfix>" TurnS:<Turn count>} | Eine parametrisierte Version des Platzhalters $conversation. Sie können das Endnutzerpräfix (USER), das Agent-Präfix (AI) und die Anzahl der einzubeziehenden vorherigen Runden (TURNS) anpassen. Alle Platzhalterparameterwerte müssen angegeben werden. Beispiel: ${conversation USER:"Human says:" AI:"Agent says:" TURNS:4} |
| $last-user-utterance | Die letzte Nutzeräußerung. |
| $flow-Beschreibung | Die Ablaufbeschreibung des aktiven Ablaufs. |
| $route-descriptions | Die Intent-Beschreibungen der aktiven Intents. |
Achte auf aussagekräftige Beschreibungen des Ablaufs und der Intents.
Vordefinierten Prompt auswählen
- Gehen Sie in Agent Settings (Agent-Einstellungen) zum Tab Generative AI und dann zum Untertab Generative Fallback.
- Wählen Sie im Drop-down-Menü Vorlage eine der Optionen aus.
- Klicken Sie auf Speichern.
Die Funktion bietet zwei Vorlagen-Prompts, die nicht sichtbare Vorlage Default und die Vorlage Example, die als Leitfaden zum Schreiben eigener Prompts dienen kann.
Eigenen Prompt definieren
- Gehen Sie in Agent Settings (Agent-Einstellungen) zum Tab Generative AI und dann zum Untertab Generative Fallback.
- Wählen Sie im Drop-down-Menü Vorlage die Option + Neue Vorlage aus.
- Fügen Sie einen Vorlagennamen hinzu.
- Fügen Sie einen Text-Prompt hinzu.
- Klicken Sie auf Speichern.
Sie können auch damit beginnen, die Beispielvorlage zu bearbeiten und als neue Vorlage zu speichern:
- Wählen Sie im Drop-down-Menü Vorlage die Option Beispiel aus.
- Klicken Sie auf Bearbeiten.
- Bearbeiten Sie den Vorlagennamen.
- Bearbeiten Sie den Text-Prompt.
- Klicken Sie auf Speichern.
Liste der gesperrten Wortgruppen ändern
- Gehen Sie in Agent Settings (Agent-Einstellungen) zum Tab Generative AI und dann zum Untertab General (Allgemein).
- Im Abschnitt Gesperrte Wortgruppen können Sie Wortgruppen prüfen, ergänzen oder entfernen.
- Klicken Sie auf Speichern.
Generatives Fallback testen
Sie können die Funktion Generatives Fallback im Simulator testen. Wenn eine Nutzeräußerung in einem Ablauf oder auf einer Seite zu einer No-Übereinstimmung führt, wenn das No-Match-Ereignis so konfiguriert wurde, dass eine generative Antwort generiert wird (und die Generierung erfolgreich ist), gibt der Agent die generierte Antwort aus.
Codelab
Weitere Informationen findest du im Codelab zu generativem Fallback.
Fehlerbehebung
Wenn Sie Fehler in der Funktion beheben möchten, können Sie die aufgelöste LLM-Eingabeaufforderung (Large Language Model) im Simulator von Dialogflow Console prüfen:
Klicken Sie auf die Schaltfläche Ursprüngliche Antwort:
Suchen Sie das Feld Generative Fallback-Prompt. Lesen Sie diese Felder als Nur-Text und prüfen Sie, ob die LLM-Eingabe sinnvoll ist. Wenn eine Wortgruppe
$enthält, prüfen Sie die Simulatoreingabe und klären Sie, ob das$in den Aufforderungen beabsichtigt ist (z. B.$inprice is $10wäre wahrscheinlich beabsichtigt,visit $cityhingegen nicht und könnte entweder eine falsche Verwendung oder einen Fehler implizieren). Wenn Sie sich nicht sicher sind, wenden Sie sich an den Support.Wenn Sie eine nicht standardmäßige Eingabeaufforderung verwenden, aber das Feld „Generative Fallback-Aufforderung“ nicht sehen können, wenden Sie sich an den Support.