Beispiele

Für jeden Agent sollte es ein oder mehrere Beispiele geben. Dies sind Beispielunterhaltungen zwischen einem Endnutzer und der Agent-Anwendung, einschließlich Dialog und Aktionen, die von der Agent-Anwendung ausgeführt werden. Es handelt sich dabei im Grunde um wenige Beispiele für kurze Prompts für das LLM.

Die Konsole bietet eine Schnittstelle, über die Sie Aktionen eingeben können.

Mehrsprachige Agent-Apps

Wenn Ihre Agent-Anwendung mehrere Sprachen verarbeiten soll, sollten Sie in den Beispielen jede dieser Sprachen verwenden.

Beispiel für eine Eingabe- und Ausgabezusammenfassung

Zusätzlich zu den Eingabe- und Ausgabeparametern unterstützen Agents das Empfangen einer Eingabezusammenfassung und die Ausgabe einer Ausgabezusammenfassung für den Austausch von Informationen mit anderen Agents. Zusammenfassungen sind hilfreich, um abstrakte Kontextinformationen zwischen Agents zu übergeben, während Parameter für die Übergabe strukturierter, klar definierter Felder zwischen Agents hilfreicher sind. Parameter sind die einzige Möglichkeit, Daten zwischen Abläufen und Agents auszutauschen.

Fügen Sie den Beispielen relevante Eingabezusammenfassungen hinzu, um den Agent so zu konditionieren, dass seine Aktionen anhand der Eingabezusammenfassungen zur Laufzeit angepasst werden. Fügen Sie Ausgabezusammenfassungen mit relevanten, genauen Details zur Beispielunterhaltung hinzu, um dem Agent zu zeigen, welche Details wichtig sind.

Beispielstatus

Ein Kundenservicemitarbeiter befindet sich zu einem bestimmten Zeitpunkt in der Unterhaltung in einem der folgenden Status:

  • OK: Der Agent hat sein Ziel erreicht und die Kontrolle wird jetzt an den übergeordneten Agent übertragen.
  • CANCELLED: Der Nutzer hat sich entschieden, nicht mit dem dem Agent zugewiesenen Ziel fortzufahren. Das Steuerelement wird jetzt an den übergeordneten Agent übertragen. Wenn der übergeordnete Agent ein CX-Ablauf ist, wird der Intent der Nutzereingabe vor der Ausführung des Ablaufs erkannt.
  • FAILED: Der Agent kann aufgrund eines Fehlers nicht mit dem Ziel fortfahren (z.B. gibt das Tool den Fehler 500 zurück). Die Sitzung wird mit dem Status „Fehlgeschlagen“ beendet. Der Antwort wird eine Nachricht EndInteraction hinzugefügt.
  • ESCALATED: Der Agent hat entschieden, dass er das Ziel nicht erreichen kann und die Situation an einen Mitarbeiter eskalieren muss. Die Sitzung endet mit dem Status „Eskaliert“. Der Antwort wird eine Nachricht EndInteraction hinzugefügt.
  • PENDING: Die Unterhaltung innerhalb des Agents wird noch fortgesetzt.

Das Beispiel der obersten Ebene und die zugehörigen Agent-Aufrufe sollten mit einem Status gekennzeichnet werden, der dem Agent entspricht, auf den sie verweisen.

Auswahlstrategie

Die Auswahlstrategie steuert, ob jedes Beispiel in den Prompt des Agents einbezogen wird oder nicht.

  • DEFAULT: Das Beispiel kann weggelassen werden, wenn sich die Aufforderung dem Tokenlimit nähert.
  • STATIC: Das Beispiel ist immer enthalten.
  • NEVER: Das Beispiel ist nie im Prompt enthalten. Das Beispiel hat keinerlei Auswirkungen auf die Leistung des Agents.

Aktion hinzufügen

Ein in einem Agent bereitgestelltes Beispiel besteht aus einer Reihe von Aktionen. Diese Aktionen können in ihrer Kombination variieren, stellen aber in erster Linie die Interaktion zwischen dem Nutzer und dem Agent sowie die Aktionen dar, die dazwischen ausgeführt werden, um die Anfrage oder Anforderungen des Nutzers zu erfüllen.

Es gibt zwei Möglichkeiten, einem Beispiel Aktionen hinzuzufügen:

  • Um eine Aktion manuell hinzuzufügen, klicken Sie unten im rechten Bereich auf die Schaltfläche + oder auf die Schaltfläche Aktion hinzufügen, wenn Sie den Mauszeiger über vorhandene Aktionen bewegen. Sie können diese Optionen verwenden, wenn Sie ein neues Beispiel erstellen, indem Sie auf die Option + Beispiel klicken, oder wenn Sie ein vorhandenes Beispiel bearbeiten.

  • Um Aktionen anhand der vorhandenen Anweisungen für den Kundenservicemitarbeiter automatisch zu generieren, geben Sie unten rechts im Feld Enter user input (Nutzereingabe eingeben) eine Nutzereingabe ein. Sie können diese Option verwenden, wenn Sie ein Beispiel erstellen oder bearbeiten. Alternativ können Sie diese Option auch verwenden, wenn Sie den Agent im Bereich Preview Agent auf der rechten Seite zur Laufzeit testen. Wenn Sie Aktionen für ein Beispiel aus dem Bereich Preview Agent speichern möchten, klicken Sie auf Save example (Beispiel speichern), nachdem Sie den Agent-Aufruf aus der Aufrufliste links im Bereich Preview Agent ausgewählt haben.

Überprüfen Sie die automatisch generierten Aktionen und bearbeiten Sie sie gegebenenfalls. Dies ist besonders wichtig für Agents mit wenigen oder keinen Beispielen.

Die folgenden Aktionstypen werden vom Agent unterstützt:

Antwort des Kundenservicemitarbeiters

Die Agent-Antwort auf die Nutzeranfrage.

Nutzereingabe

Die Nutzeranfrage.

Verwendung des Tools

Dies ist ein Tool-Aufruf, mit dem zusätzliche Informationen abgerufen werden, die zur Ausführung der Nutzeranfrage erforderlich sind. Für diese Aktion sollten die folgenden Details angegeben werden:

  • Tool: Der Name des Tools, das aufgerufen werden soll.
  • Aktion: Name des Vorgangs für das OpenAPI-Tool, das aufgerufen werden soll. Bei Datenspeichertools und Funktionstools ist der Aktionsname mit dem Toolnamen identisch.
  • Tool-Eingabe: Eingaben, die in den Toolaufruf einbezogen werden sollen. Diese werden normalerweise aus den vorherigen Gesprächsrunden mit dem Nutzer abgeleitet.

    Für Open API-Tools ist requestBody JSON für die Methodentypen POST, PUT und PATCH erforderlich.

    Beispieleingabe für OpenAPI-Tool requestBody für die Aktion „createPet“:

    {
      "id": 1,
      "name": "Luna"
    }
    

    Für das Datenspeichertool das Beispiel-requestBody, bei dem die Abfrage erforderlich ist und andere Felder optional sind.

    {
      "query": "Where is my nearest store?",
      "filter": "country: ANY(\"United States\")",
      "userMetadata": {
        "userCity": "San Fransisco",
      },
      "fallback": "We don't have any stores in your area."
    }
    
  • Tool-Ausgabe: Die Antwort des Tool-Aufrufs. Dies ist eine gültige JSON-Antwort vom Tool auf die angegebene Eingabe. Bei Open API-Tools kann es sich auch um einen Stringfehler handeln (z. B. „404 Nicht gefunden“).

    Beispielausgabe des OpenAPI-Tools für die Aktion „listPets“:

    {
      "pets": [
        {
          "id": 1,
          "name": "Luna"
        },
        {
          "id": 2,
          "name": "Charlie"
        }]
    }
    

    Beispielausgabe des Datenspeichertools:

    {
      "answer": "Here's the address to your nearest store ...",
      "snippets": [
        {
          "title": "San Fransisco Downtown",
          "uri": "https://www.example.com/San_Fransisco_Downtown",
          "text": "Address for San Fransisco Downtown .."
        }
      ]
    }
    

Damit der Agent fehlersicher ist, fügen Sie auch Beispiele dafür hinzu, wie der Agent reagieren soll, wenn der Aufruf des Tools fehlschlägt. Ein Fehler beim Aufruf des OpenAPI-Tools kann in der Ausgabe des Tools als Fehlerstring ("404 nicht gefunden") dargestellt werden. Für Datenspeichertools kann mit der Eingabe fallback angegeben werden, wie reagiert werden soll, wenn es keine zusammenfassende Antwort gibt.

Wenn das Datenspeichertool den URI in die Agent-Antwort aufnehmen soll, fügen Sie Beispiele mit dem URI hinzu, mit dem der Agent antworten soll. Wenn dieser URI vom Datenspeichertool stammt, sollte die Ausgabe des Datenspeichertools einen URI enthalten, der mit dem URI in der Agent-Antwort übereinstimmt. Hinweis fallback kann in diesem Szenario nicht verwendet werden, da der LLM-Agent dadurch die Antwort des Datenspeichertools so umformulieren kann, dass URIs in die Antwort des Agents aufgenommen werden.

Beispiele, die Aktionen für die Verwendung von Tools enthalten, können sehr ausführlich sein und dazu beitragen, dass das Limit für Eingabetokens erhöht wird. Für eine effiziente Verwendung von Tokens sollten die Tool-Ausgaben kurz gehalten sein und Informationen enthalten, die für die Ziele des Agents relevant sind. Bei Datenspeichertools sollten Sie Snippets aus Beispielen entfernen, da diese zur hohen Nutzung von Eingabetokens beitragen können.

Agent-Aufruf

Diese Aktion wird verwendet, wenn der Agent einen anderen Agent aufrufen soll, um die Nutzeranfrage auszuführen. Für diese Aktion sollten die folgenden Details angegeben werden:

  • Agent: Name des aufzurufenden Agents.
  • Eingabezusammenfassung für Agent-Aufrufe: Eine Zusammenfassung der relevanten Teile der vorherigen Unterhaltung, die für den aufgerufenen Agent hilfreich sind.
  • Eingabeparameter: Eingabeparameter, die an den Agent übergeben werden sollen
  • Zusammenfassung der Ausgabe des Agent-Aufrufs: Eine Zusammenfassung dessen, was der Agent nach Erreichen seines Ziels generieren soll.
  • Ausgabeparameter: Ausgabeparameter, die vom Agent nach Abschluss des Zielvorhabens generiert werden.