In diesem Dokument wird beschrieben, welche Vorteile die Instrumentierung Ihrer Anwendungen mit generativer KI bietet. Außerdem wird beschrieben, wie Sie eine Anwendung instrumentieren, die das LangGraph-Framework verwendet.
Generative KI-Agents
Bei Anwendungen, die generative KI nutzen, werden Agenten eingesetzt, um Aufgaben zu erledigen oder Ziele zu erreichen. Agenten sind Anwendungen, die Aufgaben im Namen eines Nutzers erledigen oder Ziele verfolgen. Ein generativer KI-Agent kann beispielsweise eine Website aufrufen und API-Befehle ausführen. Mit diesen API-Befehlen können Informationen abgerufen oder eine Aktion ausgeführt werden.
Agenten handeln autonom und bestimmen mithilfe von Argumenten, wie ein Ziel oder eine Aufgabe in Teilaufgaben zerlegt werden kann und welche Tools dann zur Erledigung dieser Teilaufgaben verwendet werden sollen. Im Kontext generativer KI bestimmen Tools, wie der Agent mit seiner Umgebung interagieren kann. Ein Kundenservicemitarbeiter hat beispielsweise ein Tool, mit dem er API-Befehle ausführen kann.
Weitere Informationen zu Kundenservicemitarbeitern finden Sie unter:
Warum Sie Ihre Anwendungen mit generativer KI instrumentieren sollten
Nur wenn Sie Ihre Anwendungen mit generativer KI instrumentieren, können Sie die Argumentation der autonomen Agenten nachvollziehen. Dieser Inferenzprozess ist nicht deterministisch.
Wenn Sie eine Anwendung mit generativer KI instrumentieren, enthalten die Telemetriedaten die Entscheidungen und Aktionen der Kundenservicemitarbeiter. Anhand dieser Daten können Sie Ihre Anwendung validieren oder verbessern.
Anwendungen für generative KI instrumentieren
Wenn Sie Ihre Anwendung instrumentieren, generieren Sie Telemetriedaten und senden sie an einen Ort, an dem die Daten gespeichert, abgefragt und analysiert werden können. Wenn Ihre Instrumentierung beispielsweise Telemetrie an Ihr Google Cloud -Projekt sendet, können Sie diese Daten mit Google Cloud Observability aufrufen und analysieren.
Das Beispiel für das LangGraph-Framework zeigt, wie Sie mit OpenTelemetry eine generative KI-Anwendung instrumentieren, die das LangChain- oder LangGraph-Framework verwendet.
OpenTelemetry ist ein Open-Source-Projekt, das ein einheitliches Framework für die Instrumentierung von Anwendungen bietet.
Ein Agent-Framework bietet die Infrastruktur, die für die Entwicklung einer Anwendung mit generativer KI erforderlich ist. Agent-Frameworks definieren, wie Tools erstellt und registriert, wie ein Tool ausgewählt und wie es ausgeführt wird.
Cloud Trace ist so konfiguriert, dass Ereignisse aus Spans extrahiert werden, die von Anwendungen mit generativer KI geschrieben wurden, sofern die Spans den OpenTelemetry-Konventionen für Spans der generativen KI entsprechen und Attribute oder Ereignisse enthalten, die den Konventionen für Ereignisse der generativen KI folgen.