本文說明檢測生成式 AI 應用程式的優點。並概述如何為使用 LangGraph 架構的應用程式進行檢測。
關於生成式 AI 虛擬服務專員
使用生成式 AI 的應用程式會依賴代理程式來完成工作或達成目標。代理程式是代表使用者完成工作或追求目標的應用程式。舉例來說，生成式 AI 服務專員可以瀏覽網站並發出 API 指令。這些 API 指令可能會擷取資訊或執行動作。
代理程式會自行採取行動，並利用推理功能判斷如何將目標或工作分解為子工作，然後決定要使用哪些工具來完成這些子工作。在生成式 AI 的情況下，工具會決定代理程式如何與環境互動。舉例來說，代理程式可能會使用工具來發出 API 指令。
如要進一步瞭解服務專員，請參閱以下文章：
為何要為生成式 AI 應用程式加入檢測元件
您必須檢測生成式 AI 應用程式，才能瞭解自主代理程式使用的推理方式。這個推理過程並非確定性的。
當您對生成式 AI 應用程式進行檢測時，遙測資料會包含代理程式的決策和動作。您可以使用這項資料驗證或改善應用程式。
如何為生成式 AI 應用程式加入檢測功能
檢測應用程式時，系統會產生遙測資料，並將資料傳送至可儲存、查詢及分析資料的位置。舉例來說，當您的檢測程式將遙測資料傳送至 Google Cloud 專案時，您可以使用 Google Cloud Observability 查看及分析該資料。
LangGraph 框架範例說明如何使用 OpenTelemetry 檢測使用 LangChain 或 LangGraph 框架的生成式 AI 應用程式。
OpenTelemetry 是開放原始碼專案，可為應用程式檢測提供統一架構。
代理程式架構可提供開發生成式 AI 應用程式所需的基礎架構。代理程式架構定義了建立及註冊工具的方式、如何選取要執行的工具，以及如何執行工具。
只要時距符合 OpenTelemetry 生成式 AI 時距的語意慣例，且包含符合生成式 AI 事件語意慣例的屬性或事件，Cloud Trace 就會設為從生成式 AI 應用程式寫入的時距中擷取事件。