Questo documento descrive il vantaggio dell'instrumentazione delle applicazioni di AI generativa. Riassume inoltre come puoi eseguire l'instrumentazione di un'applicazione che utilizza il framework LangGraph.
Informazioni sugli agenti di AI generativa
Le applicazioni che utilizzano l'AI generativa si basano su agenti per completare attività o ottenere obiettivi. Gli agenti sono applicazioni che completano attività o perseguono obiettivi per conto di un utente. Ad esempio, un agente di AI generativa può navigare su un sito web ed emettere comandi API. Questi comandi API potrebbero recuperare informazioni o eseguire un'azione.
Gli agenti agiscono in modo autonomo e utilizzano il ragionamento per determinare come decomporre un obiettivo o un'attività in sottoattività e poi per determinare quali strumenti utilizzare per completare queste sottoattività. Nel contesto dell'AI generativa, gli strumenti determinano come l'agente può interagire con il suo ambiente. Ad esempio, un agente potrebbe avere uno strumento che gli consente di emettere comandi API.
Per scoprire di più sugli agenti, consulta quanto segue:
Perché eseguire l'instrumentazione delle applicazioni di AI generativa
L'instrumentazione delle applicazioni di AI generativa è l'unico modo per comprendere il ragionamento utilizzato dagli agenti autonomi. Questo processo di ragionamento non è deterministico.
Quando strumenti un'applicazione di AI generativa, i dati di telemetria includono le decisioni e le azioni degli agenti. Puoi utilizzare questi dati per convalidare o migliorare la tua applicazione.
Come eseguire l'instrumentazione delle applicazioni di AI generativa
L'instrumentazione dell'applicazione prevede la generazione di telemetria e il suo invio in un luogo in cui i dati possono essere archiviati, sottoposti a query e analizzati. Ad esempio, quando la tua strumentazione invia la telemetria al tuo Google Cloud progetto, puoi utilizzare Google Cloud Observability per visualizzare e analizzare questi dati.
L'esempio del framework LangGraph illustra come utilizzare OpenTelemetry per instrumentare un'applicazione di AI generativa che utilizza il framework LangChain o LangGraph.
OpenTelemetry è un progetto open source che fornisce un framework unificato per la misurazione delle applicazioni.
Un framework per agenti fornisce l'infrastruttura necessaria per sviluppare un'applicazione di AI generativa. I framework degli agenti definiscono come creare e registrare gli strumenti, come selezionare uno strumento da eseguire e come eseguirlo.
Cloud Trace è configurato per estrarre eventi dagli intervalliscritti da applicazioni di AI generativa, a condizione che gli intervalli siano conformi alle convenzioni semantiche per gli intervalli di AI generativa di OpenTelemetry e includano attributi o eventi che rispettano le convenzioni semantiche per gli eventi di AI generativa.