Le seguenti best practice possono aiutarti a creare agenti solidi.
Nome del playbook in linguaggio naturale
Utilizza un linguaggio naturale con significati chiari per i nomi dei playbook. Ad esempio, "Customer Help Center Playbook" è più descrittivo di "company_specialist", il che migliora il rendimento degli IA Generators in fase di esecuzione.
Obiettivi concisi
Gli obiettivi devono essere una descrizione concisa dello scopo del playbook.
Fornire istruzioni sulla qualità
Le istruzioni devono:
- Riflettono l'approccio passo passo per risolvere un problema dell'utente finale
- essere frasi concise in linguaggio naturale di istruzioni di alto livello
- essere semplice e specificare gli scenari di utilizzo dello strumento
Almeno un esempio per ogni playbook
Devi avere almeno un esempio per ogni playbook, ma ti consigliamo di averne almeno quattro. Gli esempi devono includere scenari di buon esito.
Senza esempi sufficienti, è probabile che un playbook generi un comportamento imprevedibile. Se il playbook non risponde o non si comporta come previsto, la causa è probabilmente rappresentata da esempi mancanti o poco definiti. Prova a migliorare gli esempi o ad aggiungerne di nuovi.
Precisione di istruzioni ed esempi
Sebbene sia utile scrivere istruzioni chiare e descrittive, in realtà sono la qualità e la quantità degli esempi a determinare l'accuratezza del comportamento del playbook. In altre parole, spendi più tempo a scrivere esempi dettagliati che a scrivere istruzioni perfettamente precise.
Fare riferimento agli strumenti negli esempi
Se il playbook è progettato per fornire risposte utilizzando strumenti, fai riferimento agli strumenti negli esempi corrispondenti a questo tipo di richiesta.
Campo operationId
dello schema dello strumento
Quando definisci gli schemi per i tuoi strumenti, il valore operationId
è importante.
Le istruzioni del playbook faranno riferimento a questo valore.
Di seguito sono riportati alcuni consigli per la denominazione di questo campo:
- Solo lettere, numeri e trattini bassi.
- Deve essere univoco tra tutti i
operationId
descritti nello schema. - Deve essere un nome significativo che rifletta la funzionalità fornita.
Convalida dello schema dello strumento
Devi convalidare lo schema dello strumento. Puoi utilizzare Swagger Editor per controllare la sintassi dello schema OpenAPI 3.0.
Gestire i risultati dello strumento vuoti
Quando il playbook si basa su uno strumento per definire la risposta, un risultato dello strumento vuoto può portare a un comportamento imprevedibile del playbook. A volte, il generatore di playbook basato sull'IA hallucina le informazioni in una risposta al posto del risultato di uno strumento. Per evitare ciò, puoi aggiungere istruzioni specifiche per assicurarti che il generatore di AI del playbook non tenti di rispondere autonomamente.
Alcuni casi d'uso richiedono che le risposte del playbook siano ben basate sui risultati dello strumento o sui dati forniti e devono attenuare le risposte basate solo sulle conoscenze del generatore di AI del playbook.
Esempi di istruzioni per attenuare le allucinazioni:
- "Devi utilizzare lo strumento per rispondere a tutte le domande degli utenti"
- "Se non ricevi dati dallo strumento, rispondi che non conosci la risposta alla query dell'utente"
- "Non inventarti una risposta se lo strumento non restituisce dati"
Generare uno schema con Gemini
Gemini può generare uno schema per te. Ad esempio, prova a dire "puoi creare uno schema openAPI 3.0 di esempio per Google Calendar".
Playbook specifici
Evita di creare playbook molto grandi e complessi. Ogni playbook deve svolgere un'attività specifica e chiara. Se hai un playbook complesso, valuta la possibilità di suddividerlo in sottoplaybook più piccoli.
Evitare cicli e ricorsione
Non creare loop o ricorsione quando colleghi gli agenti nelle istruzioni.
Fornire informazioni sul routing agli esempi
Quando un playbook deve indirizzare a un altro playbook, devi fornire queste informazioni agli esempi. Viene fornito a un esempio del campo Esempio finale con informazioni sull'output della sezione degli esempi Input e output.
Ad esempio, la frase finale di questo campo potrebbe essere "Ripristina il playbook predefinito per ulteriori query".
Utilizzare le funzioni JavaScript di Messenger di Conversational Agents (Dialogflow CX) per la personalizzazione
Quando utilizzi Messenger di Conversational Agents (Dialogflow CX), le seguenti funzioni sono utili per inviare informazioni sulla personalizzazione dell'utente dall'interfaccia web al playbook:
Pianificare il rendimento
Le funzionalità di generazione di solito richiedono diversi secondi o anche decine di secondi per generare una risposta. Sebbene i playbook migliorino la naturalezza della conversazione, è fondamentale gestire i tempi di risposta per mantenere un'esperienza positiva per l'utente finale. Ecco alcune strategie per ottimizzare il rendimento:
Equilibrare l'utilizzo delle funzionalità di IA generativa
Valuta attentamente il compromesso tra il tempo necessario per eseguire più funzionalità generative e il valore che apportano alla conversazione. Evita di utilizzare eccessivamente queste funzionalità se non contribuiscono in modo significativo all'obiettivo dell'utente.
Minimizzare l'input delle funzionalità di generazione
Cerca di raccogliere ed elaborare la quantità minima di informazioni necessarie per consentire a un generatore di IA di generare una risposta utile. In questo modo, il tempo di elaborazione può essere ridotto notevolmente.
Utilizzare la memorizzazione nella cache del contesto
Se utilizzi Gemini tramite uno strumento e hai un contesto iniziale ampio, esplora le informazioni sulla memorizzazione nella cache utilizzando la memorizzazione nella cache del contesto Vertex AI per evitare richieste ripetitive per gli stessi dati. Implementa risposte fisse per la velocità:
Se la tua applicazione non richiede contenuti unici e dinamici, valuta la possibilità di memorizzare le risposte di uso frequente in un database tradizionale come Firebase. Poiché sono predefinite e immediatamente disponibili, queste risposte fisse forniscono tempi di risposta molto più rapidi rispetto a una funzionalità generativa che deve calcolare una risposta al volo.
Istruisci il generatore di AI a produrre risposte concise del playbook
Per l'input e l'output di testo, il tempo di risposta del generatore di AI dipende molto dal modello utilizzato e dalla lunghezza dell'output. Le risposte brevi possono migliorare notevolmente le prestazioni. Anche la lunghezza dell'input viene presa in considerazione, ma la lunghezza dell'output ha un impatto maggiore.
Risposte dinamiche:
Trasmetti le risposte del playbook al client Dialogflow, che a sua volta le trasmette all'utente finale. Questo è in contrasto con l'attesa che l'intera risposta venga generata prima di inviare una parte. Le risposte in streaming offrono un'esperienza utente migliorata in quanto forniscono risposte parziali man mano che diventano disponibili. Questo approccio riduce al minimo il ritardo percepito e il tempo di attesa dell'utente.