La funzionalità di fallback generativo utilizza gli ultimi modelli linguistici di grandi dimensioni generativi (LLM) di Google per generare risposte degli agenti virtuali quando l'input dell'utente finale non corrisponde a un intent o a un parametro per la compilazione del modulo.
La funzionalità può essere configurata con un prompt di testo che indica all'LLM come rispondere. Puoi utilizzare un prompt di testo predefinito o aggiungere prompt personalizzati. Con il prompt predefinito, l'agente virtuale è in grado di gestire situazioni di conversazione di base. Ad esempio:
- Saluta l'utente.
- Ripeti ciò che ha detto l'agente nel caso in cui l'utente non abbia capito.
- Mantieni la linea quando l'utente lo chiede.
- Riassumi la conversazione.
Puoi abilitare il fallback generativo per i gestori di eventi senza corrispondenza utilizzati in flussi, pagine o durante il riempimento dei parametri. Quando il fallback generativo è abilitato per un evento senza corrispondenza, ogni volta che questo evento si attiva, Dialogflow tenterà di produrre una risposta generata che verrà restituita all'utente. Se la generazione della risposta non va a buon fine, verrà emessa la normale risposta dell'agente prescritta.
Limitazioni
La funzionalità è attualmente disponibile nelle lingue supportate dall'API Vertex AI PaLM.
Abilita il fallback generativo
Puoi abilitare il fallback generativo nel tuo agente per i gestori di eventi senza corrispondenza, che possono essere utilizzati nel fulfillment di flussi, pagine o parametri.
Abilita il fallback generativo per gli eventi senza corrispondenza di un intero flusso:
- Vai alla console Dialogflow CX.
- Seleziona un progetto.
- Seleziona un agente e un flusso.
- Espandi la pagina iniziale del flusso.
- Fai clic su sys.no-match-default in Gestori di eventi.
- Seleziona Abilita il fallback generativo in Risposte dell'agente.
- Fai clic su Salva.
Abilita il fallback generativo su specifici eventi senza corrispondenza:
- Vai al gestore di eventi No-match target (qualsiasi evento che inizia con No-match, come No-match default, No-match 1 e così via).
- Seleziona Abilita il fallback generativo in Risposte dell'agente.
- Fai clic su Salva.
Configura il fallback generativo
Come accennato in precedenza, la funzionalità di riserva generativa passa una richiesta a un modello linguistico di grandi dimensioni per produrre la risposta generata. La richiesta assume la forma di un prompt di testo, ovvero una combinazione di linguaggio naturale e informazioni sullo stato attuale dell'agente e della conversazione. Il messaggio e la risposta generata vengono verificati in base a un elenco di frasi escluse. Se contengono frasi vietate o sono altrimenti considerate non sicure, la generazione non andrà a buon fine e verrà emessa la normale risposta prescritta (sotto L'agente dice nello stesso evasione degli ordini).
La funzionalità può essere configurata in diversi modi:
- Seleziona un prompt predefinito.
- Definisci un prompt personalizzato.
- Aggiungi o rimuovi frasi dall'elenco delle frasi vietate.
Quando crei un prompt, oltre a una descrizione in linguaggio naturale del tipo di contesto da generare, puoi utilizzare anche i seguenti placeholders:
| Termine | Definizione |
|---|---|
| $Conversation | La conversazione tra l'agente e l'utente, esclusa l'ultima espressione dell'utente. |
| $last-user-utterance | L'ultima frase dell'utente. |
| $flow-description | La descrizione del flusso del flusso attivo. |
| $route-descriptions | Le descrizioni di intent degli intent attivi. |
Assicurati di avere descrizioni del flusso e dell'intento corrette.
Scegli un prompt predefinito
- In Agent Settings (Impostazioni agente), vai alla scheda ML (ML), quindi alla scheda secondaria Generative AI.
- Seleziona una delle opzioni nel menu a discesa Modello.
- Fai clic su Salva.
La funzionalità fornisce due prompt per il modello, il modello Predefinito (non visibile) e il modello Esempio, che può fungere da guida per la scrittura dei tuoi prompt. Tieni presente che se hai scelto il modello Predefinito e vedi la Richiesta di datastore nella scheda secondaria IA generativa, puoi aggiungere informazioni sull'agente che influenza le risposte degli agenti.
Definisci il tuo prompt
- In Agent Settings (Impostazioni agente), vai alla scheda ML (ML), quindi alla scheda secondaria Generative AI.
- Seleziona + Nuovo modello nel menu a discesa Modello.
- Aggiungi un Nome modello.
- Aggiungi un Prompt di testo.
- Premi Salva.
Puoi anche iniziare modificando il modello Esempio e salvandolo come nuovo modello:
- Seleziona Esempio nel menu a discesa Modello.
- Fai clic su Modifica.
- Modifica il Nome modello.
- Modifica il Prompt di testo.
- Premi Salva.
Modifica l'elenco delle frasi vietate
- In Agent Settings (Impostazioni agente), vai alla scheda ML (ML), quindi alla scheda secondaria Generative AI.
- Nella sezione Frasi escluse, controlla, aggiungi o rimuovi dall'elenco.
- Fai clic su Salva.
Testa il fallback generativo
La funzionalità di fallback generativo può essere testata direttamente nel simulatore. Ogni volta che un'espressione utente genera una non corrispondenza in un flusso/una pagina in cui l'evento senza corrispondenza è stato configurato per produrre una risposta generativa (e la generazione ha esito positivo), l'agente produrrà la risposta generata.
Codelab
Consulta anche il Codelab generativo di fallback.