Fallback generativo

La funzionalità di riserva generativa utilizza il più recente modello linguistico di grandi dimensioni (LLM) di Google (LLM) per generare risposte di agenti virtuali quando input utente finale corrispondono a un intent o a un parametro per la compilazione del modulo.

La funzionalità può essere configurata con un prompt di testo che indica all'LLM come e rispondere. Puoi utilizzare un prompt di testo predefinito o aggiungerne uno tuo. Con il prompt predefinito, l'agente virtuale è in grado di gestire situazioni di conversazione di base. Ad esempio:

  • Salutare l'utente.
  • Ripeti ciò che ha detto l'agente nel caso in cui l'utente non abbia capito.
  • Resta in linea quando l'utente lo chiede.
  • Riepiloga la conversazione.

Puoi attivare il fallback generativo sui gestori di eventi senza corrispondenza utilizzati in flussi, pagine o durante il completamento dei parametri. Quando il fallback generativo è abilitato per evento senza corrispondenza, ogni volta che si attiva quell'evento, gli agenti conversazionali (Dialogflow CX) tenteranno di generare una risposta generata che verrà detto all'utente. Se la generazione della risposta non va a buon fine, verrà emessa la risposta dell'agente prescritta regolare.

Limitazioni

La funzionalità è disponibile nelle lingue supportate dall'API Gemini.

Attiva il fallback generativo

Puoi attivare il fallback generativo nel tuo agente su gestori di eventi senza corrispondenza, che possono essere utilizzate nel completamento del flusso, della pagina o dei parametri.

Attiva i fallback generativi per gli eventi senza corrispondenza di un intero flusso:

  1. Vai alla console di Dialogflow CX.
  2. Seleziona un progetto.
  3. Seleziona un agente, quindi un flusso.
  4. Fai clic sulla Pagina iniziale del flusso per espanderla.
  5. Fai clic su sys.no-match-default in Gestione eventi.
  6. Seleziona Attiva il fallback generativo in Risposte dell'agente.
  7. Fai clic su Salva.

Attiva il fallback generativo su specifici eventi senza corrispondenza:

  1. Vai al gestore degli eventi Nessuna corrispondenza di destinazione (qualsiasi evento che inizia con Nessuna corrispondenza, ad esempio Nessuna corrispondenza predefinita, Nessuna corrispondenza 1 e così via).
  2. Seleziona Abilita il fallback generativo nella sezione Risposte dell'agente.
  3. Fai clic su Salva.

Configura il fallback generativo

Come accennato in precedenza, la funzionalità di ripristino generativo invia una richiesta a un grande modello linguistico per produrre la risposta generata. La richiesta assume la forma di un prompt di testo, ovvero un mix di linguaggio naturale e informazioni sullo stato attuale dell'agente e della conversazione. Il prompt e la risposta generata vengono controllati in base a un elenco di espressioni vietate. Se contengono frasi vietate o sono altrimenti ritenute non sicure, la generazione non andrà a buon fine e verrà emessa la risposta standard prescritta (in L'agente dice nella stessa esecuzione).

La funzionalità può essere configurata in diversi modi:

  1. Seleziona un prompt predefinito.
  2. Definisci un prompt personalizzato.
  3. Aggiungi o rimuovi frasi dall'elenco delle frasi vietate.

Quando crei un prompt, oltre a una descrizione in linguaggio naturale del tipo di contesto da generare, puoi anche utilizzare i seguenti segnaposto:

Termine Definizione
$conversation La conversazione tra l'agente e l'utente, esclusa l'ultima frase dell'utente.
${conversation USER:"<prefisso utente>" AI:"<prefisso agente>" TURNS:<turn count>} Una versione con parametri del segnaposto $conversation. Puoi personalizzare il prefisso dell'utente finale (USER), il prefisso dell'agente (AI) e il numero di turni precedenti da includere (TURNS). È necessario specificare tutti i valori dei parametri segnaposto. Ad esempio, ${conversation USER:"Human says:" AI:"Agent says:" TURNS:4}
$last-user-utterance L'ultima frase dell'utente.
$flow-description La descrizione del flusso attivo.
$route-descriptions Le descrizioni degli intent degli intent attivi.

Assicurati di avere descrizioni con un buon flusso e un'intenzione chiara.

Scegli un prompt predefinito

  1. In Impostazioni agente, vai alla scheda IA generativa, quindi Riserva generativa.
  2. Seleziona una delle opzioni nel menu a discesa Modello.
  3. Fai clic su Salva.

La funzionalità fornisce due prompt di modello, il modello Predefinito (che non è visibile) e il modello Esempio che può essere utilizzato come guida per scrivere i tuoi prompt.

Definisci il tuo prompt

  1. In Impostazioni agente, vai alla scheda IA generativa, quindi Riserva generativa.
  2. Seleziona + Nuovo modello nel menu a discesa Modello.
  3. Aggiungi un nome del modello.
  4. Aggiungi un prompt di testo.
  5. Fai clic su Salva.

Puoi anche iniziare modificando il modello Esempio e salvandolo come nuovo modello:

  1. Seleziona Esempio nel menu a discesa Modello.
  2. Fai clic su Modifica.
  3. Modifica il Nome modello.
  4. Modifica il prompt di testo.
  5. Fai clic su Salva.

Modifica l'elenco delle frasi vietate

  1. In Impostazioni agente, vai alla scheda IA generativa e poi alla sottoscheda Generali.
  2. Nella sezione Frasi vietate, controlla, aggiungi o rimuovi frasi dall'elenco.
  3. Fai clic su Salva.

Testa il fallback generativo

Puoi testare la funzionalità di riserva generativa nel simulatore. Ogni volta che un'espressione dell'utente non corrisponde a un flusso/una pagina in cui l'evento di mancata corrispondenza è stato configurato per produrre una risposta generativa (e la generazione va a buon fine), l'agente la mostrerà.

Codelab

Vedi anche la sezione Fondamentale di riserva Codelab.

Risoluzione dei problemi

Se vuoi eseguire il debug della funzionalità, puoi esaminare il linguaggio di grandi dimensioni (LLM) risolto di input del modello LLM nel simulatore della console Dialogflow:

  1. Fai clic sul pulsante Risposta originale:

    Risposta originale

  2. Individua il campo "Prompt di riserva generativo". Leggi questi campi come valori semplici e controllare se l'input dell'LLM ha senso. Se una frase contiene $, esamina l'input del simulatore e chiarisci se $ I prompt sono intenzionali (ad esempio, $ in price is $10 probabilmente essere intenzionale, mentre visit $city probabilmente no e potrebbe sottintendere uso improprio o un bug). In caso di dubbi, contatta l'assistenza.

  3. Se utilizzi un modello di prompt non predefinito, ma non riesci a vedere il riquadro Prompt di riserva" campo, contatta l'assistenza.