Fallback generativo

Nota: la funzionalità generazione di riserva è esclusa da Dialogflow" sul livello del servizio (SLA).

La funzionalità di riserva generativa utilizza il più recente modello linguistico di grandi dimensioni (LLM) di Google per generare risposte di agenti virtuali quando input utente finale corrispondono a un intent o a un parametro per la compilazione del modulo.

La funzionalità può essere configurata con un prompt di testo che indica all'LLM come e rispondere. Puoi utilizzare un prompt di testo predefinito o aggiungere prompt personalizzati. Con un prompt predefinito, l'agente virtuale è in grado di gestire in situazioni diverse. Ad esempio:

• Salutare l'utente.
• Ripeti ciò che ha detto l'agente nel caso in cui l'utente non abbia capito.
• Resta in linea quando l'utente lo chiede.
• Riepiloga la conversazione.

Puoi attivare il fallback generativo sui gestori di eventi senza corrispondenza utilizzati nei flussi, pagine web o durante la compilazione dei parametri. Quando il fallback generativo è abilitato per un evento senza corrispondenza, ogni volta che quell'evento si attiva, Dialogflow tenterà di generare una risposta generata che verrà detto all'utente. Se la risposta non riesce, verrà emessa la normale risposta prescritta .

Limitazioni

La funzionalità è disponibile in lingue supportate dall'API Gemini.

Abilita il fallback generativo

Puoi attivare il fallback generativo nel tuo agente su gestori di eventi senza corrispondenza, che possono essere utilizzate nel completamento del flusso, della pagina o dei parametri.

Attiva i fallback generativi per gli eventi senza corrispondenza di un intero flusso:

1. Vai alla console Dialogflow CX.
2. Seleziona un progetto.
3. Seleziona un agente, quindi un flusso.
4. Fai clic sulla pagina iniziale del flusso per espanderlo.
5. Fai clic su sys.no-match-default in Gestori di eventi.
6. Seleziona Abilita il fallback generativo nella sezione Risposte dell'agente.
7. Fai clic su Salva.

Attiva il fallback generativo su specifici eventi senza corrispondenza:

1. Vai al gestore di eventi Nessuna corrispondenza target (qualsiasi evento che inizia con Nessuna corrispondenza, ad esempio Valore predefinito senza corrispondenza, Nessuna corrispondenza 1 e così via).
2. Seleziona Abilita il fallback generativo nella sezione Risposte dell'agente.
3. Fai clic su Salva.

Configura il fallback generativo

Come accennato in precedenza, la funzionalità di riserva generativa passa una richiesta a una modello linguistico di grandi dimensioni (LLM) per produrre la risposta generata. La richiesta assume la forma di un prompt di testo che è una combinazione di linguaggio naturale e informazioni sullo stato attuale dell'agente e della conversazione. La nel prompt e la risposta generata vengono confrontate con un elenco di frasi. Se contengono frasi vietate o sono considerati non sicuri, non andranno a buon fine e la normale risposta prescritta (sotto l'agente dichiara che nella stessa evasione degli ordini verranno emessi.

La funzionalità può essere configurata in diversi modi:

1. Seleziona un prompt predefinito.
2. Definisci un prompt personalizzato.
3. Aggiungi o rimuovi frasi dall'elenco di frasi escluse.

Quando si crea un prompt, oltre a una descrizione in linguaggio naturale di ciò tipo di contesto, anche i seguenti segnaposto possono essere utilizzata:

Termine	Definizione
$conversation	La conversazione tra l'agente e l'utente, esclusa l'ultima frase dell'utente.
${conversation USER:"<prefisso utente>" AI:"<prefisso agente>" TURNS:<turn count>}	Una versione con parametri del segnaposto $conversation. Puoi personalizzare il prefisso dell'utente finale (USER), il prefisso dell'agente (AI) e il numero di turni precedenti da includere (TURNS). È necessario specificare tutti i valori dei parametri segnaposto. Ad esempio, ${conversation USER:"Human says:" AI:"Agent says:" TURNS:4}
$last-user-utterance	L'ultima frase dell'utente.
$flow-description	La descrizione del flusso del flusso attivo.
$route-descriptions	Le descrizioni degli intent degli intent attivi.

Assicurati di avere descrizioni corrette per il flusso e l'intento.

Scegli un prompt predefinito

1. In Impostazioni agente, vai alla scheda IA generativa, quindi Riserva generativa.
2. Seleziona una delle opzioni nel menu a discesa Modello.
3. Fai clic su Salva.

La funzionalità fornisce due modelli di prompt: il modello Default (ovvero non visibile) e il modello Esempio che può fungere da guida per la scrittura i tuoi prompt.

Definisci il tuo prompt

1. In Impostazioni agente, vai alla scheda IA generativa, quindi Riserva generativa.
2. Seleziona + Nuovo modello nel menu a discesa Modello.
3. Aggiungi un Nome modello.
4. Aggiungi un prompt di testo.
5. Fai clic su Salva.

Puoi anche iniziare modificando il modello Esempio e salvandolo come nuovo modello:

1. Seleziona Esempio nel menu a discesa Modello.
2. Fai clic su Modifica.
3. Modifica il Nome modello.
4. Modifica il Prompt di testo.
5. Fai clic su Salva.

Modifica l'elenco delle frasi vietate

Nota: tutte le frasi escluse in questo elenco verranno applicate a generatori nonché risposte generative di riserva.

1. In Impostazioni agente, vai alla scheda IA generativa, quindi scheda secondaria Generale.
2. Nella sezione Frasi escluse controlla, aggiungi o rimuovi frasi da dall'elenco.
3. Fai clic su Salva.

Testa il fallback generativo

Puoi testare la funzionalità di riserva generativa nel simulatore. Ogni volta che un utente un'espressione porta a una mancata corrispondenza in un flusso/una pagina in cui l'evento senza corrispondenza configurato per produrre una risposta generativa (e la generazione riesce), che restituirà la risposta generata.

Codelab

Vedi anche la sezione Fondamentale di riserva Codelab.

Risoluzione dei problemi

Nota: i passaggi descritti in questa sezione sono disponibili solo per i modelli non predefiniti modelli di prompt.

Se vuoi eseguire il debug della funzionalità, puoi esaminare la lingua di grandi dimensioni risolta di input del modello LLM nel simulatore della console Dialogflow:

1. Fai clic sul pulsante Risposta originale:

   

2. Individua il campo "Prompt di fallback generativo". Leggi questi campi come valori semplici e controllare se l'input dell'LLM ha senso. Se una frase contiene $, esamina l'input del simulatore e chiarisci se $ I prompt sono intenzionali (ad esempio, $ in price is $10 probabilmente essere intenzionale, mentre visit $city probabilmente no e potrebbe sottintendere uso improprio o un bug). In caso di dubbi, contatta l'assistenza.

3. Se utilizzi un modello di prompt non predefinito, ma non riesci a vedere il riquadro Prompt di riserva" campo, contatta l'assistenza.