Di riserva generativa

Nota: la funzionalità Generative di riserva è esclusa dallo SLA di Dialogflow.

La funzionalità di riserva generativa utilizza gli ultimi modelli linguistici di grandi dimensioni (LLM) di Google per generare risposte degli agenti virtuali quando l'input dell'utente finale non corrisponde a un intent o a un parametro per la compilazione di moduli.

La funzionalità può essere configurata con un prompt di testo che indica all'LLM come rispondere. Puoi utilizzare un prompt di testo predefinito o aggiungere i tuoi prompt. Con il prompt predefinito, l'agente virtuale è in grado di gestire situazioni di conversazione di base. Ad esempio:

• Saluta l'utente.
• Ripeti ciò che ha detto l'agente nel caso in cui l'utente non abbia capito.
• Mantieni la linea quando l'utente lo richiede.
• Riassumi la conversazione.

Puoi abilitare il fallback generativo per i gestori di eventi senza corrispondenza utilizzati in flussi, pagine o durante il riempimento dei parametri. Quando il fallback generativo è abilitato per un evento senza corrispondenza, ogni volta che questo evento viene attivato, Dialogflow tenterà di produrre una risposta generata che verrà detto all'utente. Se la generazione della risposta non va a buon fine, verrà emessa la normale risposta dell'agente prescritta.

Limitazioni

La funzionalità è disponibile nelle lingue supportate dall'API Vertex AI PaLM.

Abilita riserva generativa

Puoi abilitare il fallback generativo nell'agente sui gestori di eventi senza corrispondenza, che possono essere utilizzati nel fulfillment di flussi, pagine o parametri.

Abilita il fallback generativo per gli eventi senza corrispondenza di un intero flusso:

1. Vai alla console Dialogflow CX.
2. Seleziona un progetto.
3. Seleziona un agente, quindi seleziona un flusso.
4. Fai clic sulla pagina iniziale del flusso per espanderlo.
5. Fai clic su sys.no-match-default in Gestori di eventi.
6. Seleziona Attiva riserva generativa in Risposte dell'agente.
7. Fai clic su Salva.

Attiva il fallback generativo su specifici eventi senza corrispondenza:

1. Accedi al gestore di eventi No-match target (qualsiasi evento che inizia con No-match, come No-match default, No-match 1 e così via).
2. Seleziona Attiva riserva generativa in Risposte dell'agente.
3. Fai clic su Salva.

Configura il fallback generativo

Come accennato in precedenza, la funzionalità di riserva generativa passa una richiesta a un modello linguistico di grandi dimensioni per produrre la risposta generata. La richiesta assume la forma di un prompt di testo, ovvero una combinazione di linguaggio naturale e informazioni sullo stato attuale dell'agente e della conversazione. Il prompt e la risposta generata vengono controllati in base a un elenco di frasi escluse. Se contengono frasi vietate o sono altrimenti considerate non sicure, la generazione non andrà a buon fine e verrà emessa la normale risposta prescritta (sotto Secondo l'agente nello stesso evasione).

La funzionalità può essere configurata in diversi modi:

1. Seleziona un prompt predefinito.
2. Definire un prompt personalizzato.
3. Aggiungi o rimuovi frasi dall'elenco delle frasi vietate.

Quando crei un prompt, oltre a una descrizione in linguaggio naturale del tipo di contesto che deve essere generato, puoi utilizzare anche i seguenti placeholders:

Termine	Definizione
$conversation	La conversazione tra l'agente e l'utente, esclusa l'ultima frase dell'utente.
${conversation USER:"<prefisso utente>" AI:"<prefisso agente>" TURNS:<turn count>}	Una versione con parametri del segnaposto $conversation. Puoi personalizzare il prefisso dell'utente finale (USER), il prefisso dell'agente (AI) e il numero di turni precedenti da includere (TURNS). È necessario specificare tutti i valori dei parametri segnaposto. Ad esempio, ${conversation USER:"Human says:" AI:"Agent says:" TURNS:4}
$last-user-utterance	L'ultima frase dell'utente.
$flow-description	La descrizione del flusso del flusso attivo.
$route-descriptions	Le descrizioni degli intent degli intent attivi.

Assicurati che le descrizioni del flusso e dell'intento siano corrette.

Scegli un prompt predefinito

1. In Impostazioni agente, vai alla scheda IA generativa, quindi alla scheda secondaria Generative Fallback.
2. Seleziona una delle opzioni nel menu a discesa Modello.
3. Fai clic su Salva.

La funzionalità fornisce due prompt per il modello, il modello Predefinito (che non è visibile) e il modello Esempio che possono fungere da guida per la scrittura dei tuoi prompt.

Definisci il tuo prompt

1. In Impostazioni agente, vai alla scheda IA generativa, quindi alla scheda secondaria Generative Fallback.
2. Seleziona + Nuovo modello nel menu a discesa Modello.
3. Aggiungi un Nome modello.
4. Aggiungi un Prompt di testo.
5. Fai clic su Salva.

Puoi anche iniziare modificando il modello Esempio e salvandolo come nuovo modello:

1. Seleziona Esempio nel menu a discesa Modello.
2. Fai clic su Modifica.
3. Modifica il Nome modello.
4. Modifica il Prompt di testo.
5. Fai clic su Salva.

Modifica l'elenco delle frasi vietate

Nota: tutte le frasi vietate in questo elenco verranno applicate ai generatori e alle risposte di riserva generativa.

1. In Impostazioni agente, vai alla scheda IA generativa, quindi alla scheda secondaria Generale.
2. Nella sezione Frasi escluse, controlla, aggiungi o rimuovi frasi dall'elenco.
3. Fai clic su Salva.

Testa il fallback generativo

Puoi testare la funzionalità di fallback generativo nel simulatore. Ogni volta che un'espressione dell'utente genera una mancata corrispondenza in un flusso/pagina in cui l'evento senza corrispondenza è stato configurato per produrre una risposta generativa (e la generazione ha esito positivo), l'agente restituirà la risposta generata.

Codelab

Consulta anche il Codelab di fallback generativo.

Risoluzione dei problemi

Nota: i passaggi descritti in questa sezione sono disponibili solo per i modelli di prompt non predefiniti.

Se vuoi eseguire il debug della funzionalità, puoi ispezionare il prompt di input del modello linguistico di grandi dimensioni (LLM) risolto nel simulatore della console Dialogflow:

1. Fai clic sul pulsante risposta originale:

   

2. Individua il campo "Prompt di riserva generativa". Leggi questi campi come testo normale e verifica se l'input LLM ha senso. Se una frase contiene $, esamina l'input del simulatore e chiarisci se $ nelle richieste è intenzionale (ad esempio, $ in price is $10 probabilmente sarebbe intenzionale, mentre visit $city probabilmente no e potrebbe sottintendere un uso improprio o un bug). In caso di dubbi, contatta l'assistenza.

3. Se utilizzi un modello di prompt non predefinito, ma non riesci a visualizzare il campo "Prompt di riserva generativa ", contatta l'assistenza.