Confrontare i prompt

La funzionalità Confronta ti consente di vedere in che modo un prompt, un modello o un'impostazione di parametri diversi modificano l'output del modello. Puoi visualizzare ogni prompt e le relative risposte fianco a fianco per confrontarli e analizzarli nei seguenti modi:

  • Con un nuovo prompt.
  • Con un altro prompt salvato.
  • Con un dato di fatto.

Prima di iniziare

Per accedere alla funzionalità Confronta, segui questi passaggi:

  1. Nella console Google Cloud , vai alla pagina Crea prompt.

    Vai a Crea prompt

  2. Seleziona Confronta. Viene visualizzata la pagina Confronta.

Creare un prompt nella funzionalità Confronta

Nella pagina Confronta, puoi creare un prompt prima di selezionarne un altro per confrontare i risultati.

Per creare un prompt:

  1. Nel campo Nuovo prompt, inserisci il prompt.

  2. Fai clic su Invia prompt. La risposta del modello viene visualizzata sotto il testo del prompt che hai inserito.

  3. Fai clic su Salva come nuovo. Viene visualizzata una finestra di dialogo Richiesta di salvataggio.

  4. Inserisci il nome del nuovo prompt nel campo Nome prompt.

  5. Seleziona la tua regione nel campo Regione o lascia la regione predefinita.

  6. Se si applica una chiave di crittografia gestita dal cliente (CMEK), procedi nel seguente modo:

    1. Seleziona la casella di controllo Chiave di crittografia gestita dal cliente (CMEK).
    2. Seleziona una chiave dal campo Seleziona una chiave Cloud KMS.
  7. Fai clic su Salva, che salva il prompt nell'elenco dei prompt da utilizzare nella pagina Confronta il prompt salvato.

  8. Fai clic su Invia prompt per confrontare i prompt e le relative risposte.

Puoi aggiornare i prompt e salvare le versioni aggiornate come nuovi prompt.

Confronta con un nuovo prompt

Per confrontare il prompt salvato con un nuovo prompt:

  1. Fai clic su Confronta il nuovo prompt. Viene visualizzato un riquadro Confronta.
  2. (Facoltativo) Fai clic su Cambia modello per utilizzare un modello diverso da quello predefinito.
  3. (Facoltativo) Espandi Output.
  4. Output:
    1. (Facoltativo) Se vuoi che il modello generi output in un formato specifico, ad esempio JSON, fai clic sul pulsante di attivazione/disattivazione Output strutturato. Dopo aver selezionato Output strutturato, le opzioni di grounding vengono disattivate perché il grounding non è supportato con l'output strutturato.
    2. (Facoltativo) Modifica il Budget di pensiero in una delle seguenti opzioni:
      • Auto: il modello pensa solo quando è necessario. Il modello regola la quantità di tempo che dedica a pensare o analizzare una situazione in base a ciò che è necessario in quel momento.
      • Manuale: puoi modificare i token del budget di pensiero.
      • Off: non vengono utilizzati né il pensiero né i budget.
  1. (Facoltativo) Espandi Strumenti.
  2. Strumenti:
    1. Seleziona una delle seguenti opzioni:
      • Grounding: Google: grounding con la Ricerca Google o Google Maps.
      • Fondatezza: i tuoi dati: grounding con Vertex AI RAG Engine, Vertex AI Search o Elasticsearch.
        1. Se selezioni Grounding: Your data, seleziona l'origine dati che vuoi utilizzare.
  1. (Facoltativo) Espandi Avanzate:
  2. Avanzato:
    1. Seleziona Regione.
    2. Seleziona Impostazioni del filtro di sicurezza. Viene visualizzata una finestra di dialogo. Mantieni l'impostazione predefinita Off oppure specifica Blocca pochi, Blocca alcuni o Blocca la maggior parte per ciascuna delle seguenti opzioni:
      • Incitamento all'odio: commenti negativi o dannosi rivolti all'identità o agli attributi protetti.
      • Contenuti pericolosi: promuovono o consentono l'accesso a beni, servizi e attività dannosi.
      • Contenuti sessualmente espliciti: contiene riferimenti ad atti sessuali o ad altri contenuti osceni.
      • Contenuti che costituiscono molestie: commenti dannosi, intimidatori, prepotenti o illeciti rivolti a un altro individuo.
    3. Fai clic su Salva per salvare le impostazioni e chiudere la finestra di dialogo.
    4. Seleziona la temperatura dal campo Temperatura. La temperatura controlla il grado di casualità nella selezione dei token. Una temperatura più bassa è ideale quando ci si aspetta una risposta vera o corretta. Una temperatura più alta può portare a risultati diversificati o imprevisti.
    5. Seleziona il limite di token di output dal campo Limite di token di output. Il limite di token di output determina la quantità massima di output di testo da un prompt. Un token equivale a circa quattro caratteri.
    6. Seleziona il numero massimo di risposte dal campo Risposte massime. Se il numero massimo di risposte del modello generate per prompt. A causa di filtri di sicurezza o di altre norme, le risposte possono essere ancora bloccate.
    7. Seleziona un valore dal campo Top-P. Top-p cambia il modo in cui il modello seleziona i token per l'output.
    8. Fai clic sul pulsante di attivazione/disattivazione nel campo Risposte dinamiche. Se selezionata, le risposte vengono stampate man mano che vengono generate.
    9. Inserisci una sequenza di interruzioni nel campo Aggiungi sequenza di interruzioni. Premi Invio dopo ogni sequenza.
  1. Fai clic su Salva per salvare le modifiche alle impostazioni.
  2. Fai clic su Applica.
  3. Fai clic su Invia prompt per confrontare i prompt e le relative risposte.

Per ulteriori informazioni sui limiti di token per ciascun modello, consulta Controllare il budget di pensiero.

Confronta con un altro prompt salvato

Per confrontare il prompt salvato con un altro prompt salvato:

  1. Fai clic su Confronta il prompt salvato. Viene visualizzato il riquadro Prompt esistente.
  2. Scegli fino a due prompt esistenti da confrontare.

    1. Seleziona un nome prompt. Se nell'elenco sono presenti molti prompt, fai clic nel campo Filtro e seleziona la proprietà in base alla quale filtrare. Inserisci un valore e premi Invio.
    2. Fai clic su Applica. La pagina Confronta mostra il prompt che hai selezionato insieme ad altri prompt che hai creato o selezionato per il confronto.
  3. Fai clic su Invia prompt per confrontare i prompt e le relative risposte.

Confrontare con i dati di riferimento

La risposta basata su dati di fatto è la risposta preferita al prompt. Tutte le altre risposte del modello vengono valutate rispetto alla risposta basata su dati di fatto.

Per confrontare il prompt salvato con una verità di riferimento:

  1. Fai clic su Verità di riferimento. Viene visualizzato il riquadro Verità di riferimento.
  2. Inserisci i dati di riferimento per generare altre metriche di valutazione.
  3. Fai clic su Salva per salvare la verità di riferimento.
  4. Fai clic su Invia prompt per confrontare i prompt e le relative risposte.

Le metriche di valutazione generate quando confronti un prompt con un dato di fatto non sono influenzate dalla regione selezionata.

Passaggi successivi