Generare risposte fondate con RAG

Importante: la generazione di risposte basate su dati è disponibile per alcuni clienti Google Cloud. Per scoprire di più o registrarti per utilizzare questa funzionalità, contatta il tuo rappresentante di vendita Google Cloud.

Nell'ambito della tua esperienza di Retrieval Augmented Generation (RAG) in Vertex AI Agent Builder, puoi generare risposte basate su fatti ai prompt in base alle seguenti fonti di grounding:

• Ricerca Google: utilizza il grounding con la Ricerca Google se vuoi collegare il modello alle conoscenze del mondo, a un'ampia gamma di argomenti o a informazioni aggiornate su internet. La funzionalità di grounding con la Ricerca Google supporta il recupero dinamico che ti consente di generare Risultati fondati con la Ricerca Google solo quando necessario. Pertanto, la configurazione del recupero dinamico valuta se un prompt richiede la conoscenza di eventi recenti e attiva il grounding con la Ricerca Google. Per ulteriori informazioni, consulta la sezione Ricerca dinamica.
  Importante: se ricevi suggerimenti della Ricerca Google con una risposta, questa risposta è un "Risultato fondato" soggetto ai termini di Grounding con la Ricerca Google nella sezione Termini del servizio dei Termini specifici del servizio. Per utilizzare i suggerimenti della Ricerca Google, consulta Utilizzare i suggerimenti della Ricerca Google.
• Testo in linea: utilizza la definizione del contesto con il testo in linea per basare la risposta su frammenti di testo chiamati testo di fatto forniti nella richiesta. Un testo fattuale è un'affermazione fornita dall'utente che viene considerata fattuale per una determinata richiesta. Il modello non verifica l'autenticità del testo del fatto.
• Data store Vertex AI Search: utilizza il grounding con Vertex AI Search se vuoi collegare il modello ai documenti aziendali dai datastore Vertex AI Search.

Questa pagina descrive come generare risposte basate su queste fonti di riferimento utilizzando i seguenti approcci:

• Generazione di risposte in un solo passaggio

  • Testo in linea e data store di Vertex AI Search
  • Ricerca Google

• Generazione di risposte con più turni

Inoltre, puoi scegliere di riprodurre in streaming le risposte del modello. La generazione di una risposta basata su dati attendibili tramite streaming è una funzionalità sperimentale.

Puoi utilizzare altri metodi per generare risposte fondate, in base alle tue esigenze. Per saperne di più, consulta API Vertex AI per la creazione di esperienze di ricerca e RAG.

Terminologia

Prima di utilizzare il metodo di generazione di risposte basate su dati, è utile comprendere gli input e gli output, come strutturare la richiesta e la terminologia relativa alla RAG.

Termini RAG

La RAG è una metodologia che consente ai modelli linguistici di grandi dimensioni (LLM) di generare risposte basate sull'origine dati che preferisci. Il RAG prevede due fasi:

1. Rievocazione: trovare rapidamente i fatti più pertinenti può essere un problema comune della ricerca. Con la RAG, puoi recuperare rapidamente i fatti importanti per generare una risposta.
2. Generare: i fatti recuperati vengono utilizzati dall'LLM per generare una risposta fondata.

Pertanto, il metodo di generazione di risposte fondate recupera i fatti dalla fonte di grounding e genera una risposta fondata.

Dati di input

Il metodo di generazione di risposte basate sui dati richiede i seguenti input nella richiesta:

• Ruolo: il mittente di un determinato testo che può essere un utente (user) o un modello (model).

• Testo: quando il ruolo è user, il testo è un prompt e quando il ruolo è model, il testo è una risposta basata su dati. La modalità di specifica del ruolo e del testo in una richiesta è determinata come segue:

  • Per la generazione di una risposta con un solo turno, l'utente invia il testo del prompt nella richiesta e il modello invia il testo della risposta nella risposta.
  • Per la generazione di una risposta con più turni, la richiesta contiene la coppia prompt-risposta per tutti i turni precedenti e il testo del prompt dell'utente per il turno corrente. Pertanto, in una richiesta di questo tipo, il ruolo è user per il testo del prompt ed è model per il testo della risposta.

• Istruzioni di sistema: un preambolo al prompt che regola il comportamento del modello e modifica di conseguenza l'output. Ad esempio, puoi aggiungere una persona alla risposta generata o chiedere al modello di formattare il testo di output in un determinato modo. Per la generazione di risposte con più turni, devi fornire al sistema le istruzioni per ogni turno. Per ulteriori informazioni, consulta Utilizzare le istruzioni di sistema.

• Origine di grounding: la fonte su cui si basa la risposta e che può essere una o più delle seguenti:

  • Ricerca Google: fonda le risposte sui risultati della Ricerca Google. Quando l'origine di ancoraggio è la Ricerca Google, puoi specificare una configurazione di recupero dinamico con una soglia di recupero dinamico. Per ulteriori informazioni, consulta la sezione Ricerca dinamica.

    Importante: se ricevi suggerimenti della Ricerca Google con una risposta, questa risposta è un "Risultato fondato" soggetto ai termini di Grounding con la Ricerca Google nella sezione Termini del servizio dei Termini specifici del servizio. Per utilizzare i suggerimenti della Ricerca Google, consulta Utilizzare i suggerimenti della Ricerca Google.

  • Testo in linea: basa la risposta sul testo fattuale fornito nella richiesta. Un testo fattuale è un'affermazione fornita dall'utente che viene considerata fattuale per una determinata richiesta. Il modello non verifica l'autenticità del testo del fatto. Puoi fornire un massimo di 100 testi di fatti in ogni fonte di testo in linea. I testi dei fatti possono essere supportati utilizzando attributi meta, come titolo, autore e URI. Questi attributi meta vengono restituiti nella risposta quando vengono citati i chunk che supportano la risposta.

  • Data store di Vertex AI Search: basa la risposta sui documenti nei datastore di Vertex AI Search. Non puoi specificare un datastore di ricerca sul sito web come origine di riferimento.

  In una determinata richiesta, puoi fornire sia un'origine di testo in linea sia un'origine del datastore di Vertex AI Search. Non puoi combinare la Ricerca Google con nessuna di queste origini. Pertanto, se vuoi basare le tue risposte sui risultati della Ricerca Google, devi inviare una richiesta distinta specificando la Ricerca Google come unica fonte di riferimento.

  Puoi fornire un massimo di 10 origini di messa a terra in qualsiasi ordine. Ad esempio, supponi di fornire le sorgenti di messa a terra con il seguente conteggio, nell'ordine seguente per ottenere un totale di 10 sorgenti di messa a terra:

  • Tre origini di testo in linea, ciascuna delle quali può contenere un massimo di 100 testi informativi
  • Sei datastore di Vertex AI Search
  • Un'origine di testo in linea contenente un massimo di 100 testi informativi

  A ogni origine viene assegnato un indice nell'ordine in cui è specificato nella richiesta. Ad esempio, se hai specificato una combinazione di origini nella richiesta, l'indice di origine viene assegnato come illustrato nella tabella seguente:

  Origine di grounding	Indice
  Testo in linea 1	0
  Testo in linea 2	1
  Vertex AI Search datastore 1	2
  Testo in linea 3	3
  Datastore Vertex AI Search 2	4

  Questo indice è riportato nella risposta ed è utile per risalire alla provenienza.

• Specifiche di generazione: le specifiche per la configurazione del modello che consiste nelle seguenti informazioni:

  • ID modello: specifica il modello Vertex AI Gemini da utilizzare per la generazione di risposte. Per un elenco dei modelli che puoi utilizzare per generare risposte basate su dati, consulta Modelli supportati.

  • Parametri del modello: specifica i parametri che puoi impostare per il modello scelto. Questi parametri sono: lingua, temperatura, top-P e top-K. Per informazioni dettagliate su questi parametri, consulta Parametri del modello Gemini.

• Codice lingua: la lingua della risposta generata è generalmente impostata in modo da corrispondere alla lingua del prompt. Se il prompt non è in una sola lingua (ad esempio, se è molto breve e può essere valido in più lingue), il campo del codice lingua determina la lingua della risposta.

  Per un elenco dei codici lingua, consulta Lingue.

• Latitudine e longitudine: specifica la latitudine e la longitudine dell'utente. Se la query contiene domande specifiche per località, ad esempio "Trova un bar nelle vicinanze", vengono utilizzati questi campi. Se non è possibile determinare la lingua della query e il codice lingua non è impostato, vengono utilizzate la latitudine e la longitudine per determinare la lingua della risposta.

Dati di output

La risposta generata dal modello è chiamata candidato e contiene i seguenti dati. Non tutti i campi potrebbero essere presenti nell'output.

• Ruolo: il mittente della risposta basata su fatti. La risposta contiene sempre il testo della risposta basata su fatti. Pertanto, il ruolo in una risposta è sempre un modello.

• Testo: una risposta basata su dati.

• Punteggio di fondamento: un valore float nell'intervallo [0, 1] che indica l'attendibilità di una risposta nelle fonti indicate.

• Metadati di messa a terra: metadati relativi all'origine di messa a terra. I metadati di ancoraggio contengono le seguenti informazioni:

  • Chunk di supporto: un elenco di chunk che supportano la risposta. A ogni frammento di supporto viene assegnato un indice utile per risalire alla provenienza. Ogni chunk di supporto contiene quanto segue:

    • Testo del blocco: una parte di testo citata testualmente dalla fonte da cui viene estratta la risposta o una parte della risposta (chiamata testo della rivendicazione). Questo valore potrebbe non essere sempre presente nella risposta.
    • Origine: un indice assegnato all'origine nella richiesta.

    • Metadati di origine: metadati relativi al chunk. A seconda dell'origine, i metadati dell'origine possono essere uno dei seguenti:

      • Per un'origine in linea, i metadati possono essere i dettagli aggiuntivi specificati nella richiesta, come titolo, autore o URI.
      • Per l'datastore di Vertex AI Search, i metadati possono essere l'ID del documento, il titolo del documento, l'URI (posizione Cloud Storage) o il numero di pagina.
      • Per il grounding con la Ricerca Google, quando viene generato un risultato basato su dati, i metadati contengono un URI che reindirizza al publisher dei contenuti utilizzati per generare il risultato basato su dati. I metadati contengono anche il dominio dell'editore. Gli URI forniti rimangono accessibili per un massimo di 30 giorni dopo la generazione del risultato basato su dati.
      Importante: all'URI fornito deve essere possibile accedere direttamente dagli utenti finali e non deve essere sottoposto a query in modo programmatico tramite mezzi automatici. Se viene rilevato l'accesso automatico, il servizio di ancoraggio con la Ricerca Google potrebbe interrompere la fornitura degli URI di reindirizzamento. Per riavviare gli URI di reindirizzamento, contatta il tuo Customer Engineer.

  • Supporto per l'approfondimento: informazioni di approfondimento per una rivendicazione nella risposta. Il supporto di messa a terra contiene le seguenti informazioni:

    • Testo della rivendicazione: la risposta o una parte della risposta supportata con il testo del chunk di supporto.
    • Indice del chunk di supporto: un indice assegnato al chunk di supporto nell'ordine in cui il chunk viene visualizzato nell'elenco dei chunk di supporto.
    • Query di ricerca web: le query di ricerca suggerite per i suggerimenti della Ricerca Google.
    • Suggerimenti di ricerca: se ricevi i suggerimenti di ricerca di Google con una risposta, questa risposta è un "Risultato fondato" soggetto ai termini di servizio per il grounding con la Ricerca Google. Per ulteriori informazioni, consulta i Termini di servizio . Il campo renderedContent all'interno del campo searchEntryPoint è il codice fornito per l'implementazione dei suggerimenti della Ricerca Google. Per usare i suggerimenti della Ricerca Google, consulta l'articolo Utilizzare i suggerimenti della Ricerca Google.

Generare una risposta basata su dati in un solo turno

Questa sezione descrive come generare risposte basate sulle seguenti fonti:

• Testo in linea e data store di Vertex AI Search
• Ricerca Google

Basarla sul testo in linea e sul datastore di Vertex AI Search

L'esempio seguente mostra come inviare il testo del prompt specificando un testo in linea e un datastore di Vertex AI Search come origine del grounding. Non puoi specificare un datastore di ricerca del sito web come origine di riferimento. Questo esempio utilizza il metodo generateGroundedContent.

REST

1. Invia il prompt nella seguente richiesta curl.

   curl -X POST \
   -H "Authorization: Bearer $(gcloud auth print-access-token)" \
   -H "Content-Type: application/json" \
   "https://discoveryengine.googleapis.com/v1/projects/PROJECT_NUMBER/locations/global:generateGroundedContent" \
   -d '
   {
   "contents": [
    {
      "role": "user",
      "parts": [
        {
          "text": "PROMPT_TEXT"
        }
      ]
    }
   ],
   "systemInstruction": {
      "parts": {
          "text": "SYSTEM_INSTRUCTION"
      }
   },
   "groundingSpec": {
    "groundingSources": [
      {
        "inlineSource": {
          "groundingFacts": [
            {
              "factText": "FACT_TEXT_1",
              "attributes": {
                "title": "TITLE_1",
                "uri": "URI_1",
                "author": "AUTHOR_1"
              }
            }
          ]
        }
      },
      {
        "inlineSource": {
          "groundingFacts": [
            {
              "factText": "FACT_TEXT_2",
              "attributes": {
                "title": "TITLE_2",
                "uri": "URI_2"
              }
            },
            {
              "factText": "FACT_TEXT_3",
              "attributes": {
                "title": "TITLE_3",
                "uri": "URI_3"
              }
            }
          ]
        }
      },
      {
        "searchSource": {
          "servingConfig": "projects/PROJECT_NUMBER/locations/global/collections/default_collection/engines/APP_ID_1/servingConfigs/default_search"
        }
      },
      {
        "searchSource": {
          "servingConfig": "projects/PROJECT_NUMBER/locations/global/collections/default_collection/engines/APP_ID_2/servingConfigs/default_search"
        }
      }
     ]
   },
   "generationSpec": {
     "modelId": "MODEL_ID",
     "temperature": TEMPERATURE,
     "topP": TOP_P,
     "topK": TOP_K
   },
   "user_context": {
     "languageCode: "LANGUAGE_CODE",
     "latLng": {
       "latitude": LATITUDE,
       "longitude": LONGITUDE
    },
   }
   }'
   

   Sostituisci quanto segue:

   • PROJECT_NUMBER: il numero del tuo progetto Google Cloud.
   • PROMPT_TEXT: il prompt dell'utente.
   • SYSTEM_INSTRUCTION: un campo facoltativo per fornire un preambolo o un contesto aggiuntivo.
   • FACT_TEXT_N: il testo in linea che fornisce le basi della risposta. Puoi fornire un massimo di 100 testi informativi.
   • TITLE_N: un campo facoltativo per impostare l'attributo meta title per il testo in linea.
   • URI_N: un campo facoltativo per impostare l'attributo meta URI per il testo in linea.
   • AUTHOR_N: un campo facoltativo per impostare l'attributo meta autore per il testo in linea.
   • APP_ID_N: l'ID dell'app Vertex AI Search.
   • MODEL_ID: un campo facoltativo per impostare l'ID del modello Gemini che vuoi utilizzare per generare la risposta basata su dati. Per un elenco degli ID modello disponibili, consulta Modelli supportati.
   • TEMPERATURE: un campo facoltativo per impostare la temperatura utilizzata per il campionamento. Google consiglia una temperatura di 0,0 °C. Per ulteriori informazioni, consulta i parametri del modello Gemini.
   • TOP_P: un campo facoltativo per impostare il valore P superiore per il modello. Per ulteriori informazioni, consulta i parametri del modello Gemini.
   • TOP_K: un campo facoltativo per impostare il valore top-K per il modello. Per ulteriori informazioni, consulta i parametri del modello Gemini.
   • LANGUAGE_CODE: un campo facoltativo che può essere utilizzato per impostare la lingua della risposta generata e del testo del chunk restituito. Se non è possibile determinare la lingua dalla query, viene utilizzato questo campo. Il valore predefinito è en. Per un elenco dei codici lingua, consulta Lingue.
   • LATITUDE: un campo facoltativo per impostare la latitudine. Inserisci il valore in gradi decimali, ad esempio -25.34.
   • LONGITUDE: un campo facoltativo per impostare la longitudine. Inserisci il valore in gradi decimali, ad esempio 131.04.

   Risposta

   Dovresti ricevere una risposta JSON simile alla seguente risposta troncata. Per comprendere la risposta, consulta Dati di output.

   {
    "candidates": [
      {
        "content": {
          "role": "model",
          "parts": [
            {
              "text": "ANSWER_TEXT"
            }
          ]
        },
        "groundingScore": GROUNDING_SCORE,
        "groundingMetadata": {
          "supportChunks": [
            {
              "chunkText": "CHUNK_TEXT_FROM_A_DOCUMENT_IN_A_DATA_STORE ",
              "source": "4",
              "sourceMetadata": {
                "title": "DOCUMENT_TITLE",
                "uri": "gs://PATH/TO/DOCUMENT.pdf",
                "document_id": "DOCUMENT_ID",
                "page_identifier": "PAGE_NUMBER"
              }
            },
            {
              "chunkText": "CHUNK_TEXT_FROM_FACT_TEXT_1",
              "source": "0",
              "sourceMetadata": {
                "title": "TITLE_1",
                "uri": "URI_1",
                "author": "AUTHOR_1"
              }
            }
          ],
          "groundingSupport": [
            {
              "claimText": "CLAIM_TEXT_1",
              "supportChunkIndices": [
                0,
                1
              ]
            }
          ]
        }
      }
    ]
   }
   

Python

from google.cloud import discoveryengine_v1 as discoveryengine

# TODO(developer): Uncomment these variables before running the sample.
# project_number = "YOUR_PROJECT_NUMBER"
# engine_id = "YOUR_ENGINE_ID"

client = discoveryengine.GroundedGenerationServiceClient()

request = discoveryengine.GenerateGroundedContentRequest(
    # The full resource name of the location.
    # Format: projects/{project_number}/locations/{location}
    location=client.common_location_path(project=project_number, location="global"),
    generation_spec=discoveryengine.GenerateGroundedContentRequest.GenerationSpec(
        model_id="gemini-1.5-flash",
    ),
    # Conversation between user and model
    contents=[
        discoveryengine.GroundedGenerationContent(
            role="user",
            parts=[
                discoveryengine.GroundedGenerationContent.Part(
                    text="How did Google do in 2020? Where can I find BigQuery docs?"
                )
            ],
        )
    ],
    system_instruction=discoveryengine.GroundedGenerationContent(
        parts=[
            discoveryengine.GroundedGenerationContent.Part(
                text="Add a smiley emoji after the answer."
            )
        ],
    ),
    # What to ground on.
    grounding_spec=discoveryengine.GenerateGroundedContentRequest.GroundingSpec(
        grounding_sources=[
            discoveryengine.GenerateGroundedContentRequest.GroundingSource(
                inline_source=discoveryengine.GenerateGroundedContentRequest.GroundingSource.InlineSource(
                    grounding_facts=[
                        discoveryengine.GroundingFact(
                            fact_text=(
                                "The BigQuery documentation can be found at https://cloud.google.com/bigquery/docs/introduction"
                            ),
                            attributes={
                                "title": "BigQuery Overview",
                                "uri": "https://cloud.google.com/bigquery/docs/introduction",
                            },
                        ),
                    ]
                ),
            ),
            discoveryengine.GenerateGroundedContentRequest.GroundingSource(
                search_source=discoveryengine.GenerateGroundedContentRequest.GroundingSource.SearchSource(
                    # The full resource name of the serving config for a Vertex AI Search App
                    serving_config=f"projects/{project_number}/locations/global/collections/default_collection/engines/{engine_id}/servingConfigs/default_search",
                ),
            ),
        ]
    ),
)
response = client.generate_grounded_content(request)

# Handle the response
print(response)

Esempio di generazione di risposte a una sola volta basata sul testo in linea e su Vertex AI Search

Nell'esempio seguente, la richiesta specifica le seguenti fonti di grounding: un fatto di testo in linea e un datastore di Vertex AI Search. Questo esempio utilizza il metodo generateGroundedContent. Questo esempio utilizza anche un'istruzione di sistema per terminare la risposta con un'emoji smiley.

Nota: la risposta generata nella risposta potrebbe variare e potrebbe non contenere citazioni di tutte le fonti di fondamento specificate.

REST

curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://discoveryengine.googleapis.com/v1/projects/123456/locations/global:generateGroundedContent" \
-d '
{
  "contents": [
    {
      "role": "user",
      "parts": [
        {
          "text": "How did google do in 2020? Where can I find Bigquery docs?"
        }
      ]
    }
  ],
  "systemInstruction": {
      "parts": {
          "text": "Add a smiley emoji after the answer."
      }
  },
  "groundingSpec": {
    "groundingSources": [
      {
        "inline_source": {
          "grounding_facts": [
            {
              "fact_text": "The BigQuery documentation can be found at https://cloud.google.com/bigquery/docs/introduction",
              "attributes": {
                "title": "BigQuery Overview",
                "uri": "https://cloud.google.com/bigquery/docs/introduction"
              }
            }
          ]
        }
      },
      {
        "searchSource": {
          "servingConfig": "projects/123456/locations/global/collections/default_collection/engines/app_id_example/servingConfigs/default_search"
        }
      }
    ]
  },
  "generationSpec": {
    "modelId": "gemini-1.5-flash"
  },
  "user_context": {
    "languageCode: "en",
    "latLng": {
       "latitude": 37.422131,
       "longitude": -122.084801
    }
  }
}'

Risposta

Dovresti ricevere una risposta JSON simile alla seguente risposta troncata. Per comprendere la risposta, consulta Dati di output.

{
 "candidates": [
   {
     "content": {
       "role": "model",
       "parts": [
         {
           "text": "Google's revenue increased by 23% in 2020, reaching $182.5 billion. Google Cloud revenue was $13.1 billion for 2020. You can find BigQuery documentation at https://cloud.google.com/bigquery/docs/introduction. 😊 \n"
         }
       ]
     },
     "groundingScore": 0.86738646,
     "groundingMetadata": {
       "supportChunks": [
         {
           "chunkText": "Alphabet Announces Fourth Quarter and Fiscal Year 2020 Results\nMOUNTAIN VIEW, Calif. – February 2, 2021 – Alphabet Inc. (NASDAQ: GOOG, GOOGL) today announced\nfinancial results for the quarter and fiscal year ended December 31, 2020. Sundar Pichai, CEO of Google and Alphabet, said: “Our strong results this quarter reflect the helpfulness of our\nproducts and services to people and businesses, as well as the accelerating transition to online services and the\ncloud. Google succeeds when we help our customers and partners succeed, and we see significant opportunities to\nforge meaningful partnerships as businesses increasingly look to a digital future.” Ruth Porat, CFO of Google and Alphabet, said: “Our strong fourth quarter performance, with revenues of $56.9\nbillion, was driven by Search and YouTube, as consumer and business activity recovered from earlier in the year. Google Cloud revenues were $13.1 billion for 2020, with significant ongoing momentum, and we remain focused on\ndelivering value across the growth opportunities we see.” New reporting segment structure and operating results\nWe are now reporting results for three segments: Google Services, Google Cloud, and Other Bets. \n...\nIn 2020, we entered into derivatives that hedged the changes in fair value of certain marketable equity securities, which\nresulted in a $497 million net loss for the quarter ended December 31, 2020. The offsetting recognized gains on the\nmarketable equity securities are reflected in Gain (loss) on equity securities, net. Segment results\nThe following table presents our revenues and operating income (loss) (in millions; unaudited): Quarter Fiscal Year Q4 2019 Q1 2020 Q2 2020 Q3 2020 Q4 2020 2018 2019 2020 Revenues:\nGoogle Services $ 43,198 $ 38,198 $ 34,991 $ 42,573 $ 52,873 $ 130,524 $ 151,825 $ 168,635 Google Cloud 2,614 2,777 3,007 3,444 3,831 5,838 8,918 13,059 Other Bets 172 135 148 178 196 595 659 657 Hedging gains (losses) 91 49 151 (22) (2) (138) 455 176 Total revenues $ 46,075 $ 41,159 $ 38,297 $ 46,173 $ 56,898 $ 136,819 $ 161,857 $ 182,527 Quarter Fiscal Year Q4 2019 Q1 2020 Q2 2020 Q3 2020 Q4 2020 2018 2019 2020 Operating income (loss):\nGoogle Services $ 13,488 $ 11,548 $ 9,539 $ 14,453 $ 19,066 $ 43,137 $ 48,999 $ 54,606 Google Cloud (1,194) (1,730) (1,426) (1,208) (1,243) (4,348) (4,645) (5,607) Other Bets (2,026) (1,121) (1,116) (1,103) (1,136) \n...\nQ4 2020 financial highlights\nThe following table summarizes our consolidated financial results for the quarters ended December 31, 2019 and\n2020 (in millions, except for per share information and percentages; unaudited). Quarter Ended December 31,\n2019 2020 Revenues $ 46,075 $ 56,898 Increase in revenues year over year 17 % 23 % Increase in constant currency revenues year over year(1) 19 % 23 % Operating income $ 9,266 $ 15,651 Operating margin 20 % 28 % Other income (expense), net $ 1,438 $ 3,038 Net income $ 10,671 $ 15,227 Diluted EPS $ 15.35 $ 22.30 (1) Non-GAAP measure. See the table captioned “Reconciliation from GAAP revenues to non-GAAP constant currency\nrevenues” for more details. Q4 2020 supplemental information (in millions, except for number of employees; unaudited)\nRevenues, Traffic Acquisition Costs (TAC) and number of employees\nThe following table summarizes our revenues, total TAC and number of employees. Quarter Ended December 31,\n2019 2020 Google Search & other $ 27,185 $ 31,903 YouTube ads 4,717 6,885 Google Network Members' properties 6,032 7,411 Google advertising 37,934 46,199 Google other 5,264 6,674 Google Services total 43,198 52,873 Google Cloud 2,614 3,831 Other Bets 172 196 Hedging gains (losses) 91 (2) Total revenues $ 46,075 $ 56,898 Total TAC $ 8,501 $ 10,466 Number of employees 118,899 135,301 ",
           "source": "1",
           "sourceMetadata": {
             "title": "GOOG Exhibit 99.1 Q4'20",
             "page_identifier": "2",
             "uri": "gs://cloud-samples-data/gen-app-builder/search/alphabet-investor-pdfs/2020Q4_alphabet_earnings_release.pdf",
             "document_id": "projects/123456/locations/global/collections/default_collection/dataStores/data_store_id_example/branches/0/documents/217e8bedecfe08e3c43f5b289af15243"
           }
         },
         {
           "chunkText": "Alphabet Announces Fourth Quarter and Fiscal Year 2020 Results\nMOUNTAIN VIEW, Calif. – February 2, 2021 – Alphabet Inc. (NASDAQ: GOOG, GOOGL) today announced\nfinancial results for the quarter and fiscal year ended December 31, 2020. Sundar Pichai, CEO of Google and Alphabet, said: “Our strong results this quarter reflect the helpfulness of our\nproducts and services to people and businesses, as well as the accelerating transition to online services and the\ncloud. Google succeeds when we help our customers and partners succeed, and we see significant opportunities to\nforge meaningful partnerships as businesses increasingly look to a digital future.” Ruth Porat, CFO of Google and Alphabet, said: “Our strong fourth quarter performance, with revenues of $56.9\nbillion, was driven by Search and YouTube, as consumer and business activity recovered from earlier in the year. Google Cloud revenues were $13.1 billion for 2020, with significant ongoing momentum, and we remain focused on\ndelivering value across the growth opportunities we see.” New reporting segment structure and operating results\nWe are now reporting results for three segments: Google Services, Google Cloud, and Other Bets. \n...\nIn 2020, we entered into derivatives that hedged the changes in fair value of certain marketable equity securities, which\nresulted in a $497 million net loss for the quarter ended December 31, 2020. The offsetting recognized gains on the\nmarketable equity securities are reflected in Gain (loss) on equity securities, net. Segment results\nThe following table presents our revenues and operating income (loss) (in millions; unaudited): Quarter Fiscal Year Q4 2019 Q1 2020 Q2 2020 Q3 2020 Q4 2020 2018 2019 2020 Revenues:\nGoogle Services $ 43,198 $ 38,198 $ 34,991 $ 42,573 $ 52,873 $ 130,524 $ 151,825 $ 168,635 Google Cloud 2,614 2,777 3,007 3,444 3,831 5,838 8,918 13,059 Other Bets 172 135 148 178 196 595 659 657 Hedging gains (losses) 91 49 151 (22) (2) (138) 455 176 Total revenues $ 46,075 $ 41,159 $ 38,297 $ 46,173 $ 56,898 $ 136,819 $ 161,857 $ 182,527 Quarter Fiscal Year Q4 2019 Q1 2020 Q2 2020 Q3 2020 Q4 2020 2018 2019 2020 Operating income (loss):\nGoogle Services $ 13,488 $ 11,548 $ 9,539 $ 14,453 $ 19,066 $ 43,137 $ 48,999 $ 54,606 Google Cloud (1,194) (1,730) (1,426) (1,208) (1,243) (4,348) (4,645) (5,607) Other Bets (2,026) (1,121) (1,116) (1,103) (1,136) \n...\nQ4 2020 financial highlights\nThe following table summarizes our consolidated financial results for the quarters ended December 31, 2019 and\n2020 (in millions, except for per share information and percentages; unaudited). Quarter Ended December 31,\n2019 2020 Revenues $ 46,075 $ 56,898 Increase in revenues year over year 17 % 23 % Increase in constant currency revenues year over year(1) 19 % 23 % Operating income $ 9,266 $ 15,651 Operating margin 20 % 28 % Other income (expense), net $ 1,438 $ 3,038 Net income $ 10,671 $ 15,227 Diluted EPS $ 15.35 $ 22.30 (1) Non-GAAP measure. See the table captioned “Reconciliation from GAAP revenues to non-GAAP constant currency\nrevenues” for more details. Q4 2020 supplemental information (in millions, except for number of employees; unaudited)\nRevenues, Traffic Acquisition Costs (TAC) and number of employees\nThe following table summarizes our revenues, total TAC and number of employees. Quarter Ended December 31,\n2019 2020 Google Search & other $ 27,185 $ 31,903 YouTube ads 4,717 6,885 Google Network Members' properties 6,032 7,411 Google advertising 37,934 46,199 Google other 5,264 6,674 Google Services total 43,198 52,873 Google Cloud 2,614 3,831 Other Bets 172 196 Hedging gains (losses) 91 (2) Total revenues $ 46,075 $ 56,898 Total TAC $ 8,501 $ 10,466 Number of employees 118,899 135,301 ",
           "source": "1",
           "sourceMetadata": {
             "document_id": "projects/123456/locations/global/collections/default_collection/dataStores/data_store_id_example/branches/0/documents/217e8bedecfe08e3c43f5b289af15243",
             "page_identifier": "2",
             "title": "GOOG Exhibit 99.1 Q4'20",
             "uri": "gs://cloud-samples-data/gen-app-builder/search/alphabet-investor-pdfs/2020Q4_alphabet_earnings_release.pdf"
           }
         },
         {
           "chunkText": "The BigQuery documentation can be found at https://cloud.google.com/bigquery/docs/introduction ",
           "source": "0",
           "sourceMetadata": {
             "uri": "https://cloud.google.com/bigquery/docs/introduction",
             "title": "BigQuery Overview"
           }
         }
       ],
       "groundingSupport": [
         {
           "claimText": "Google's revenue increased by 23% in 2020, reaching $182.5 billion.",
           "supportChunkIndices": [
             0
           ]
         },
         {
           "claimText": "Google Cloud revenue was $13.1 billion for 2020.",
           "supportChunkIndices": [
             1
           ]
         },
         {
           "claimText": "You can find BigQuery documentation at https://cloud.google.com/bigquery/docs/introduction.😊 ",
           "supportChunkIndices": [
             2
           ]
         }
       ]
     }
   }
 ]
}

Generare una risposta basata su fatti con la Ricerca Google

Puoi basare le risposte generate sui dati web disponibili pubblicamente.

Importante: se ricevi suggerimenti della Ricerca Google con una risposta, questa risposta è un "Risultato fondato" soggetto ai termini di Grounding con la Ricerca Google nella sezione Termini del servizio dei Termini specifici del servizio. Per utilizzare i suggerimenti della Ricerca Google, consulta Utilizzare i suggerimenti della Ricerca Google.

Nota per i publisher web: l'aggiornamento con la Ricerca Google su Vertex AI non utilizza pagine web per l'aggiornamento che hanno vietato Google-Extended. I publisher web possono gestire l'inclusione in Google-Extended con un file robots.txt.

Recupero dinamico

Puoi utilizzare il recupero dinamico nella tua richiesta per scegliere quando disattivare il grounding con la Ricerca Google. Questa opzione è utile quando il prompt non richiede una risposta basata sulla Ricerca Google e i modelli supportati possono fornire una risposta in base alle loro conoscenze senza alcuna base. In questo modo puoi gestire la latenza, la qualità e il costo in modo più efficace.

Punteggio e soglia di previsione del recupero dinamico

Quando invii una richiesta per generare una risposta basata su dati, Vertex AI Agent Builder assegna un punteggio di previsione al prompt. Il punteggio di previsione è un valore con virgola mobile nell'intervallo [0,1]. Il suo valore dipende dal fatto che il prompt possa trarre vantaggio dalla fondazione della risposta con le informazioni più aggiornate della Ricerca Google. Pertanto, un prompt che richiede una risposta basata sui fatti più recenti sul web ha un punteggio di previsione più alto, mentre un prompt per il quale è sufficiente una risposta generata da un modello ha un punteggio di previsione più basso.

Ecco alcuni esempi di prompt e i relativi punteggi di previsione.

Nota: i punteggi di previsione vengono assegnati da Vertex AI Agent Builder e possono variare nel tempo a seconda di diversi fattori.

Prompt	Punteggio di previsione	Commento
"Scrivi una poesia sulle peonie"	0,13	Il modello può fare affidamento sulle sue conoscenze e la risposta non richiede grounding
"Consigliami un giocattolo per un bambino di 2 anni"	0,36	Il modello può fare affidamento sulle sue conoscenze e la risposta non richiede grounding
"Puoi darmi la ricetta di un guacamole di ispirazione asiatica?"	0,55	La Ricerca Google può dare una risposta basata su dati, ma il grounding non è strettamente necessario; le conoscenze del modello potrebbero essere sufficienti
"Che cos'è Agent Builder? Come viene addebitato il grounding in Agent Builder?"	0,72	Richiede che la Ricerca Google generi una risposta ben fondata
"Chi ha vinto l'ultimo Gran Premio di Formula 1?"	0,97	Richiede che la Ricerca Google generi una risposta ben fondata

Nella richiesta di generazione di risposte basate su fatti, puoi specificare una configurazione di recupero dinamico con una soglia. La soglia è un valore a virgola mobile nell'intervallo [0,1] e il valore predefinito è 0,7. Se il valore della soglia è zero, la risposta si basa sempre sulla Ricerca Google. Per tutti gli altri valori di soglia, si applica quanto segue:

• Se il punteggio di previsione è maggiore o uguale alla soglia, la risposta si basa sulla Ricerca Google. Una soglia più bassa implica che più prompt hanno risposte generate utilizzando il Grounding con la Ricerca Google.
• Se il punteggio di previsione è inferiore alla soglia, il modello potrebbe comunque generare la risposta, ma non è basato sulla Ricerca Google.

Per trovare una soglia adatta alle esigenze della tua attività, puoi creare un insieme rappresentativo di query che prevedi di trovare. Poi, puoi ordinare le query in base al punteggio di previsione nella risposta e selezionare una soglia adatta al tuo caso d'uso.

Basarla sulla Ricerca Google

L'esempio seguente mostra come generare una risposta basata su dati da un prompt specificando la Ricerca Google come origine della base. Questo esempio utilizza il metodo generateGroundedContent.

REST

1. Invia il prompt nella seguente richiesta curl.

   curl -X POST \
   -H "Authorization: Bearer $(gcloud auth print-access-token)" \
   -H "Content-Type: application/json" \
   "https://discoveryengine.googleapis.com/v1/projects/PROJECT_NUMBER/locations/global:generateGroundedContent" \
   -d '
   {
   "contents": [
    {
      "role": "user",
      "parts": [
        {
          "text": "PROMPT_TEXT"
        }
      ]
    }
   ],
   "systemInstruction": {
      "parts": {
          "text": "SYSTEM_INSTRUCTION"
      }
   },
   "groundingSpec": {
    "groundingSources": [
    {
        "googleSearchSource": {
             "dynamicRetrievalConfig": {
                 "predictor":{
                     "threshold": DYNAMIC_RETRIEVAL_THRESHOLD
                 }
             }
        }
    }
   ]
   },
   "generationSpec": {
    "modelId": "MODEL_ID",
    "temperature": TEMPERATURE,
    "topP": TOP_P,
    "topK": TOP_K
   },
   "user_context": {
    "languageCode: "LANGUAGE_CODE",
    "latLng": {
      "latitude": LATITUDE,
      "longitude": LONGITUDE
    },
   }
   }'
   

   Sostituisci quanto segue:

   • PROJECT_NUMBER: il numero del tuo progetto Google Cloud.
   • PROMPT_TEXT: il prompt dell'utente.
   • SYSTEM_INSTRUCTION: un campo facoltativo per fornire un preambolo o un contesto aggiuntivo.
   • DYNAMIC_RETRIEVAL_THRESHOLD: un campo facoltativo per impostare la soglia per richiamare la configurazione del recupero dinamico. È un valore in virgola mobile compreso nell'intervallo [0,1]. Se aggiungi il campo dynamicRetrievalConfig, ma non imposti il campo predictor o threshold, il valore della soglia predefinito è 0,7. Se non imposti il campo dynamicRetrievalConfig, la risposta è sempre basata su dati.
   • MODEL_ID: un campo facoltativo per impostare l'ID del modello Gemini che vuoi utilizzare per generare la risposta basata su dati. Per un elenco degli ID modello disponibili, consulta Modelli supportati.
   • TEMPERATURE: un campo facoltativo per impostare la temperatura utilizzata per il campionamento. Google consiglia una temperatura di 0,0 °C. Per ulteriori informazioni, consulta i parametri del modello Gemini.
   • TOP_P: un campo facoltativo per impostare il valore P superiore per il modello. Per ulteriori informazioni, consulta i parametri del modello Gemini.
   • TOP_K: un campo facoltativo per impostare il valore top-K per il modello. Per ulteriori informazioni, consulta i parametri del modello Gemini.
   • LANGUAGE_CODE: un campo facoltativo che può essere utilizzato per impostare la lingua della risposta generata e del testo del chunk restituito. Se non è possibile determinare la lingua dalla query, viene utilizzato questo campo. Il valore predefinito è en. Per un elenco dei codici lingua, consulta Lingue.
   • LATITUDE: un campo facoltativo per impostare la latitudine. Inserisci il valore in gradi decimali, ad esempio -25.34.
   • LONGITUDE: un campo facoltativo per impostare la longitudine. Inserisci il valore in gradi decimali, ad esempio 131.04.

   Risposta

   Dovresti ricevere una risposta JSON simile alla seguente risposta troncata. Per comprendere la risposta, consulta Dati di output.

   Nota: il modello che valuta il punteggio di previsione è soggetto a modifiche, ma i punteggi di previsione potrebbero comunque rientrare nello stesso intervallo. Per esempi di alcuni prompt e dei relativi punteggi di previsione, consulta Punteggio e soglia di previsione del recupero dinamico.

   {
    "candidates": [
      {
        "content": {
          "role": "model",
          "parts": [
            {
              "text": "ANSWER_TEXT"
            }
          ]
        },
        "groundingScore":GROUNDING_SCORE,
        "groundingMetadata": {
          "supportChunks": [
            {
             "source": "0",
             "sourceMetadata": {
               "uri": "REDIRECTION_URI",
               "domain": "PUBLISHER_DOMAIN"
             }
            }
          ],
          "groundingSupport": [
            {
              "claimText": "CLAIM_TEXT_1",
              "supportScore": SUPPORT_SCORE,
              "supportChunkIndices": [
                0
              ]
            },
            {
              "claimText": "CLAIM_TEXT_2",
              "supportScore": SUPPORT_SCORE,
              "supportChunkIndices": [
                0
              ]
            }
          ],
          "webSearchQueries": [
            "QUERY_BUILT_FROM_USER_PROMPT"
          ],
          "searchEntryPoint": {
            "renderedContent": "RENDERED_CONTENT"
          },
        }
      }
    ]
   }
   {
    "candidates": [
      {
        "content": {
          "role": "model",
          "parts": [
            {
              "text": "ANSWER_TEXT"
            }
          ]
        },
        "groundingScore":GROUNDING_SCORE,
        "groundingMetadata": {
          "supportChunks": [
            {}
          ],
          "groundingSupport": [
            {
              "claimText": "CLAIM_TEXT_1",
              "supportScore": SUPPORT_SCORE,
              "supportChunkIndices": [
                0
              ]
            },
            {
              "claimText": "CLAIM_TEXT_2",
              "supportScore": SUPPORT_SCORE,
              "supportChunkIndices": [
                0
              ]
            }
          ],
          "webSearchQueries": [
            "QUERY_BUILT_FROM_USER_PROMPT"
          ],
          "searchEntryPoint": {
            "renderedContent": "RENDERED_CONTENT"
          },
          "retrievalMetadata": [
            {
              "source": "GOOGLE_SEARCH",
              "dynamicRetrievalMetadata": {
                "predictorMetadata": {
                  "version": "V1_INDEPENDENT",
                  "prediction": PREDICTION_SCORE
                }
              }
            }
          ]
        }
      }
    ]
   }
   

Python

from google.cloud import discoveryengine_v1 as discoveryengine

# TODO(developer): Uncomment these variables before running the sample.
# project_number = "YOUR_PROJECT_NUMBER"

client = discoveryengine.GroundedGenerationServiceClient()

request = discoveryengine.GenerateGroundedContentRequest(
    # The full resource name of the location.
    # Format: projects/{project_number}/locations/{location}
    location=client.common_location_path(project=project_number, location="global"),
    generation_spec=discoveryengine.GenerateGroundedContentRequest.GenerationSpec(
        model_id="gemini-1.5-flash",
    ),
    # Conversation between user and model
    contents=[
        discoveryengine.GroundedGenerationContent(
            role="user",
            parts=[
                discoveryengine.GroundedGenerationContent.Part(
                    text="How much is Google stock?"
                )
            ],
        )
    ],
    system_instruction=discoveryengine.GroundedGenerationContent(
        parts=[
            discoveryengine.GroundedGenerationContent.Part(text="Be comprehensive.")
        ],
    ),
    # What to ground on.
    grounding_spec=discoveryengine.GenerateGroundedContentRequest.GroundingSpec(
        grounding_sources=[
            discoveryengine.GenerateGroundedContentRequest.GroundingSource(
                google_search_source=discoveryengine.GenerateGroundedContentRequest.GroundingSource.GoogleSearchSource(
                    # Optional: For Dynamic Retrieval
                    dynamic_retrieval_config=discoveryengine.GenerateGroundedContentRequest.DynamicRetrievalConfiguration(
                        predictor=discoveryengine.GenerateGroundedContentRequest.DynamicRetrievalConfiguration.DynamicRetrievalPredictor(
                            threshold=0.7
                        )
                    )
                )
            ),
        ]
    ),
)
response = client.generate_grounded_content(request)

# Handle the response
print(response)

Esempio di generazione di una risposta con un solo turno basata sulla Ricerca Google

Nell'esempio seguente, la richiesta specifica la Ricerca Google come fonte di riferimento. Questo esempio utilizza il metodo generateGroundedContent. Questo esempio utilizza anche un'istruzione di sistema per terminare la risposta con un'emoji smiley.

Importante: se ricevi suggerimenti della Ricerca Google con una risposta, questa risposta è un "Risultato fondato" soggetto ai termini di Grounding con la Ricerca Google nella sezione Termini del servizio dei Termini specifici del servizio. Per utilizzare i suggerimenti della Ricerca Google, consulta Utilizzare i suggerimenti della Ricerca Google.

Nota: la risposta generata nella risposta potrebbe variare.

REST

curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://discoveryengine.googleapis.com/v1/projects/123456/locations/global:generateGroundedContent" \
-d '
{
"contents": [{
  "role": "user",
  "parts": [{
    "text": "What is vertex ai agent builder?"
}]
}],
"systemInstruction": {
   "parts": {
      "text": "Add a smiley emoji after the answer."
   }
},
"groundingSpec": {
  "groundingSources": [
  {
      "googleSearchSource": {
        "dynamicRetrievalConfig": {
               "predictor":{
                   "threshold": 0.6
               }
           }
      }
  }
 ]
},
"generationSpec": {
  "modelId": "gemini-1.5-flash"
}
}
'

Risposta

Dovresti ricevere una risposta JSON simile alla seguente risposta troncata. Per comprendere la risposta, consulta Dati di output.

{
 "candidates": [
   {
     "content": {
       "role": "model",
       "parts": [
         {
           "text": "Vertex AI Agent Builder is a platform developed by Google Cloud that simplifies the creation and deployment of generative AI agents. It offers both no-code and code-first approaches, allowing developers of all skill levels to build AI-powered agents. \n\nHere are some key features of Vertex AI Agent Builder:\n\n* **No-code interface:**  Use natural language to design and build agents without writing code.\n* **Code-first approach:**  Utilize powerful orchestration and customization capabilities, including LangChain on Vertex AI.\n* **Enterprise-grade security and compliance:**  Built-in security, compliance, and governance features align with industry certifications like HIPAA, ISO 27000-series, SOC-1/2/3, VPC-SC, and CMEK.\n* **Integration with enterprise data:**  Easily ground your agents in enterprise data using Vertex AI Search and Retrieval Augmented Generation (RAG) APIs.\n* **Pre-built templates:**  Rapidly prototype and experiment with pre-built templates for conversational AI and process automation agents.\n* **Advanced integrations:**  Supports integrations with frameworks like LlamaIndex and LangChain for enhanced AI capabilities.\n* **Natural language understanding (NLU):**  Accurate query responses and support for multiple languages.\n\nVertex AI Agent Builder is designed to help developers create AI agents that can:\n\n* Answer complex questions\n* Provide support and personalize user experiences\n* Automate tasks and processes\n* Interact with backend systems\n\nOverall, Vertex AI Agent Builder is a powerful tool that makes it easier for developers to build and deploy generative AI agents, regardless of their experience level. 😊 \n"
         }
       ]
     },
     "groundingScore": 0.80400103,
     "groundingMetadata": {
       "supportChunks": [
         {
          "source": "0",
          "sourceMetadata": {
          "uri": "https://vertexaisearch.cloud.google.com/grounding-api-redirect/{unique_string}",
          "domain": "example.com"
         }
        }
       ],
       "groundingSupport": [
         {
           "claimText": "Vertex AI Agent Builder is a platform developed by Google Cloud that simplifies the creation and deployment of generative AI agents.",
           "supportScore": 0.9541752,
           "supportChunkIndices": [
             0
           ]
         },
         {
           "claimText": "It offers both no-code and code-first approaches, allowing developers of all skill levels to build AI-powered agents.",
           "supportScore": 0.9648506,
           "supportChunkIndices": [
             0
           ]
         },
         {
           "claimText": "* **No-code interface:**  Use natural language to design and build agents without writing code.",
           "supportScore": 0.77115613,
           "supportChunkIndices": [
             0
           ]
         },
         {
           "claimText": "* **Code-first approach:**  Utilize powerful orchestration and customization capabilities, including LangChain on Vertex AI.",
           "supportScore": 0.8540146,
           "supportChunkIndices": [
             0
           ]
         },
         {
           "claimText": "* **Enterprise-grade security and compliance:**  Built-in security, compliance, and governance features align with industry certifications like HIPAA, ISO 27000-series, SOC-1/2/3, VPC-SC, and CMEK.",
           "supportScore": 0.9574074,
           "supportChunkIndices": [
             0
           ]
         },
         {
           "claimText": "* **Integration with enterprise data:**  Easily ground your agents in enterprise data using Vertex AI Search and Retrieval Augmented Generation (RAG) APIs.",
           "supportScore": 0.9533333,
           "supportChunkIndices": [
             0
           ]
         },
         {
           "claimText": "* **Pre-built templates:**  Rapidly prototype and experiment with pre-built templates for conversational AI and process automation agents.",
           "supportScore": 0.9457701,
           "supportChunkIndices": [
             0
           ]
         },
         {
           "claimText": "* **Advanced integrations:**  Supports integrations with frameworks like LlamaIndex and LangChain for enhanced AI capabilities.",
           "supportScore": 0.9541752,
           "supportChunkIndices": [
             0
           ]
         },
         {
           "claimText": "* **Natural language understanding (NLU):**  Accurate query responses and support for multiple languages.",
           "supportScore": 0.97726375,
           "supportChunkIndices": [
             0
           ]
         },
         {
           "claimText": "* Provide support and personalize user experiences",
           "supportScore": 0.8540146,
           "supportChunkIndices": [
             0
           ]
         },
         {
           "claimText": "* Automate tasks and processes",
           "supportScore": 0.82046676,
           "supportChunkIndices": [
             0
           ]
         }
       ],
       "webSearchQueries": [
         "what is vertex ai agent builder"
       ],
       "searchEntryPoint": {
         "renderedContent": "\u003cstyle\u003e\n.container {\n  align-items: center;\n  border-radius: 8px;\n  display: flex;\n  font-family: Google Sans, Roboto, sans-serif;\n  font-size: 14px;\n  line-height: 20px;\n  padding: 8px 12px;\n}\n.chip {\n  display: inline-block;\n  border: solid 1px;\n  border-radius: 16px;\n  min-width: 14px;\n  padding: 5px 16px;\n  text-align: center;\n  user-select: none;\n  margin: 0 8px;\n  -webkit-tap-highlight-color: transparent;\n}\n.carousel {\n  overflow: auto;\n  scrollbar-width: none;\n  white-space: nowrap;\n  margin-right: -12px;\n}\n.headline {\n  display: flex;\n  margin-right: 4px;\n}\n.gradient-container {\n  position: relative;\n}\n.gradient {\n  position: absolute;\n  transform: translate(3px, -9px);\n  height: 36px;\n  width: 9px;\n}\n@media (prefers-color-scheme: light) {\n  .container {\n    background-color: #fafafa;\n    box-shadow: 0 0 0 1px #0000000f;\n  }\n  .headline-label {\n    color: #1f1f1f;\n  }\n  .chip {\n    background-color: #ffffff;\n    border-color: #d2d2d2;\n    color: #5e5e5e;\n    text-decoration: none;\n  }\n  .chip:hover {\n    background-color: #f2f2f2;\n  }\n  .chip:focus {\n    background-color: #f2f2f2;\n  }\n  .chip:active {\n    background-color: #d8d8d8;\n    border-color: #b6b6b6;\n  }\n  .logo-dark {\n    display: none;\n  }\n  .gradient {\n    background: linear-gradient(90deg, #fafafa 15%, #fafafa00 100%);\n  }\n}\n@media (prefers-color-scheme: dark) {\n  .container {\n    background-color: #1f1f1f;\n    box-shadow: 0 0 0 1px #ffffff26;\n  }\n  .headline-label {\n    color: #fff;\n  }\n  .chip {\n    background-color: #2c2c2c;\n    border-color: #3c4043;\n    color: #fff;\n    text-decoration: none;\n  }\n  .chip:hover {\n    background-color: #353536;\n  }\n  .chip:focus {\n    background-color: #353536;\n  }\n  .chip:active {\n    background-color: #464849;\n    border-color: #53575b;\n  }\n  .logo-light {\n    display: none;\n  }\n  .gradient {\n    background: linear-gradient(90deg, #1f1f1f 15%, #1f1f1f00 100%);\n  }\n}\n\u003c/style\u003e\n\u003cdiv class=\"container\"\u003e\n  \u003cdiv class=\"headline\"\u003e\n    \u003csvg class=\"logo-light\" width=\"18\" height=\"18\" viewBox=\"9 9 35 35\" fill=\"none\" xmlns=\"http://www.w3.org/2000/svg\"\u003e\n      \u003cpath fill-rule=\"evenodd\" clip-rule=\"evenodd\" d=\"M42.8622 27.0064C42.8622 25.7839 42.7525 24.6084 42.5487 23.4799H26.3109V30.1568H35.5897C35.1821 32.3041 33.9596 34.1222 32.1258 35.3448V39.6864H37.7213C40.9814 36.677 42.8622 32.2571 42.8622 27.0064V27.0064Z\" fill=\"#4285F4\"/\u003e\n      \u003cpath fill-rule=\"evenodd\" clip-rule=\"evenodd\" d=\"M26.3109 43.8555C30.9659 43.8555 34.8687 42.3195 37.7213 39.6863L32.1258 35.3447C30.5898 36.3792 28.6306 37.0061 26.3109 37.0061C21.8282 37.0061 18.0195 33.9811 16.6559 29.906H10.9194V34.3573C13.7563 39.9841 19.5712 43.8555 26.3109 43.8555V43.8555Z\" fill=\"#34A853\"/\u003e\n      \u003cpath fill-rule=\"evenodd\" clip-rule=\"evenodd\" d=\"M16.6559 29.8904C16.3111 28.8559 16.1074 27.7588 16.1074 26.6146C16.1074 25.4704 16.3111 24.3733 16.6559 23.3388V18.8875H10.9194C9.74388 21.2072 9.06992 23.8247 9.06992 26.6146C9.06992 29.4045 9.74388 32.022 10.9194 34.3417L15.3864 30.8621L16.6559 29.8904V29.8904Z\" fill=\"#FBBC05\"/\u003e\n      \u003cpath fill-rule=\"evenodd\" clip-rule=\"evenodd\" d=\"M26.3109 16.2386C28.85 16.2386 31.107 17.1164 32.9095 18.8091L37.8466 13.8719C34.853 11.082 30.9659 9.3736 26.3109 9.3736C19.5712 9.3736 13.7563 13.245 10.9194 18.8875L16.6559 23.3388C18.0195 19.2636 21.8282 16.2386 26.3109 16.2386V16.2386Z\" fill=\"#EA4335\"/\u003e\n    \u003c/svg\u003e\n    \u003csvg class=\"logo-dark\" width=\"18\" height=\"18\" viewBox=\"0 0 48 48\" xmlns=\"http://www.w3.org/2000/svg\"\u003e\n      \u003ccircle cx=\"24\" cy=\"23\" fill=\"#FFF\" r=\"22\"/\u003e\n      \u003cpath d=\"M33.76 34.26c2.75-2.56 4.49-6.37 4.49-11.26 0-.89-.08-1.84-.29-3H24.01v5.99h8.03c-.4 2.02-1.5 3.56-3.07 4.56v.75l3.91 2.97h.88z\" fill=\"#4285F4\"/\u003e\n      \u003cpath d=\"M15.58 25.77A8.845 8.845 0 0 0 24 31.86c1.92 0 3.62-.46 4.97-1.31l4.79 3.71C31.14 36.7 27.65 38 24 38c-5.93 0-11.01-3.4-13.45-8.36l.17-1.01 4.06-2.85h.8z\" fill=\"#34A853\"/\u003e\n      \u003cpath d=\"M15.59 20.21a8.864 8.864 0 0 0 0 5.58l-5.03 3.86c-.98-2-1.53-4.25-1.53-6.64 0-2.39.55-4.64 1.53-6.64l1-.22 3.81 2.98.22 1.08z\" fill=\"#FBBC05\"/\u003e\n      \u003cpath d=\"M24 14.14c2.11 0 4.02.75 5.52 1.98l4.36-4.36C31.22 9.43 27.81 8 24 8c-5.93 0-11.01 3.4-13.45 8.36l5.03 3.85A8.86 8.86 0 0 1 24 14.14z\" fill=\"#EA4335\"/\u003e\n    \u003c/svg\u003e\n    \u003cdiv class=\"gradient-container\"\u003e\u003cdiv class=\"gradient\"\u003e\u003c/div\u003e\u003c/div\u003e\n  \u003c/div\u003e\n  \u003cdiv class=\"carousel\"\u003e\n    \u003ca class=\"chip\" href=\"https://www.google.com/search?q=what+is+vertex+ai+agent+builder&client=app-vertex-grounding&safesearch=active\"\u003ewhat is vertex ai agent builder\u003c/a\u003e\n  \u003c/div\u003e\n\u003c/div\u003e\n"
       },
       "retrievalMetadata": [
         {
           "source": "GOOGLE_SEARCH",
           "dynamicRetrievalMetadata": {
             "predictorMetadata": {
               "version": "V1_INDEPENDENT",
               "prediction": 0.671875
             }
           }
         }
       ]
     }
   }
 ]
}

Generare una risposta fondata in più turni

Nella generazione di risposte con più turni, in ogni richiesta devi inviare tutto il testo scambiato tra l'utente e il modello in tutti i turni precedenti. In questo modo viene garantita la continuità e viene mantenuto il contesto per generare la risposta all'ultimo prompt.

Per ottenere una risposta fondata mediante la generazione di risposte con più turni:

REST

Gli esempi riportati di seguito mostrano come inviare il testo del prompt di follow-up su più turni. Questi esempi utilizzano il metodo generateGroundedContent e basano le risposte sulla Ricerca Google. Puoi utilizzare passaggi simili per generare risposte fondate utilizzando altre fonti di fondamento.

Importante: se ricevi suggerimenti della Ricerca Google con una risposta, questa risposta è un "Risultato fondato" soggetto ai termini di Grounding con la Ricerca Google nella sezione Termini del servizio dei Termini specifici del servizio. Per utilizzare i suggerimenti della Ricerca Google, consulta Utilizzare i suggerimenti della Ricerca Google.

1. Invia il primo prompt nella seguente richiesta curl.

   curl -X POST \
   -H "Authorization: Bearer $(gcloud auth print-access-token)" \
   -H "Content-Type: application/json" \
   "https://discoveryengine.googleapis.com/v1/projects/PROJECT_NUMBER/locations/global:generateGroundedContent" \
   -d '
   {
   "contents": [
    {
      "role": "user",
      "parts": [
        {
          "text": "PROMPT_TEXT_TURN_1"
        }
      ]
    }
   ],
   "systemInstruction": {
      "parts": {
          "text": "SYSTEM_INSTRUCTION_TURN_1"
      }
   },
   "groundingSpec": {
    "groundingSources": [
      {
        "googleSearchSource": {}
      }
    ]
   },
   "generationSpec": {
    "modelId": "MODEL_ID",
    "temperature": TEMPERATURE,
    "topP": TOP_P,
    "topK": TOP_K
   },
   "user_context": {
    "languageCode: "LANGUAGE_CODE",
    "latLng": {
      "latitude": LATITUDE,
      "longitude": LONGITUDE
    },
   }
   }'
   

   Sostituisci quanto segue:

   • PROJECT_NUMBER: il numero del tuo progetto Google Cloud.
   • PROMPT_TEXT_TURN_1: il testo del prompt dell'utente nel primo turno.
   • SYSTEM_INSTRUCTION_TURN_1: un campo facoltativo per fornire un preambolo o un contesto aggiuntivo. Per la generazione di risposte con più turni, devi fornire le istruzioni di sistema per ogni turno.
   • MODEL_ID: un campo facoltativo per impostare l'ID del modello Gemini che vuoi utilizzare per generare la risposta basata su dati. Per un elenco degli ID modello disponibili, consulta Modelli supportati.
   • TEMPERATURE: un campo facoltativo per impostare la temperatura utilizzata per il campionamento. Google consiglia una temperatura di 0,0 °C. Per ulteriori informazioni, consulta i parametri del modello Gemini.
   • TOP_P: un campo facoltativo per impostare il valore P superiore per il modello. Per ulteriori informazioni, consulta i parametri del modello Gemini.
   • TOP_K: un campo facoltativo per impostare il valore top-K per il modello. Per ulteriori informazioni, consulta i parametri del modello Gemini.
   • LANGUAGE_CODE: un campo facoltativo che può essere utilizzato per impostare la lingua della risposta generata e del testo del chunk restituito. Se non è possibile determinare la lingua dalla query, viene utilizzato questo campo. Il valore predefinito è en. Per un elenco dei codici lingua, consulta Lingue.
   • LATITUDE: un campo facoltativo per impostare la latitudine. Inserisci il valore in gradi decimali, ad esempio -25.34.
   • LONGITUDE: un campo facoltativo per impostare la longitudine. Inserisci il valore in gradi decimali, ad esempio 131.04.

   Risposta

   Dovresti ricevere una risposta JSON simile alla seguente risposta troncata. Per comprendere la risposta, consulta Dati di output.

   {
   "candidates": [
    {
      "content": {
        "role": "model",
        "parts": [
          {
            "text": "ANSWER_TEXT_TURN_1"
          }
        ]
      },
      "groundingScore": GROUNDING_SCORE,
      "groundingMetadata": {
        "supportChunks": [],
        "groundingSupport": [
          {
            "claimText": "CLAIM_TEXT_1",
            "supportChunkIndices": [
              0,
              1
            ]
          },
          {
            "claimText": "CLAIM_TEXT_2",
            "supportChunkIndices": [
              1
            ]
          }
        ],
        "webSearchQueries": [
          "QUERY_BUILT_FROM_USER_PROMPT"
        ],
        "searchEntryPoint": {
          "renderedContent": "RENDERED_CONTENT"
        }
      }
    }
   ]
   } 

2. Invia la seconda richiesta come follow-up. Aggiungi il primo prompt dell'utente seguito dalla risposta corrispondente del modello per il contesto.

   curl -X POST \
   -H "Authorization: Bearer $(gcloud auth print-access-token)" \
   -H "Content-Type: application/json" \
   "https://discoveryengine.googleapis.com/v1/projects/PROJECT_NUMBER/locations/global:generateGroundedContent" \
   -d '
   {
   "contents": [
    {
      "role": "user",
      "parts": [
        {
          "text": "PROMPT_TEXT_TURN_1"
        }
      ]
    },
    {
      "role": "model",
      "parts": [
        {
          "text": "ANSWER_TEXT_TURN_1"
        }
      ]
    },
    {
      "role": "user",
      "parts": [
        {
          "text": "PROMPT_TEXT_TURN_2"
        }
      ]
    }
   ],
   "systemInstruction": {
      "parts": {
          "text": "SYSTEM_INSTRUCTION_TURN_2"
      }
   },
   "groundingSpec": {
    "groundingSources": [
      {
        "googleSearchSource": {}
      }
    ]
   },
   "generationSpec": {
    "modelId": "MODEL_ID",
    "temperature": TEMPERATURE,
    "topP": TOP_P,
    "topK": TOP_K
   },
   "user_context": {
    "languageCode: "LANGUAGE_CODE",
    "latLng": {
      "latitude": LATITUDE,
      "longitude": LONGITUDE
    },
   }
   }'
   

   Sostituisci quanto segue:

   • PROJECT_NUMBER: il numero del tuo progetto Google Cloud.
   • PROMPT_TEXT_TURN_1: il testo del prompt dell'utente nel primo turno.
   • ANSWER_TEXT_TURN_1: il testo della risposta del modello nel primo turno.
   • PROMPT_TEXT_TURN_2: il testo del prompt dell'utente nel secondo turno.
   • SYSTEM_INSTRUCTION_TURN_2: un campo facoltativo per fornire un preambolo o un contesto aggiuntivo. Per la generazione di risposte con più turni, devi fornire le istruzioni di sistema per ogni turno.
   • MODEL_ID: un campo facoltativo per impostare l'ID del modello Gemini che vuoi utilizzare per generare la risposta basata su dati. Per un elenco degli ID modello disponibili, consulta Modelli supportati.
   • TEMPERATURE: un campo facoltativo per impostare la temperatura utilizzata per il campionamento. Google consiglia una temperatura di 0,0 °C. Per ulteriori informazioni, consulta i parametri del modello Gemini.
   • TOP_P: un campo facoltativo per impostare il valore P superiore per il modello. Per ulteriori informazioni, consulta i parametri del modello Gemini.
   • TOP_K: un campo facoltativo per impostare il valore top-K per il modello. Per ulteriori informazioni, consulta i parametri del modello Gemini.
   • LANGUAGE_CODE: un campo facoltativo che può essere utilizzato per impostare la lingua della risposta generata e del testo del chunk restituito. Se non è possibile determinare la lingua dalla query, viene utilizzato questo campo. Il valore predefinito è en. Per un elenco dei codici lingua, consulta Lingue.
   • LATITUDE: un campo facoltativo per impostare la latitudine. Inserisci il valore in gradi decimali, ad esempio -25.34.
   • LONGITUDE: un campo facoltativo per impostare la longitudine. Inserisci il valore in gradi decimali, ad esempio 131.04.

   Risposta

   Dovresti ricevere una risposta JSON simile alla seguente risposta troncata. Per comprendere la risposta, consulta Dati di output.

   {
   "candidates": [
    {
      "content": {
        "role": "model",
        "parts": [
          {
            "text": "ANSWER_TEXT_TURN_2"
          }
        ]
      },
      "groundingScore": GROUNDING_SCORE,
      "groundingMetadata": {
        "supportChunks": [],
        "groundingSupport": [
          {
            "claimText": "CLAIM_TEXT_1",
            "supportChunkIndices": [
              0
            ]
          },
          {
            "claimText": "CLAIM_TEXT_2",
            "supportChunkIndices": [
              1,
              2
            ]
          }
        ],
        "webSearchQueries": [
          "QUERY_BUILT_FROM_USER_PROMPT"
        ],
        "searchEntryPoint": {
          "renderedContent": "RENDERED_CONTENT"
        }
      }
    }
   ]
   }   

3. Ripeti questa procedura per ricevere ulteriori risposte. In ogni turno, aggiungi tutti i prompt precedenti dell'utente seguiti dalle relative risposte del modello.

Esempio di generazione di risposte con più turni

Nel seguente esempio, la richiesta specifica tre testi di fatti in linea come fonte di fondamento per generare risposte in due turni. Questo esempio utilizza il metodo generateGroundedContent. Questo esempio utilizza anche un'istruzione di sistema per terminare la risposta nel primo turno con un'emoji smiley.

Nota: la risposta generata nella risposta potrebbe variare.

REST

1. Invia il primo prompt nella seguente richiesta curl.

   curl -X POST \
   -H "Authorization: Bearer $(gcloud auth print-access-token)" \
   -H "Content-Type: application/json" \
   "https://discoveryengine.googleapis.com/v1/projects/123456/locations/global:generateGroundedContent" \
   -d '
   {
   "contents": [
    {
      "role": "user",
      "parts": [
        {
          "text": "Summarize what happened in 2023 in one paragraph."
        }
      ]
    }
   ],
   "systemInstruction": {
     "parts": {
         "text": "Add a smiley emoji after the answer."
     }
   },
   "grounding_spec": {
    "grounding_sources": [
      {
        "inline_source": {
          "grounding_facts": [
            {
              "fact_text": "In 2023, the world population surpassed 8 billion. This milestone marked a significant moment in human history, highlighting both the rapid growth of our species and the challenges of resource management and sustainability in the years to come.",
              "attributes": {
                "title": "title_1",
                "uri": "some-uri-1"
              }
            }
          ]
        }
      },
      {
        "inline_source": {
          "grounding_facts": [
            {
              "fact_text": "In 2023, global e-commerce sales reached an estimated $5.7 trillion. The continued rise of online shopping solidified its position as a dominant force in retail, with major implications for traditional brick-and-mortar stores and the logistics networks supporting worldwide deliveries.",
              "attributes": {
                "title": "title_2",
                "uri": "some-uri-2"
              }
            }
          ]
        }
      },
      {
        "inline_source": {
          "grounding_facts": [
            {
              "fact_text": "In 2023, the global average surface temperature was approximately 0.2 degrees Celsius higher than the 20th-century average. This continued the worrying trend of global warming, underscoring the urgency of worldwide climate initiatives, carbon reduction efforts, and investment in renewable energy sources.",
              "attributes": {
                "title": "title_3",
                "uri": "some-uri-3"
              }
            }
          ]
        }
      }
    ]
   },
   "generationSpec": {
    "modelId": "gemini-1.5-flash"
   }
   }'
   

   Risposta

   Dovresti ricevere una risposta JSON simile alla seguente risposta troncata. Per comprendere la risposta, consulta Dati di output.

   {
   "candidates": [
    {
      "content": {
        "role": "model",
        "parts": [
          {
            "text": "In 2023, the global average surface temperature increased, the world population surpassed 8 billion, and global e-commerce sales reached an estimated $5.7 trillion.  😊 \n"
          }
        ]
      },
      "groundingScore": 1,
      "groundingMetadata": {
        "supportChunks": [
          {
            "chunkText": "In 2023, global e-commerce sales reached an estimated $5.7 trillion. The continued rise of online shopping solidified its position as a dominant force in retail, with major implications for traditional brick-and-mortar stores and the logistics networks supporting worldwide deliveries. ",
            "source": "1",
            "sourceMetadata": {
              "uri": "some-uri-2",
              "title": "title_2"
            }
          },
          {
            "chunkText": "In 2023, the world population surpassed 8 billion. This milestone marked a significant moment in human history, highlighting both the rapid growth of our species and the challenges of resource management and sustainability in the years to come. ",
            "source": "0",
            "sourceMetadata": {
              "uri": "some-uri-1",
              "title": "title_1"
            }
          },
          {
            "chunkText": "In 2023, the global average surface temperature was approximately 0.2 degrees Celsius higher than the 20th-century average. This continued the worrying trend of global warming, underscoring the urgency of worldwide climate initiatives, carbon reduction efforts, and investment in renewable energy sources. ",
            "source": "2",
            "sourceMetadata": {
              "title": "title_3",
              "uri": "some-uri-3"
            }
          }
        ],
        "groundingSupport": [
          {
            "claimText": "In 2023, the global average surface temperature increased, the world population surpassed 8 billion, and global e-commerce sales reached an estimated $5.7 trillion.",
            "supportScore": 1,
            "supportChunkIndices": [
              0,
              1,
              2
            ]
          }
        ]
      }
    }
   ]
   }
   

2. Invia la seconda richiesta come follow-up. Aggiungi il primo prompt dell'utente seguito dalla risposta corrispondente del modello per il contesto.

   curl -X POST \
   -H "Authorization: Bearer $(gcloud auth print-access-token)" \
   -H "Content-Type: application/json" \
   "https://discoveryengine.googleapis.com/v1/projects/123456/locations/global:generateGroundedContent" \
   -d '
   {
   "contents": [
    {
      "role": "user",
      "parts": [
        {
          "text": "Summarize what happened in 2023 in one paragraph."
        }
      ]
    },
    {
      "role": "model",
      "parts": [
        {
          "text": "In 2023, the global average surface temperature increased, the world population surpassed 8 billion, and global e-commerce sales reached an estimated $5.7 trillion.  😊 \n"
        }
      ]
    },
    {
      "role": "user",
      "parts": [
        {
          "text": "Rephrase the answer in an abstracted list."
        }
      ]
    }
   ],
   "grounding_spec": {
    "grounding_sources": [
      {
        "inline_source": {
          "grounding_facts": [
            {
              "fact_text": "In 2023, the world population surpassed 8 billion. This milestone marked a significant moment in human history, highlighting both the rapid growth of our species and the challenges of resource management and sustainability in the years to come.",
              "attributes": {
                "title": "title_1",
                "uri": "some-uri-1"
              }
            }
          ]
        }
      },
      {
        "inline_source": {
          "grounding_facts": [
            {
              "fact_text": "In 2023, global e-commerce sales reached an estimated $5.7 trillion. The continued rise of online shopping solidified its position as a dominant force in retail, with major implications for traditional brick-and-mortar stores and the logistics networks supporting worldwide deliveries.",
              "attributes": {
                "title": "title_2",
                "uri": "some-uri-2"
              }
            }
          ]
        }
      },
      {
        "inline_source": {
          "grounding_facts": [
            {
              "fact_text": "In 2023, the global average surface temperature was approximately 0.2 degrees Celsius higher than the 20th-century average. This continued the worrying trend of global warming, underscoring the urgency of worldwide climate initiatives, carbon reduction efforts, and investment in renewable energy sources.",
              "attributes": {
                "title": "title_3",
                "uri": "some-uri-3"
              }
            }
          ]
        }
      }
    ]
   },
   "generationSpec": {
    "modelId": "gemini-1.5-flash"
   }
   }'
   

   Risposta

   Dovresti ricevere una risposta JSON simile alla seguente risposta troncata. Per comprendere la risposta, consulta Dati di output.

   {
   "candidates": [
    {
      "content": {
        "role": "model",
        "parts": [
          {
            "text": "- The global average surface temperature increased in 2023.\n- The world population surpassed 8 billion in 2023.\n- Global e-commerce sales reached an estimated $5.7 trillion in 2023. \n"
          }
        ]
      },
      "groundingScore": 0.99073017,
      "groundingMetadata": {
        "supportChunks": [
          {
            "chunkText": "In 2023, the global average surface temperature was approximately 0.2 degrees Celsius higher than the 20th-century average. This continued the worrying trend of global warming, underscoring the urgency of worldwide climate initiatives, carbon reduction efforts, and investment in renewable energy sources. ",
            "source": "2",
            "sourceMetadata": {
              "uri": "some-uri-3",
              "title": "title_3"
            }
          },
          {
            "chunkText": "In 2023, the world population surpassed 8 billion. This milestone marked a significant moment in human history, highlighting both the rapid growth of our species and the challenges of resource management and sustainability in the years to come. ",
            "source": "0",
            "sourceMetadata": {
              "uri": "some-uri-1",
              "title": "title_1"
            }
          },
          {
            "chunkText": "In 2023, global e-commerce sales reached an estimated $5.7 trillion. The continued rise of online shopping solidified its position as a dominant force in retail, with major implications for traditional brick-and-mortar stores and the logistics networks supporting worldwide deliveries. ",
            "source": "1",
            "sourceMetadata": {
              "title": "title_2",
              "uri": "some-uri-2"
            }
          }
        ],
        "groundingSupport": [
          {
            "claimText": "- The global average surface temperature increased in 2023.",
            "supportScore": 0.9883382,
            "supportChunkIndices": [
              0
            ]
          },
          {
            "claimText": "- The world population surpassed 8 billion in 2023.",
            "supportScore": 0.9919262,
            "supportChunkIndices": [
              1
            ]
          },
          {
            "claimText": "- Global e-commerce sales reached an estimated $5.7 trillion in 2023.",
            "supportScore": 0.9919262,
            "supportChunkIndices": [
              2
            ]
          }
        ]
      }
    }
   ]
   }
   

Mostrare gradualmente le risposte fondate

Sperimentale

Questa funzionalità è soggetta ai "Termini delle Offerte pre-GA" nella sezione Termini generali del servizio dei Termini specifici dei servizi. Le funzionalità pre-GA sono disponibili "così come sono" e potrebbero avere un supporto limitato. Per saperne di più, consulta le descrizioni della fase di lancio.

Puoi scegliere di riprodurre in streaming le risposte del modello. Questa funzionalità è utile nei casi d'uso in cui la risposta è particolarmente lunga e l'invio dell'intera risposta contemporaneamente causa un ritardo significativo. Lo streaming della risposta suddivide la risposta in un array di diversi candidati che contengono parti sequenziali del testo della risposta.

Per ottenere una risposta basata su dati e in streaming:

REST

L'esempio seguente mostra come trasmettere in streaming una risposta basata su dati. Questo esempio utilizza il metodo streamGenerateGroundedContent e basa la risposta sulla Ricerca Google senza la configurazione del recupero dinamico. Puoi utilizzare passaggi simili per generare risposte fondate utilizzando altre fonti di fondamento.

1. Invia il prompt nella seguente richiesta curl.

   curl -X POST \
   -H "Authorization: Bearer $(gcloud auth print-access-token)" \
   -H "Content-Type: application/json" \
   "https://discoveryengine.googleapis.com/v1alpha/projects/PROJECT_NUMBER/locations/global:streamGenerateGroundedContent" \
   -d '
   [
   {
    "contents": [
      {
        "role": "user",
        "parts": [
          {
            "text": "PROMPT_TEXT"
          }
        ]
      }
    ],
    "systemInstruction": {
        "parts": {
            "text": "SYSTEM_INSTRUCTION"
        }
    },
    "groundingSpec": {
      "groundingSources": [
        {
          "googleSearchSource": {}
        }
      ]
    },
   "generationSpec": {
    "modelId": "MODEL_ID",
    "temperature": TEMPERATURE,
    "topP": TOP_P,
    "topK": TOP_K
   },
   "user_context": {
    "languageCode: "LANGUAGE_CODE",
    "latLng": {
      "latitude": LATITUDE,
      "longitude": LONGITUDE
    },
   }
   }
   ]'
   

   Sostituisci quanto segue:

   • PROJECT_NUMBER: il numero del tuo progetto Google Cloud.
   • PROMPT_TEXT: il prompt dell'utente.
   • SYSTEM_INSTRUCTION: un campo facoltativo per fornire un preambolo o un contesto aggiuntivo.
   • MODEL_ID: un campo facoltativo per impostare l'ID del modello Gemini che vuoi utilizzare per generare la risposta basata su dati. Per un elenco degli ID modello disponibili, consulta Modelli supportati.
   • TEMPERATURE: un campo facoltativo per impostare la temperatura utilizzata per il campionamento. Google consiglia una temperatura di 0,0 °C. Per ulteriori informazioni, consulta i parametri del modello Gemini.
   • TOP_P: un campo facoltativo per impostare il valore P superiore per il modello. Per ulteriori informazioni, consulta i parametri del modello Gemini.
   • TOP_K: un campo facoltativo per impostare il valore top-K per il modello. Per ulteriori informazioni, consulta i parametri del modello Gemini.
   • LANGUAGE_CODE: un campo facoltativo che può essere utilizzato per impostare la lingua della risposta generata e del testo del chunk restituito. Se non è possibile determinare la lingua dalla query, viene utilizzato questo campo. Il valore predefinito è en. Per un elenco dei codici lingua, consulta Lingue.
   • LATITUDE: un campo facoltativo per impostare la latitudine. Inserisci il valore in gradi decimali, ad esempio -25.34.
   • LONGITUDE: un campo facoltativo per impostare la longitudine. Inserisci il valore in gradi decimali, ad esempio 131.04.

   Risposta

   Dovresti ricevere una risposta JSON simile alla seguente risposta troncata. Per comprendere la risposta, consulta Dati di output.

   [{
    "candidates": [
      {
        "content": {
          "role": "model",
          "parts": [
            {
              "text": "ANSWER_TEXT_PART_1"
            }
          ]
        }
      }
    ]
   },
   {
    "candidates": [
      {
        "content": {
          "role": "model",
          "parts": [
            {
              "text": "ANSWER_TEXT_PART_2"
            }
          ]
        }
      }
    ]
   },
   {
    "candidates": [
      {
        "content": {
          "role": "model",
          "parts": [
            {
              "text": "ANSWER_TEXT_PART_3"
            }
          ]
        }
      }
    ]
   },
   {
    "candidates": [
      {
        "groundingMetadata": {
          "supportChunks": [
            {
             "source": "0",
             "sourceMetadata": {
               "uri": "REDIRECTION_URI",
               "domain": "PUBLISHER_DOMAIN"
             }
            }
          ],
          "groundingSupport": [
            {
              "claimText": "CLAIM_TEXT_1",
              "supportChunkIndices": [
                0
              ]
            }
          ],
          "webSearchQueries": [
            "QUERY_BUILT_FROM_USER_PROMPT"
          ],
          "searchEntryPoint": {
            "renderedContent": "RENDERED_CONTENT"
          }
        }
      }
    ]
   }]
   

Python

from google.cloud import discoveryengine_v1 as discoveryengine

# TODO(developer): Uncomment these variables before running the sample.
# project_id = "YOUR_PROJECT_ID"

client = discoveryengine.GroundedGenerationServiceClient()

request = discoveryengine.GenerateGroundedContentRequest(
    # The full resource name of the location.
    # Format: projects/{project_number}/locations/{location}
    location=client.common_location_path(project=project_number, location="global"),
    generation_spec=discoveryengine.GenerateGroundedContentRequest.GenerationSpec(
        model_id="gemini-1.5-flash",
    ),
    # Conversation between user and model
    contents=[
        discoveryengine.GroundedGenerationContent(
            role="user",
            parts=[
                discoveryengine.GroundedGenerationContent.Part(
                    text="Summarize how to delete a data store in Vertex AI Agent Builder?"
                )
            ],
        )
    ],
    grounding_spec=discoveryengine.GenerateGroundedContentRequest.GroundingSpec(
        grounding_sources=[
            discoveryengine.GenerateGroundedContentRequest.GroundingSource(
                google_search_source=discoveryengine.GenerateGroundedContentRequest.GroundingSource.GoogleSearchSource()
            ),
        ]
    ),
)
responses = client.stream_generate_grounded_content(iter([request]))

for response in responses:
    # Handle the response
    print(response)

Esempio per lo streaming di risposte fondate

Nell'esempio seguente, la richiesta specifica la Ricerca Google come origine di riferimento per trasmettere una risposta senza la configurazione del recupero dinamico. La risposta in streaming viene distribuita su più candidati per la risposta. Questo esempio utilizza il metodo streamGenerateGroundedContent.

Nota: la risposta generata nella risposta potrebbe variare.

REST

curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://discoveryengine.googleapis.com/v1alpha/projects/123456/locations/global:streamGenerateGroundedContent" \
-d '
[
{
  "contents": [
    {
      "role": "user",
      "parts": [
        {
          "text": "Summarize How to delete a data store in Vertex AI Agent Builder?"
        }
      ]
    }
  ],
  "groundingSpec": {
    "groundingSources": [
      {
        "googleSearchSource": {}
      }
    ]
  },
  "generationSpec": {
    "modelId": "gemini-1.5-flash"
  }
}
]'

Risposta

Dovresti ricevere una risposta JSON simile alla seguente risposta troncata. Per comprendere la risposta, consulta Dati di output.

[{
"candidates": [
  {
    "content": {
      "role": "model",
      "parts": [
        {
          "text": "To"
        }
      ]
    }
  }
]
}
,
{
"candidates": [
  {
    "content": {
      "role": "model",
      "parts": [
        {
          "text": " delete a data store in Vertex AI Agent Builder, you must first purge all data"
        }
      ]
    }
  }
]
}
,
{
"candidates": [
  {
    "content": {
      "role": "model",
      "parts": [
        {
          "text": " from the data store. "
        }
      ]
    }
  }
]
}
,
{
"candidates": [
  {
    "groundingMetadata": {
      "supportChunks": [
        {
          "source": "0",
          "sourceMetadata": {
            "uri": "https://vertexaisearch.cloud.google.com/grounding-api-redirect/{unique_string}",
            "domain": "cloud.google.com"
          }
        }
      ],
      "groundingSupport": [
        {
          "claimText": "To delete a data store in Vertex AI Agent Builder, you must first purge all data from the data store. ",
          "supportChunkIndices": [
            0
          ]
        }
      ],
      "webSearchQueries": [
        "how to delete a data store in vertex ai agent builder"
      ],
      "searchEntryPoint": {
        "renderedContent": "\u003cstyle\u003e\n.container {\n  align-items: center;\n  border-radius: 8px;\n  display: flex;\n  font-family: Google Sans, Roboto, sans-serif;\n  font-size: 14px;\n  line-height: 20px;\n  padding: 8px 12px;\n}\n.chip {\n  display: inline-block;\n  border: solid 1px;\n  border-radius: 16px;\n  min-width: 14px;\n  padding: 5px 16px;\n  text-align: center;\n  user-select: none;\n  margin: 0 8px;\n  -webkit-tap-highlight-color: transparent;\n}\n.carousel {\n  overflow: auto;\n  scrollbar-width: none;\n  white-space: nowrap;\n  margin-right: -12px;\n}\n.headline {\n  display: flex;\n  margin-right: 4px;\n}\n.gradient-container {\n  position: relative;\n}\n.gradient {\n  position: absolute;\n  transform: translate(3px, -9px);\n  height: 36px;\n  width: 9px;\n}\n@media (prefers-color-scheme: light) {\n  .container {\n    background-color: #fafafa;\n    box-shadow: 0 0 0 1px #0000000f;\n  }\n  .headline-label {\n    color: #1f1f1f;\n  }\n  .chip {\n    background-color: #ffffff;\n    border-color: #d2d2d2;\n    color: #5e5e5e;\n    text-decoration: none;\n  }\n  .chip:hover {\n    background-color: #f2f2f2;\n  }\n  .chip:focus {\n    background-color: #f2f2f2;\n  }\n  .chip:active {\n    background-color: #d8d8d8;\n    border-color: #b6b6b6;\n  }\n  .logo-dark {\n    display: none;\n  }\n  .gradient {\n    background: linear-gradient(90deg, #fafafa 15%, #fafafa00 100%);\n  }\n}\n@media (prefers-color-scheme: dark) {\n  .container {\n    background-color: #1f1f1f;\n    box-shadow: 0 0 0 1px #ffffff26;\n  }\n  .headline-label {\n    color: #fff;\n  }\n  .chip {\n    background-color: #2c2c2c;\n    border-color: #3c4043;\n    color: #fff;\n    text-decoration: none;\n  }\n  .chip:hover {\n    background-color: #353536;\n  }\n  .chip:focus {\n    background-color: #353536;\n  }\n  .chip:active {\n    background-color: #464849;\n    border-color: #53575b;\n  }\n  .logo-light {\n    display: none;\n  }\n  .gradient {\n    background: linear-gradient(90deg, #1f1f1f 15%, #1f1f1f00 100%);\n  }\n}\n\u003c/style\u003e\n\u003cdiv class=\"container\"\u003e\n  \u003cdiv class=\"headline\"\u003e\n    \u003csvg class=\"logo-light\" width=\"18\" height=\"18\" viewBox=\"9 9 35 35\" fill=\"none\" xmlns=\"http://www.w3.org/2000/svg\"\u003e\n      \u003cpath fill-rule=\"evenodd\" clip-rule=\"evenodd\" d=\"M42.8622 27.0064C42.8622 25.7839 42.7525 24.6084 42.5487 23.4799H26.3109V30.1568H35.5897C35.1821 32.3041 33.9596 34.1222 32.1258 35.3448V39.6864H37.7213C40.9814 36.677 42.8622 32.2571 42.8622 27.0064V27.0064Z\" fill=\"#4285F4\"/\u003e\n      \u003cpath fill-rule=\"evenodd\" clip-rule=\"evenodd\" d=\"M26.3109 43.8555C30.9659 43.8555 34.8687 42.3195 37.7213 39.6863L32.1258 35.3447C30.5898 36.3792 28.6306 37.0061 26.3109 37.0061C21.8282 37.0061 18.0195 33.9811 16.6559 29.906H10.9194V34.3573C13.7563 39.9841 19.5712 43.8555 26.3109 43.8555V43.8555Z\" fill=\"#34A853\"/\u003e\n      \u003cpath fill-rule=\"evenodd\" clip-rule=\"evenodd\" d=\"M16.6559 29.8904C16.3111 28.8559 16.1074 27.7588 16.1074 26.6146C16.1074 25.4704 16.3111 24.3733 16.6559 23.3388V18.8875H10.9194C9.74388 21.2072 9.06992 23.8247 9.06992 26.6146C9.06992 29.4045 9.74388 32.022 10.9194 34.3417L15.3864 30.8621L16.6559 29.8904V29.8904Z\" fill=\"#FBBC05\"/\u003e\n      \u003cpath fill-rule=\"evenodd\" clip-rule=\"evenodd\" d=\"M26.3109 16.2386C28.85 16.2386 31.107 17.1164 32.9095 18.8091L37.8466 13.8719C34.853 11.082 30.9659 9.3736 26.3109 9.3736C19.5712 9.3736 13.7563 13.245 10.9194 18.8875L16.6559 23.3388C18.0195 19.2636 21.8282 16.2386 26.3109 16.2386V16.2386Z\" fill=\"#EA4335\"/\u003e\n    \u003c/svg\u003e\n    \u003csvg class=\"logo-dark\" width=\"18\" height=\"18\" viewBox=\"0 0 48 48\" xmlns=\"http://www.w3.org/2000/svg\"\u003e\n      \u003ccircle cx=\"24\" cy=\"23\" fill=\"#FFF\" r=\"22\"/\u003e\n      \u003cpath d=\"M33.76 34.26c2.75-2.56 4.49-6.37 4.49-11.26 0-.89-.08-1.84-.29-3H24.01v5.99h8.03c-.4 2.02-1.5 3.56-3.07 4.56v.75l3.91 2.97h.88z\" fill=\"#4285F4\"/\u003e\n      \u003cpath d=\"M15.58 25.77A8.845 8.845 0 0 0 24 31.86c1.92 0 3.62-.46 4.97-1.31l4.79 3.71C31.14 36.7 27.65 38 24 38c-5.93 0-11.01-3.4-13.45-8.36l.17-1.01 4.06-2.85h.8z\" fill=\"#34A853\"/\u003e\n      \u003cpath d=\"M15.59 20.21a8.864 8.864 0 0 0 0 5.58l-5.03 3.86c-.98-2-1.53-4.25-1.53-6.64 0-2.39.55-4.64 1.53-6.64l1-.22 3.81 2.98.22 1.08z\" fill=\"#FBBC05\"/\u003e\n      \u003cpath d=\"M24 14.14c2.11 0 4.02.75 5.52 1.98l4.36-4.36C31.22 9.43 27.81 8 24 8c-5.93 0-11.01 3.4-13.45 8.36l5.03 3.85A8.86 8.86 0 0 1 24 14.14z\" fill=\"#EA4335\"/\u003e\n    \u003c/svg\u003e\n    \u003cdiv class=\"gradient-container\"\u003e\u003cdiv class=\"gradient\"\u003e\u003c/div\u003e\u003c/div\u003e\n  \u003c/div\u003e\n  \u003cdiv class=\"carousel\"\u003e\n    \u003ca class=\"chip\" href=\"https://www.google.com/search?q=how+to+delete+a+data+store+in+vertex+ai+agent+builder&client=app-vertex-grounding&safesearch=active\"\u003ehow to delete a data store in vertex ai agent builder\u003c/a\u003e\n  \u003c/div\u003e\n\u003c/div\u003e\n"
      }
    }
  }
]
}
,
{
"candidates": [
  {
    "content": {
      "role": "model",
      "parts": [
        {
          "text": "You can purge data from a data store"
        }
      ]
    }
  }
]
}
,
{
"candidates": [
  {
    "content": {
      "role": "model",
      "parts": [
        {
          "text": " using the Google Cloud console or the command line. "
        }
      ]
    }
  }
]
}
,
{
"candidates": [
  {
    "groundingMetadata": {
      "groundingSupport": [
        {
          "claimText": "You can purge data from a data store using the Google Cloud console or the command line. ",
          "supportChunkIndices": [
            0
          ]
        }
      ]
    }
  }
]
}
,
{
"candidates": [
  {
    "content": {
      "role": "model",
      "parts": [
        {
          "text": "Once the data is purged, you can delete the data store. "
        }
      ]
    }
  }
]
}
,
{
"candidates": [
  {
    "groundingMetadata": {
      "groundingSupport": [
        {
          "claimText": "Once the data is purged, you can delete the data store. ",
          "supportChunkIndices": [
            0
          ]
        }
      ]
    }
  }
]
}
,
{
"candidates": [
  {
    "content": {
      "role": "model",
      "parts": [
        {
          "text": "You cannot delete"
        }
      ]
    }
  }
]
}
,
{
"candidates": [
  {
    "content": {
      "role": "model",
      "parts": [
        {
          "text": " a data store that is connected to an app. "
        }
      ]
    }
  }
]
}
,
{
"candidates": [
  {
    "groundingMetadata": {
      "groundingSupport": [
        {
          "claimText": "You cannot delete a data store that is connected to an app. ",
          "supportChunkIndices": [
            0
          ]
        }
      ]
    }
  }
]
}
,
{
"candidates": [
  {
    "content": {
      "role": "model",
      "parts": [
        {
          "text": "You must first delete the app that the data store is connected to. "
        }
      ]
    }
  }
]
}
,
{
"candidates": [
  {
    "groundingMetadata": {
      "groundingSupport": [
        {
          "claimText": "You must first delete the app that the data store is connected to. ",
          "supportChunkIndices": [
            0
          ]
        }
      ]
    }
  }
]
}
,
{
"candidates": [
  {
    "content": {
      "role": "model",
      "parts": [
        {
          "text": "You also"
        }
      ]
    }
  }
]
}
,
{
"candidates": [
  {
    "content": {
      "role": "model",
      "parts": [
        {
          "text": " cannot delete a data store that is in the process of upgrading or downgrading. "
        }
      ]
    }
  }
]
}
,
{
"candidates": [
  {
    "groundingMetadata": {
      "groundingSupport": [
        {
          "claimText": "You also cannot delete a data store that is in the process of upgrading or downgrading. ",
          "supportChunkIndices": [
            0
          ]
        }
      ]
    }
  }
]
}
,
{
"candidates": [
  {
    "content": {
      "role": "model",
      "parts": [
        {
          "text": "You must wait for the upgrade or downgrade to complete before deleting the data store."
        }
      ]
    }
  }
]
}
,
{
"candidates": [
  {
    "content": {
      "role": "model",
      "parts": [
        {
          "text": " \n"
        }
      ]
    }
  }
]
}
,
{
"candidates": [
  {
    "groundingMetadata": {
      "groundingSupport": [
        {
          "claimText": "You must wait for the upgrade or downgrade to complete before deleting the data store. \n",
          "supportChunkIndices": [
            0
          ]
        }
      ]
    }
  }
]
}
]

Modelli supportati

I seguenti modelli supportano la messa a terra:

• Gemini 1.5 Pro solo con input di testo
• Gemini 1.5 Flash con solo input di testo
• Gemini 1.0 Pro solo con input di testo

Per scoprire di più su questi modelli Gemini, consulta Versioni e ciclo di vita dei modelli Gemini.

Quando chiami il metodo generateGroundedContent, puoi utilizzare i seguenti ID modello:

ID modello	Aggiornato automaticamente
default	Sì
gemini-1.0-pro	Sì
gemini-1.0-pro-001	No
gemini-1.0-pro-002	No
gemini-1.5-flash	Sì
gemini-1.5-flash-001	No
gemini-1.5-flash-002	No
gemini-1.5-pro	Sì
gemini-1.5-pro-001	No
gemini-1.5-pro-002	No

Modelli ad alta fedeltà

Anteprima

Questo prodotto o funzionalità è soggetto ai "Termini delle Offerte pre-GA" nella sezione Termini generali del servizio dei Termini specifici del servizio. I prodotti e le funzionalità pre-GA sono disponibili "così come sono" e potrebbero avere un supporto limitato. Per saperne di più, consulta le descrizioni della fase di lancio.

Per i casi d'uso generici, come l'assistenza per i viaggi, il metodo di generazione di risposte basate su dati può generare buoni risultati unendo il contesto fornito, come il testo in linea o i dati aziendali, con l'addestramento del modello. Tuttavia, i settori specializzati, come i servizi finanziari, la sanità e le assicurazioni, spesso richiedono che i risultati generati provengano esclusivamente dal contesto fornito. Per supportare questi casi d'uso basati su dati, è disponibile il seguente modello ad alta fedeltà da utilizzare con il metodo di generazione di risposte basate su dati:

Nome modello	ID modello	Basata su	Finestra di contesto	Descrizione
Alta fedeltà Gemini 1.5 Flash	gemini-1.5-flash-002-high-fidelity	Modello Gemini 1.5 Flash	32.000	Accetta prompt di testo come input e genera risposte di testo basate sul contesto. Si concentra su precisione, affidabilità e sicurezza.

Passaggi successivi

Scopri come utilizzare il metodo di generazione con grounding con altre API RAG per generare risposte basate su dati non strutturati.