Per creare un datastore e importare i dati per la ricerca, vai alla sezione relativa all'origine che prevedi di utilizzare:
- Creare un datastore utilizzando i contenuti del sito web
- Importa da BigQuery
- Importa da Cloud Storage
- Sincronizzare da Google Drive
- Sincronizzazione da Gmail (anteprima pubblica)
- Sincronizzazione da Google Sites (Anteprima pubblica)
- Sincronizzazione da Google Calendar (anteprima pubblica)
- Sincronizzazione da Google Gruppi (Anteprima pubblica)
- Importa da Cloud SQL
- Importazione da Spanner (anteprima pubblica)
- Importa da Firestore
- Importa da Bigtable (Anteprima pubblica)
- Importazione da AlloyDB per PostgreSQL (anteprima pubblica)
- Caricare dati JSON strutturati con l'API
- Creare un datastore utilizzando Terraform
Per sincronizzare i dati da un'origine dati di terze parti, consulta Connettere un'origine dati di terze parti.
Limitazioni
Se hai criteri dell'organizzazione per le chiavi di crittografia gestite dal cliente (CMEK), devi creare nuovi data store utilizzando l'API, non la console Google Cloud. La creazione di nuovi magazzini di dati utilizzando la console Google Cloud non va a buon fine se hai attivato i criteri dell'organizzazione CMEK. Per maggiori informazioni sul supporto delle chiavi CMEK per Vertex AI Search, consulta Chiavi di crittografia gestite dal cliente.
Creare un datastore utilizzando i contenuti del sito web
Utilizza la procedura seguente per creare un datastore e indicizzare i siti web.
Per utilizzare un datastore del sito web dopo averlo creato, devi collegarlo a un'app in cui sono attive le funzionalità Enterprise. Puoi attivare la versione Enterprise per un'app al momento della sua creazione. Questa operazione comporta costi aggiuntivi. Consulta Creare un'app di ricerca e Informazioni sulle funzionalità avanzate.
Prima di iniziare
Prima di creare un sito web, decidi se eseguire un aggiornamento solo della sitemap o un aggiornamento combinato con altri metodi. Per ulteriori informazioni su questi metodi di aggiornamento, consulta Indicizzare e aggiornare le pagine web utilizzando le sitemap.
Se vuoi eseguire un aggiornamento solo della sitemap, devi disattivare l'indicizzazione automatica e l'aggiornamento automatico nel tuo datastore. Per creare un datastore disattivando l'indicizzazione automatica e l'aggiornamento automatico, consulta Attivare l'aggiornamento solo della mappa del sito in un datastore.
Procedura
Console
Per utilizzare la console Google Cloud per creare un datastore e indicizzare i siti web, segui questi passaggi:
Nella console Google Cloud, vai alla pagina Agent Builder.
Nel menu di navigazione, fai clic su Datastore.
Fai clic su Crea datastore.
Nella pagina Origine, seleziona Contenuti dei siti web.
Scegli se attivare l'indicizzazione avanzata dei siti web per questo datastore. Questa opzione non può essere attivata o disattivata in un secondo momento.
L'indicizzazione avanzata del sito web offre funzionalità aggiuntive come il riepilogo della ricerca, la ricerca con follow-up e le risposte estrattive. L'indicizzazione avanzata dei siti web comporta costi aggiuntivi e richiede la verifica della proprietà del dominio per tutti i siti web che indicizzi. Per ulteriori informazioni, consulta la sezione Indicizzazione avanzata dei siti web e Prezzi.
Nel campo Siti da includere, inserisci i pattern URL corrispondenti ai siti web che vuoi includere nel tuo datastore. Includi un pattern URL per riga, senza virgole. Ad esempio:
www.example.com/docs/*
(Facoltativo) Nel campo Siti da escludere, inserisci i pattern di URL che vuoi escludere dal tuo datastore.
Per conoscere il numero di pattern di URL che puoi includere o escludere, consulta la sezione Dati del sito web.
Fai clic su Continua.
Seleziona una posizione per il tuo datastore. Per selezionare una località, l'indicizzazione avanzata dei siti web deve essere attivata.
Inserisci un nome per il tuo datastore.
Fai clic su Crea. Vertex AI Search crea il datastore e lo visualizza nella pagina Datastore.
Per visualizzare le informazioni sul tuo datastore, fai clic sul nome del datastore nella colonna Nome. Viene visualizzata la pagina del tuo datastore.
- Se hai attivato l'Indicizzazione avanzata dei siti web, viene visualizzato un avviso che ti chiede di verificare i domini nel tuo datastore.
- Se hai un disavanzo di quota (il numero di pagine dei siti web che hai specificato supera la quota "Numero di documenti per progetto" per il tuo progetto), viene visualizzato un avviso aggiuntivo che ti chiede di eseguire l'upgrade della quota.
Per verificare i domini per i pattern URL nel tuo datastore, segui le istruzioni riportate nella pagina Verificare i domini dei siti web.
Per eseguire l'upgrade della quota:
- Fai clic su Esegui upgrade della quota. Viene visualizzata la pagina IAM e amministrazione della console Google Cloud.
- Segui le istruzioni riportate in Richiedere un limite di quota più alto nella documentazione di Google Cloud. La quota da aumentare è Numero di documenti nel servizio API Discovery Engine.
- Dopo aver inviato la richiesta di un limite di quota più elevato, torna alla pagina Agent Builder e fai clic su Datastore nel menu di navigazione.
- Fai clic sul nome del tuo datastore nella colonna Nome. La colonna Stato indica che l'indicizzazione è in corso per i siti web che hanno superato la quota. Quando la colonna Stato di un URL mostra Indicizzato, le funzionalità di indicizzazione avanzata del sito web sono disponibili per quell'URL o pattern URL.
Per ulteriori informazioni, consulta la sezione Quota per l'indicizzazione delle pagine web nella pagina "Quote e limiti".
Python
Per ulteriori informazioni, consulta la documentazione di riferimento dell'API Python Vertex AI Agent Builder.
Per autenticarti in Vertex AI Agent Builder, configura le Credenziali predefinite dell'applicazione. Per ulteriori informazioni, consulta Configurare l'autenticazione per un ambiente di sviluppo locale.
Crea un datastore
Importare siti web
Passaggi successivi
Per collegare il datastore del tuo sito web a un'app, crea un'app con le funzionalità di Enterprise attivate e seleziona il datastore seguendo i passaggi descritti in Creare un'app di ricerca.
Per visualizzare l'anteprima dell'aspetto dei risultati di ricerca dopo la configurazione dell'app e del datastore, consulta Generare risultati di ricerca.
Importa da BigQuery
Puoi creare magazzini di dati dalle tabelle BigQuery in due modi:
Importazione una tantum: importi i dati da una tabella BigQuery in un datastore. I dati nell'datastore non cambiano, a meno che non aggiorni manualmente i dati.
Importazione periodica: importa i dati da una o più tabelle BigQuery e imposta una frequenza di sincronizzazione che determina la frequenza con cui i depositi di dati vengono aggiornati con i dati più recenti del set di dati BigQuery.
La tabella seguente mette a confronto i due modi in cui puoi importare i dati BigQuery nei datastore di Vertex AI Search.
Importazione una tantum | Importazione periodica |
---|---|
Generalmente disponibile (GA). | Anteprima pubblica. |
I dati devono essere aggiornati manualmente. | I dati vengono aggiornati automaticamente ogni 1, 3 o 5 giorni. I dati non possono essere aggiornati manualmente. |
Vertex AI Search crea un singolo datastore da una tabella in BigQuery. | Vertex AI Search crea un connettore dati per un set di dati BigQuery e un datastore (chiamato data datastore entità) per ogni tabella specificata. Per ogni connettore di dati, le tabelle devono avere lo stesso tipo di dati (ad esempio, strutturati) e trovarsi nello stesso set di dati BigQuery. |
I dati di più tabelle possono essere combinati in un unico datastore importando prima i dati di una tabella e poi altri dati da un'altra origine o tabella BigQuery. | Poiché l'importazione manuale dei dati non è supportata, i dati in un datastore delle entità possono provenire solo da una tabella BigQuery. |
Il controllo dell'accesso all'origine dati è supportato. | Controllo dell'accesso all'origine dati non è supportato. I dati importati possono contenere controlli di accesso, ma questi controlli non verranno rispettati. |
Puoi creare un datastore utilizzando la console Google Cloud o l'API. | Devi utilizzare la console per creare i connettori di dati e i relativi magazzini di dati delle entità. |
Conformità a CMEK. | Non conforme a CMEK. |
Importa una volta da BigQuery
Per importare i dati da una tabella BigQuery, segui questi passaggi per creare un datastore e importare i dati utilizzando la console Google Cloud o l'API.
Prima di importare i dati, consulta Preparare i dati per l'importazione.
Console
Per utilizzare la console Google Cloud per importare i dati da BigQuery:
Nella console Google Cloud, vai alla pagina Agent Builder.
Vai alla pagina Datastore.
Fai clic su Nuovo datastore.
Nella pagina Origine, seleziona BigQuery.
Seleziona il tipo di dati che stai importando.
Fai clic su Una tantum.
Nel campo Percorso BigQuery, fai clic su Sfoglia, seleziona una tabella che hai preparato per l'importazione e poi fai clic su Seleziona. In alternativa, inserisci la posizione della tabella direttamente nel campo Percorso BigQuery.
Fai clic su Continua.
Se esegui l'importazione una tantum dei dati strutturati:
Mappa i campi alle proprietà chiave.
Se nello schema mancano campi importanti, utilizza Aggiungi nuovo campo per aggiungerli.
Per saperne di più, consulta Informazioni sul rilevamento automatico e sull'editing.
Fai clic su Continua.
Scegli una regione per il tuo datastore.
Inserisci un nome per il tuo datastore.
Fai clic su Crea.
Per controllare lo stato dell'importazione, vai alla pagina Datastore e fai clic sul nome del datastore per visualizzarne i dettagli nella pagina Dati. Quando la colonna dello stato nella scheda Attività passa da In corso a Importazione completata, l'importazione è completata.
A seconda delle dimensioni dei dati, l'importazione può richiedere da alcuni minuti a diverse ore.
REST
Per utilizzare la riga di comando per creare un datastore e importare i dati da BigQuery, segui questi passaggi.
Crea un datastore.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -H "X-Goog-User-Project: PROJECT_ID" \ "https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores?dataStoreId=DATA_STORE_ID" \ -d '{ "displayName": "DATA_STORE_DISPLAY_NAME", "industryVertical": "GENERIC", "solutionTypes": ["SOLUTION_TYPE_SEARCH"] }'
Sostituisci quanto segue:
PROJECT_ID
: l'ID del tuo progetto Google Cloud.DATA_STORE_ID
: l'ID del datastore di Vertex AI Search che vuoi creare. Questo ID può contenere solo lettere minuscole, cifre, trattini bassi e trattini.DATA_STORE_DISPLAY_NAME
: il nome visualizzato del datastore di ricerca Vertex AI che vuoi creare.
(Facoltativo) Se carichi dati non strutturati e vuoi configurare l'analisi del testo o attivare l'aggregazione dei documenti per RAG, specifica l'oggetto
documentProcessingConfig
e includilo nella richiesta di creazione del datastore. Ti consigliamo di configurare un analizzatore OCR per i PDF se importi PDF scansionati. Per informazioni su come configurare le opzioni di analisi o suddivisione in blocchi, vedi Eseguire l'analisi e suddividere i documenti in blocchi.Importa i dati da BigQuery.
Se hai definito uno schema, assicurati che i dati siano conformi.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/branches/0/documents:import" \ -d '{ "bigquerySource": { "projectId": "PROJECT_ID", "datasetId":"DATASET_ID", "tableId": "TABLE_ID", "dataSchema": "DATA_SCHEMA", "aclEnabled": "BOOLEAN" }, "reconciliationMode": "RECONCILIATION_MODE", "autoGenerateIds": "AUTO_GENERATE_IDS", "idField": "ID_FIELD", "errorConfig": { "gcsPrefix": "ERROR_DIRECTORY" } }'
Sostituisci quanto segue:
PROJECT_ID
: l'ID del tuo progetto Google Cloud.DATA_STORE_ID
: l'ID dello datastore di Vertex AI Search.DATASET_ID
: l'ID del set di dati BigQuery.TABLE_ID
: l'ID della tabella BigQuery.- Se la tabella BigQuery non è in PROJECT_ID, devi concedere all'account di servizio
service-<project number>@gcp-sa-discoveryengine.iam.gserviceaccount.com
l'autorizzazione "Visualizzatore dei dati BigQuery" per la tabella BigQuery. Ad esempio, se importi una tabella BigQuery dal progetto di origine "123" al progetto di destinazione "456", concediservice-456@gcp-sa-discoveryengine.iam.gserviceaccount.com
i permessi per la tabella BigQuery nel progetto "123".
- Se la tabella BigQuery non è in PROJECT_ID, devi concedere all'account di servizio
DATA_SCHEMA
: facoltativo. I valori sonodocument
ecustom
. Il valore predefinito èdocument
.document
: la tabella BigQuery da utilizzare deve essere conforme allo schema BigQuery predefinito fornito in Preparare i dati per l'importazione. Puoi definire autonomamente l'ID di ogni documento, inserendo tutti i dati nella stringa jsonData.custom
: qualsiasi schema di tabella BigQuery è accettato e Vertex AI Search genera automaticamente gli ID per ogni documento importato.
ERROR_DIRECTORY
: facoltativo. Una directory Cloud Storage per le informazioni sugli errori relativi all'importazione, ad esempiogs://<your-gcs-bucket>/directory/import_errors
. Google consiglia di lasciare vuoto questo campo per consentire a Vertex AI Search di creare automaticamente una directory temporanea.RECONCILIATION_MODE
: facoltativo. I valori sonoFULL
eINCREMENTAL
. Il valore predefinito èINCREMENTAL
. La specifica diINCREMENTAL
provoca un aggiornamento incrementale dei dati da BigQuery al tuo datastore. Viene eseguita un'operazione di upsert, che aggiunge nuovi documenti e sostituisce quelli esistenti con documenti aggiornati con lo stesso ID. Se specifichiFULL
, viene eseguita una rebase completa dei documenti nel tuo datastore. In altre parole, i documenti nuovi e aggiornati vengono aggiunti al tuo datastore e quelli che non sono in BigQuery vengono rimossi. La modalitàFULL
è utile se vuoi eliminare automaticamente i documenti che non ti servono più.AUTO_GENERATE_IDS
: facoltativo. Specifica se generare automaticamente gli ID documento. Se impostato sutrue
, gli ID documento vengono generati in base a un hash del payload. Tieni presente che gli ID documento generati potrebbero non rimanere coerenti in più importazioni. Se generi automaticamente gli ID in più importazioni, Google consiglia vivamente di impostarereconciliationMode
suFULL
per mantenere ID documento coerenti.Specifica
autoGenerateIds
solo quandobigquerySource.dataSchema
è impostato sucustom
. In caso contrario, viene restituito un erroreINVALID_ARGUMENT
. Se non specifichiautoGenerateIds
o lo imposti sufalse
, devi specificareidField
. In caso contrario, l'importazione dei documenti non andrà a buon fine.ID_FIELD
: facoltativo. Specifica quali campi sono gli ID documento. Per i file di origine BigQuery,idField
indica il nome della colonna nella tabella BigQuery che contiene gli ID documento.Specifica
idField
solo se: (1)bigquerySource.dataSchema
è impostato sucustom
e (2)auto_generate_ids
è impostato sufalse
o non è specificato. In caso contrario, viene restituito un erroreINVALID_ARGUMENT
.Il valore del nome della colonna BigQuery deve essere di tipo stringa, deve essere compreso tra 1 e 63 caratteri e deve essere conforme a RFC-1034. In caso contrario, l'importazione dei documenti non andrà a buon fine.
C#
Per ulteriori informazioni, consulta la documentazione di riferimento dell'API C# Vertex AI Agent Builder.
Per autenticarti in Vertex AI Agent Builder, configura le Credenziali predefinite dell'applicazione. Per ulteriori informazioni, consulta Configurare l'autenticazione per un ambiente di sviluppo locale.
Crea un datastore
Importa documenti
Go
Per ulteriori informazioni, consulta la documentazione di riferimento dell'API Go Vertex AI Agent Builder.
Per autenticarti in Vertex AI Agent Builder, configura le Credenziali predefinite dell'applicazione. Per ulteriori informazioni, consulta Configurare l'autenticazione per un ambiente di sviluppo locale.
Crea un datastore
Importa documenti
Java
Per ulteriori informazioni, consulta la documentazione di riferimento dell'API Java Vertex AI Agent Builder.
Per autenticarti in Vertex AI Agent Builder, configura le Credenziali predefinite dell'applicazione. Per ulteriori informazioni, consulta Configurare l'autenticazione per un ambiente di sviluppo locale.
Crea un datastore
Importa documenti
Node.js
Per ulteriori informazioni, consulta la documentazione di riferimento dell'API Node.js Vertex AI Agent Builder.
Per autenticarti in Vertex AI Agent Builder, configura le Credenziali predefinite dell'applicazione. Per ulteriori informazioni, consulta Configurare l'autenticazione per un ambiente di sviluppo locale.
Crea un datastore
Importa documenti
Python
Per ulteriori informazioni, consulta la documentazione di riferimento dell'API Python Vertex AI Agent Builder.
Per autenticarti in Vertex AI Agent Builder, configura le Credenziali predefinite dell'applicazione. Per ulteriori informazioni, consulta Configurare l'autenticazione per un ambiente di sviluppo locale.
Crea un datastore
Importa documenti
Ruby
Per ulteriori informazioni, consulta la documentazione di riferimento dell'API Ruby Vertex AI Agent Builder.
Per autenticarti in Vertex AI Agent Builder, configura le Credenziali predefinite dell'applicazione. Per ulteriori informazioni, consulta Configurare l'autenticazione per un ambiente di sviluppo locale.
Crea un datastore
Importa documenti
Connettiti a BigQuery con sincronizzazione periodica
Prima di importare i dati, consulta Preparare i dati per l'importazione.
La procedura seguente descrive come creare un connettore dati che associ un set di dati BigQuery a un connettore dati Vertex AI Search e come specificare una tabella nel set di dati per ogni datastore che vuoi creare. I datastore che sono figli di connettori dati sono chiamati datastore di entità.
I dati del set di dati vengono sincronizzati periodicamente con i datastore delle entità. Puoi specificare la sincronizzazione giornaliera, ogni tre giorni o ogni cinque giorni.
Console
Per utilizzare la console Google Cloud per creare un connettore che sincronizzi periodicamente i dati da un set di dati BigQuery a Vertex AI Search, segui questi passaggi:
Nella console Google Cloud, vai alla pagina Agent Builder.
Nel menu di navigazione, fai clic su Datastore.
Fai clic su Crea datastore.
Nella pagina Origine, seleziona BigQuery.
Seleziona il tipo di dati da importare.
Fai clic su Periodico.
Seleziona la Frequenza di sincronizzazione, ovvero la frequenza con cui vuoi che il connettore di ricerca Vertex AI si sincronizzi con il set di dati BigQuery. Puoi modificare la frequenza in un secondo momento.
Nel campo Percorso del set di dati BigQuery, fai clic su Sfoglia, seleziona il set di dati che contiene le tabelle che hai preparato per l'importazione. In alternativa, inserisci la posizione della tabella direttamente nel campo Percorso BigQuery. Il formato del percorso è
projectname.datasetname
.Nel campo Tabelle da sincronizzare, fai clic su Sfoglia e seleziona una tabella che contiene i dati che ti interessano per il tuo datastore.
Se nel set di dati sono presenti altre tabelle che vuoi utilizzare per i depositi di dati, fai clic su Aggiungi tabella e specifica anche queste tabelle.
Fai clic su Continua.
Scegli una regione per il datastore, inserisci un nome per il connettore dati e fai clic su Crea.
Ora hai creato un connettore dati che sincronizzerà periodicamente i dati con il set di dati BigQuery. Inoltre, hai creato uno o più magazzini di dati delle entità. Gli archivi dati hanno gli stessi nomi delle tabelle BigQuery.
Per controllare lo stato dell'importazione, vai alla pagina Data Store e fai clic sul nome del connettore dati per visualizzarne i dettagli nella pagina Dati > scheda Attività di importazione dei dati. Quando la colonna dello stato nella scheda Attività passa da In corso a Riuscito, la prima importazione è completata.
A seconda delle dimensioni dei dati, l'importazione può richiedere da alcuni minuti a diverse ore.
Dopo aver configurato l'origine dati e importato i dati per la prima volta, il datastore sincronizza i dati da questa origine con una frequenza selezionata durante la configurazione. La prima sincronizzazione avviene circa un'ora dopo la creazione del connettore dati. La sincronizzazione successiva avviene circa 24, 72 o 120 ore dopo.
Passaggi successivi
Per collegare il datastore a un'app, crea un'app e seleziona il datastore seguendo i passaggi descritti in Creare un'app di ricerca.
Per visualizzare l'anteprima dell'aspetto dei risultati di ricerca dopo la configurazione dell'app e del datastore, consulta Generare risultati di ricerca.
Importa da Cloud Storage
Puoi creare magazzini di dati dalle tabelle Cloud Storage in due modi:
Importazione una tantum: importi i dati da una cartella o da un file Cloud Storage in un datastore. I dati nell'datastore non cambiano, a meno che non li aggiorni manualmente.
Importazione periodica: importi i dati da un file o da una cartella Cloud Storage e imposti una frequenza di sincronizzazione che determina la frequenza con cui il data store viene aggiornato con i dati più recenti della posizione Cloud Storage.
La tabella seguente mette a confronto i due modi in cui puoi importare i dati di Cloud Storage nei datastore di Vertex AI Search.
Importazione una tantum | Importazione periodica |
---|---|
Generalmente disponibile (GA). | Anteprima pubblica. |
I dati devono essere aggiornati manualmente. | I dati vengono aggiornati automaticamente ogni uno, tre o cinque giorni. I dati non possono essere aggiornati manualmente. |
Vertex AI Search crea un singolo datastore da una cartella o un file in Cloud Storage. | Vertex AI Search crea un connettore di dati e lo associa a un datastore (chiamato datastore di entità) per il file o la cartella specificati. Ogni connettore di dati Cloud Storage può avere un singolo datastore delle entità. |
I dati di più file, cartelle e bucket possono essere combinati in un unico datastore importando prima i dati da una posizione Cloud Storage e poi altri dati da un'altra posizione. | Poiché l'importazione manuale dei dati non è supportata, i dati in un datastore di entità possono provenire solo da un file o una cartella Cloud Storage. |
Il controllo dell'accesso all'origine dati è supportato. Per ulteriori informazioni, consulta Controllo dell'accesso alle origini dati. | Controllo dell'accesso all'origine dati non è supportato. I dati importati possono contenere controlli di accesso, ma questi controlli non verranno rispettati. |
Puoi creare un datastore utilizzando la console Google Cloud o l'API. | Devi utilizzare la console per creare i connettori di dati e i relativi magazzini di dati delle entità. |
Conformità a CMEK. | Non conforme a CMEK. |
Importa una volta da Cloud Storage
Per importare i dati da Cloud Storage, segui questi passaggi per creare un datastore e importare i dati utilizzando la console Google Cloud o l'API.
Prima di importare i dati, consulta Preparare i dati per l'importazione.
Console
Per utilizzare la console per importare i dati da un bucket Cloud Storage, segui questi passaggi:
Nella console Google Cloud, vai alla pagina Agent Builder.
Vai alla pagina Datastore.
Fai clic su Nuovo datastore.
Nella pagina Origine, seleziona Cloud Storage.
Nella sezione Seleziona una cartella o un file da importare, seleziona Cartella o File.
Fai clic su Sfoglia e scegli i dati che hai preparato per l'importazione, poi fai clic su Seleziona. In alternativa, inserisci la località direttamente nel campo
gs://
.Seleziona il tipo di dati che stai importando.
Fai clic su Continua.
Se esegui l'importazione una tantum dei dati strutturati:
Mappa i campi alle proprietà chiave.
Se nello schema mancano campi importanti, utilizza Aggiungi nuovo campo per aggiungerli.
Per saperne di più, consulta Informazioni sul rilevamento automatico e sull'editing.
Fai clic su Continua.
Scegli una regione per il tuo datastore.
Inserisci un nome per il tuo datastore.
(Facoltativo) Se hai selezionato documenti non strutturati, puoi selezionare le opzioni di analisi e suddivisione per i documenti. Per confrontare i parser, vedi Eseguire il parsing dei documenti. Per informazioni sul frazionamento, consulta Eseguire il frazionamento dei documenti per RAG.
L'analisi del layout e l'analisi OCR possono comportare costi aggiuntivi. Consulta la pagina Prezzi delle funzionalità di DocAI.
Per selezionare un parser, espandi Opzioni di elaborazione documenti e specifica le opzioni del parser che vuoi utilizzare.
Fai clic su Crea.
Per controllare lo stato dell'importazione, vai alla pagina Datastore e fai clic sul nome del datastore per visualizzarne i dettagli nella pagina Dati. Quando la colonna dello stato nella scheda Attività passa da In corso a Importazione completata, l'importazione è completata.
A seconda delle dimensioni dei dati, l'importazione può richiedere diversi minuti o diverse ore.
REST
Per utilizzare la riga di comando per creare un datastore e importare i dati da Cloud Storage, segui questi passaggi.
Crea un datastore.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -H "X-Goog-User-Project: PROJECT_ID" \ "https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores?dataStoreId=DATA_STORE_ID" \ -d '{ "displayName": "DATA_STORE_DISPLAY_NAME", "industryVertical": "GENERIC", "solutionTypes": ["SOLUTION_TYPE_SEARCH"], "contentConfig": "CONTENT_REQUIRED", }'
Sostituisci quanto segue:
PROJECT_ID
: l'ID del tuo progetto Google Cloud.DATA_STORE_ID
: l'ID del datastore di Vertex AI Search che vuoi creare. Questo ID può contenere solo lettere minuscole, cifre, trattini bassi e trattini.DATA_STORE_DISPLAY_NAME
: il nome visualizzato del datastore di ricerca Vertex AI che vuoi creare.
(Facoltativo) Per configurare l'analisi del documento o attivare il suddivisione in blocchi dei documenti per RAG, specifica l'oggetto
documentProcessingConfig
e includilo nella richiesta di creazione del datastore. Ti consigliamo di configurare un analizzatore OCR per i PDF se importi PDF scansionati. Per informazioni su come configurare le opzioni di analisi o suddivisione in blocchi, vedi Eseguire l'analisi e suddividere i documenti in blocchi.Importa i dati da Cloud Storage.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/branches/0/documents:import" \ -d '{ "gcsSource": { "inputUris": ["INPUT_FILE_PATTERN_1", "INPUT_FILE_PATTERN_2"], "dataSchema": "DATA_SCHEMA", }, "reconciliationMode": "RECONCILIATION_MODE", "autoGenerateIds": "AUTO_GENERATE_IDS", "idField": "ID_FIELD", "errorConfig": { "gcsPrefix": "ERROR_DIRECTORY" } }'
Sostituisci quanto segue:
PROJECT_ID
: l'ID del tuo progetto Google Cloud.DATA_STORE_ID
: l'ID dello datastore di Vertex AI Search.INPUT_FILE_PATTERN
: un pattern di file in Cloud Storage contenente i tuoi documenti.Per i dati strutturati o per i dati non strutturati con metadati, un esempio di pattern del file di input è
gs://<your-gcs-bucket>/directory/object.json
e un esempio di corrispondenza del pattern a uno o più file ègs://<your-gcs-bucket>/directory/*.json
.Per i documenti non strutturati, un esempio è
gs://<your-gcs-bucket>/directory/*.pdf
. Ogni file corrispondente al pattern diventa un documento.Se
<your-gcs-bucket>
non è in PROJECT_ID, devi assegnare all'account di servizioservice-<project number>@gcp-sa-discoveryengine.iam.gserviceaccount.com
le autorizzazioni "Visualizzatore oggetti Storage" per il bucket Cloud Storage. Ad esempio, se importi un bucket Cloud Storage dal progetto di origine "123" al progetto di destinazione "456", concedi le autorizzazioniservice-456@gcp-sa-discoveryengine.iam.gserviceaccount.com
al bucket Cloud Storage nel progetto "123".DATA_SCHEMA
: facoltativo. I valori sonodocument
,custom
,csv
econtent
. Il valore predefinito èdocument
.document
: carica i dati non strutturati con i metadati per i documenti non strutturati. Ogni riga del file deve seguire uno dei seguenti formati. Puoi definire l'ID di ogni documento:{ "id": "<your-id>", "jsonData": "<JSON string>", "content": { "mimeType": "<application/pdf or text/html>", "uri": "gs://<your-gcs-bucket>/directory/filename.pdf" } }
{ "id": "<your-id>", "structData": <JSON object>, "content": { "mimeType": "<application/pdf or text/html>", "uri": "gs://<your-gcs-bucket>/directory/filename.pdf" } }
custom
: carica il file JSON per i documenti strutturati. I dati sono organizzati in base a uno schema. Puoi specificare lo schema; altrimenti viene rilevato automaticamente. Puoi inserire la stringa JSON del documento in un formato coerente direttamente in ogni riga e Vertex AI Search genera automaticamente gli ID per ogni documento importato.content
: carica i documenti non strutturati (PDF, HTML, DOC, TXT, PPTX). L'ID di ogni documento viene generato automaticamente come primi 128 bit di SHA256(GCS_URI) codificati come stringa esadecimale. Puoi specificare più pattern di file di input, a condizione che i file corrispondenti non superino il limite di 100.000 file.csv
: includi una riga di intestazione nel file CSV, con ogni intestazione mappata a un campo del documento. Specifica il percorso del file CSV utilizzando il campoinputUris
.
ERROR_DIRECTORY
: facoltativo. Una directory Cloud Storage per le informazioni sugli errori relativi all'importazione, ad esempiogs://<your-gcs-bucket>/directory/import_errors
. Google consiglia di lasciare vuoto questo campo per consentire a Vertex AI Search di creare automaticamente una directory temporanea.RECONCILIATION_MODE
: facoltativo. I valori sonoFULL
eINCREMENTAL
. Il valore predefinito èINCREMENTAL
. La specifica diINCREMENTAL
provoca un aggiornamento incrementale dei dati da Cloud Storage al tuo datastore. Viene eseguita un'operazione di upsert, che aggiunge nuovi documenti e sostituisce quelli esistenti con documenti aggiornati con lo stesso ID. Se specifichiFULL
, viene eseguita una rebase completa dei documenti nel datastore. In altre parole, i documenti nuovi e aggiornati vengono aggiunti al tuo datastore e quelli che non sono presenti in Cloud Storage vengono rimossi. La modalitàFULL
è utile se vuoi eliminare automaticamente i documenti che non ti servono più.AUTO_GENERATE_IDS
: facoltativo. Specifica se generare automaticamente gli ID documento. Se impostato sutrue
, gli ID documento vengono generati in base a un hash del payload. Tieni presente che gli ID documento generati potrebbero non rimanere coerenti in più importazioni. Se generi automaticamente gli ID in più importazioni, Google consiglia vivamente di impostarereconciliationMode
suFULL
per mantenere gli ID documento coerenti.Specifica
autoGenerateIds
solo quandogcsSource.dataSchema
è impostato sucustom
ocsv
. In caso contrario, viene restituito un erroreINVALID_ARGUMENT
. Se non specifichiautoGenerateIds
o lo imposti sufalse
, devi specificareidField
. In caso contrario, l'importazione dei documenti non andrà a buon fine.ID_FIELD
: facoltativo. Specifica quali campi sono gli ID documento. Per i documenti di origine Cloud Storage,idField
specifica il nome nei campi JSON che sono ID documento. Ad esempio, se{"my_id":"some_uuid"}
è il campo ID documento in uno dei tuoi documenti, specifica"idField":"my_id"
. In questo modo, tutti i campi JSON con il nome"my_id"
vengono identificati come ID documento.Specifica questo campo solo se: (1)
gcsSource.dataSchema
è impostato sucustom
ocsv
e (2)auto_generate_ids
è impostato sufalse
o non è specificato. In caso contrario, viene restituito un erroreINVALID_ARGUMENT
.Tieni presente che il valore del campo JSON di Cloud Storage deve essere di tipo stringa, deve essere compreso tra 1 e 63 caratteri e deve essere conforme a RFC-1034. In caso contrario, l'importazione dei documenti non andrà a buon fine.
Tieni presente che il nome del campo JSON specificato da
id_field
deve essere di tipo stringa, deve essere compreso tra 1 e 63 caratteri e deve essere conforme allo standard RFC-1034. In caso contrario, l'importazione dei documenti non andrà a buon fine.
C#
Per ulteriori informazioni, consulta la documentazione di riferimento dell'API C# Vertex AI Agent Builder.
Per autenticarti in Vertex AI Agent Builder, configura le Credenziali predefinite dell'applicazione. Per ulteriori informazioni, consulta Configurare l'autenticazione per un ambiente di sviluppo locale.
Crea un datastore
Importa documenti
Go
Per ulteriori informazioni, consulta la documentazione di riferimento dell'API Go Vertex AI Agent Builder.
Per autenticarti in Vertex AI Agent Builder, configura le Credenziali predefinite dell'applicazione. Per ulteriori informazioni, consulta Configurare l'autenticazione per un ambiente di sviluppo locale.
Crea un datastore
Importa documenti
Java
Per ulteriori informazioni, consulta la documentazione di riferimento dell'API Java Vertex AI Agent Builder.
Per autenticarti in Vertex AI Agent Builder, configura le Credenziali predefinite dell'applicazione. Per ulteriori informazioni, consulta Configurare l'autenticazione per un ambiente di sviluppo locale.
Crea un datastore
Importa documenti
Node.js
Per ulteriori informazioni, consulta la documentazione di riferimento dell'API Node.js Vertex AI Agent Builder.
Per autenticarti in Vertex AI Agent Builder, configura le Credenziali predefinite dell'applicazione. Per ulteriori informazioni, consulta Configurare l'autenticazione per un ambiente di sviluppo locale.
Crea un datastore
Importa documenti
Python
Per ulteriori informazioni, consulta la documentazione di riferimento dell'API Python Vertex AI Agent Builder.
Per autenticarti in Vertex AI Agent Builder, configura le Credenziali predefinite dell'applicazione. Per ulteriori informazioni, consulta Configurare l'autenticazione per un ambiente di sviluppo locale.
Crea un datastore
Importa documenti
Ruby
Per ulteriori informazioni, consulta la documentazione di riferimento dell'API Ruby Vertex AI Agent Builder.
Per autenticarti in Vertex AI Agent Builder, configura le Credenziali predefinite dell'applicazione. Per ulteriori informazioni, consulta Configurare l'autenticazione per un ambiente di sviluppo locale.
Crea un datastore
Importa documenti
Connettiti a Cloud Storage con la sincronizzazione periodica
Prima di importare i dati, consulta Preparare i dati per l'importazione.
La procedura seguente descrive come creare un connettore dati che associ una posizione Cloud Storage a un connettore dati Vertex AI Search e come specificare una cartella o un file in quella posizione per il datastore che vuoi creare. I datastore figli dei connettori dati sono chiamati datastore entità.
I dati vengono sincronizzati periodicamente con il datastore delle entità. Puoi specificare la sincronizzazione giornaliera, ogni tre giorni o ogni cinque giorni.
Console
Nella console Google Cloud, vai alla pagina Agent Builder.
Vai alla pagina Datastore.
Fai clic su Crea datastore.
Nella pagina Origine, seleziona Cloud Storage.
Seleziona il tipo di dati che stai importando.
Fai clic su Periodico.
Seleziona la frequenza della sincronizzazione, ovvero la frequenza con cui vuoi che il connettore di ricerca Vertex AI si sincronizzi con la posizione di Cloud Storage. Puoi modificare la frequenza in un secondo momento.
Nella sezione Seleziona una cartella o un file da importare, seleziona Cartella o File.
Fai clic su Sfoglia e scegli i dati che hai preparato per l'importazione, poi fai clic su Seleziona. In alternativa, inserisci la località direttamente nel campo
gs://
.Fai clic su Continua.
Scegli una regione per il connettore dati.
Inserisci un nome per il connettore dati.
(Facoltativo) Se hai selezionato documenti non strutturati, puoi selezionare le opzioni di analisi e suddivisione per i documenti. Per confrontare i parser, vedi Eseguire il parsing dei documenti. Per informazioni sul frazionamento, consulta Eseguire il frazionamento dei documenti per RAG.
L'analisi del layout e l'analisi OCR possono comportare costi aggiuntivi. Consulta la pagina Prezzi delle funzionalità di DocAI.
Per selezionare un parser, espandi Opzioni di elaborazione documenti e specifica le opzioni del parser che vuoi utilizzare.
Fai clic su Crea.
Ora hai creato un connettore dati che sincronizzerà periodicamente i dati con la posizione Cloud Storage. Hai anche creato un datastore di entità denominato
gcs_store
.Per controllare lo stato dell'importazione, vai alla pagina Datastore e fai clic sul nome del connettore dati per visualizzarne i dettagli nella pagina Dati.
Scheda Attività di importazione dati. Quando la colonna dello stato nella scheda Attività di importazione dei dati passa da In corso a Riuscito, la prima importazione è completata.
A seconda delle dimensioni dei dati, l'importazione può richiedere da alcuni minuti a diverse ore.
Dopo aver configurato l'origine dati e importato i dati per la prima volta, i dati vengono sincronizzati da questa origine con la frequenza selezionata durante la configurazione. La prima sincronizzazione avviene circa un'ora dopo la creazione del connettore dati. La sincronizzazione successiva avviene circa 24, 72 o 120 ore dopo.
Passaggi successivi
Per collegare il datastore a un'app, crea un'app e seleziona il datastore seguendo i passaggi descritti in Creare un'app di ricerca.
Per visualizzare l'anteprima dell'aspetto dei risultati di ricerca dopo la configurazione dell'app e del datastore, consulta Generare risultati di ricerca.
Connettiti a Google Drive
Per eseguire ricerche nei dati di Google Drive, segui questi passaggi per creare un connettore utilizzando la console Google Cloud.
Prima di iniziare:
Devi aver eseguito l'accesso alla console Google Cloud con lo stesso account che utilizzi per l'istanza di Google Drive che intendi collegare. Vertex AI Search utilizza il tuo ID cliente Google Workspace per connettersi a Google Drive.
Configura controllo dell'accesso per Google Drive. Per informazioni sulla configurazione del controllo dell'accesso dell'accesso, consulta Utilizzare il controllo dell'accesso alle origini dati.
La ricerca avanzata di Google Drive è in anteprima privata. Questa funzionalità è un prerequisito per l'utilizzo del riassunto della ricerca e della ricerca con domande aggiuntive con un datastore di Google Drive. Per utilizzare questa funzionalità, segui la procedura descritta in Utilizzare l'indicizzazione avanzata di Drive.
Console
Per utilizzare la console per rendere disponibili per la ricerca i dati di Google Drive, segui questi passaggi:
Nella console Google Cloud, vai alla pagina Agent Builder.
Vai alla pagina Datastore.
Fai clic su Nuovo datastore.
Nella pagina Origine, seleziona Google Drive.
Scegli una regione per il tuo datastore.
Inserisci un nome per il tuo datastore.
Fai clic su Crea.
Utilizzare l'indicizzazione avanzata delle unità (anteprima privata)
L'indicizzazione avanzata delle unità è in anteprima privata.
Segui questa procedura se prevedi di utilizzare Google Drive con la sintesi della ricerca e la ricerca con follow-up.
Prima di iniziare:
- Per attivare l'indicizzazione avanzata di Drive, devi essere un super amministratore di Google Workspace. Questo perché, con l'indicizzazione avanzata delle unità, Vertex AI Search indicizza i dati di Google Drive.
- Per utilizzare questa funzionalità, devi essere aggiunto alla lista consentita.
Console
Per utilizzare la console per creare un datastore di Google Drive con l'indicizzazione avanzata di Google Drive:
Nella console Google Cloud, vai alla pagina Agent Builder.
Vai alla pagina Datastore.
Fai clic su Nuovo datastore.
Nella pagina Origine, seleziona Google Drive.
Seleziona Indicizzazione avanzata delle unità.
Inserisci il tuo indirizzo email Google Workspace.
Nella sezione Configurare la delega a livello di dominio, esamina le istruzioni e prendi nota dell'ID client dell'account di servizio fornito nel passaggio 4 della sezione.
Configura la delega a livello di dominio:
- Vai alla pagina Delega a livello di dominio della Console di amministrazione Google Workspace e accedi con il tuo account super amministratore.
- Fai clic su Aggiungi nuovo.
- Inserisci l'ID client dell'account di servizio che hai annotato. Questo ID è fornito nelle istruzioni della console Agent Builder nella sezione Configura la delega a livello di dominio.
Inserisci i seguenti ambiti OAuth.
https://www.googleapis.com/auth/drive.readonly, https://www.googleapis.com/auth/admin.directory.user.readonly, https://www.googleapis.com/auth/admin.directory.group.readonly, https://www.googleapis.com/auth/admin.directory.domain.readonly, https://www.googleapis.com/auth/admin.reports.audit.readonly
Fai clic su Autorizza.
Nella console di Agent Builder, fai clic su Continua.
Scegli una regione per il tuo datastore.
Inserisci un nome per il tuo datastore.
Fai clic su Crea. A seconda delle dimensioni dei dati, l'importazione può richiedere da alcuni minuti a diverse ore. Attendi almeno un'ora prima di utilizzare il tuo datastore per la ricerca.
Passaggi successivi
Per collegare il datastore a un'app, crea un'app e seleziona il datastore seguendo i passaggi descritti in Creare un'app di ricerca.
Per visualizzare l'anteprima dell'aspetto dei risultati di ricerca dopo la configurazione dell'app e del datastore, consulta Generare risultati di ricerca.
Collegarti a Gmail
Per cercare i dati di Gmail, segui questi passaggi per creare un datastore e importare i dati utilizzando la console Google Cloud.
Prima di iniziare:
Devi aver eseguito l'accesso alla console Google Cloud con lo stesso account utilizzato per l'istanza Google Workspace che intendi collegare. Vertex AI Search utilizza il tuo ID cliente Google Workspace per connettersi a Gmail.
Configura controllo dell'accesso per Gmail. Per informazioni sulla configurazione del controllo dell'accesso dell'accesso, consulta Utilizzare il controllo dell'accesso alle origini dati.
Console
Per utilizzare la console per rendere i dati di Gmail disponibili per la ricerca, segui questi passaggi:
Nella console Google Cloud, vai alla pagina Agent Builder.
Vai alla pagina Datastore.
Fai clic su Nuovo datastore.
Nella pagina Origine, seleziona Google Gmail.
Scegli una regione per il tuo datastore.
Inserisci un nome per il tuo datastore.
Fai clic su Crea.
Passaggi successivi
Per collegare il datastore a un'app, crea un'app e seleziona il datastore seguendo i passaggi descritti in Creare un'app di ricerca.
Per visualizzare l'anteprima dell'aspetto dei risultati di ricerca dopo la configurazione dell'app e del datastore, consulta Generare risultati di ricerca.
Connettersi a Google Sites
Per eseguire ricerche nei dati di Google Sites, segui questi passaggi per creare un connettore utilizzando la console Google Cloud.
Prima di iniziare:
Devi aver eseguito l'accesso alla console Google Cloud con lo stesso account utilizzato per l'istanza Google Workspace che intendi collegare. Vertex AI Search utilizza il tuo ID cliente Google Workspace per connettersi a Google Sites.
Configura controllo dell'accesso per Google Sites. Per informazioni sulla configurazione del controllo dell'accesso dell'accesso, consulta Utilizzare il controllo dell'accesso alle origini dati.
Console
Per utilizzare la console per rendere disponibili per la ricerca i dati di Google Sites, segui questi passaggi:
Nella console Google Cloud, vai alla pagina Agent Builder.
Vai alla pagina Datastore.
Fai clic su Nuovo datastore.
Nella pagina Origine, seleziona Google Sites.
Scegli una regione per il tuo datastore.
Inserisci un nome per il tuo datastore.
Fai clic su Crea.
Passaggi successivi
Per collegare il datastore a un'app, crea un'app e seleziona il datastore seguendo i passaggi descritti in Creare un'app di ricerca.
Per visualizzare l'anteprima dell'aspetto dei risultati di ricerca dopo la configurazione dell'app e del datastore, consulta Generare risultati di ricerca.
Connessione a Google Calendar
Per eseguire ricerche nei dati di Google Calendar, segui questi passaggi per creare un connettore utilizzando la console Google Cloud.
Prima di iniziare:
Devi aver eseguito l'accesso alla console Google Cloud con lo stesso account utilizzato per l'istanza Google Workspace che intendi collegare. Vertex AI Search utilizza il tuo ID cliente Google Workspace per connettersi a Google Calendar.
Configura controllo dell'accesso per Google Calendar. Per informazioni sulla configurazione del controllo dell'accesso dell'accesso, consulta Utilizzare il controllo dell'accesso alle origini dati.
Console
Per utilizzare la console per rendere disponibili per la ricerca i dati di Google Calendar, segui questi passaggi:
Nella console Google Cloud, vai alla pagina Agent Builder.
Vai alla pagina Datastore.
Fai clic su Nuovo datastore.
Nella pagina Origine, seleziona Google Calendar.
Scegli una regione per il tuo datastore.
Inserisci un nome per il tuo datastore.
Fai clic su Crea.
Passaggi successivi
Per collegare il datastore a un'app, crea un'app e seleziona il datastore seguendo i passaggi descritti in Creare un'app di ricerca.
Per visualizzare l'anteprima dell'aspetto dei risultati di ricerca dopo la configurazione dell'app e del datastore, consulta Generare risultati di ricerca.
Connettiti a Google Gruppi
Per eseguire ricerche nei dati di Google Gruppi, segui questi passaggi per creare un connettore utilizzando la console Google Cloud.
Prima di iniziare:
Devi aver eseguito l'accesso alla console Google Cloud con lo stesso account utilizzato per l'istanza Google Workspace che intendi collegare. Vertex AI Search utilizza il tuo ID cliente Google Workspace per connettersi a Google Gruppi.
Configura controllo dell'accesso per Google Gruppi. Per informazioni sulla configurazione del controllo dell'accesso dell'accesso, consulta Utilizzare il controllo dell'accesso alle origini dati.
Console
Per utilizzare la console per rendere disponibili per la ricerca i dati di Google Gruppi, segui questi passaggi:
Nella console Google Cloud, vai alla pagina Agent Builder.
Vai alla pagina Datastore.
Fai clic su Nuovo datastore.
Nella pagina Origine, seleziona Gruppi Google.
Scegli una regione per il tuo datastore.
Inserisci un nome per il tuo datastore.
Fai clic su Crea. A seconda delle dimensioni dei dati, l'importazione può richiedere da alcuni minuti a diverse ore. Attendi almeno un'ora prima di utilizzare il tuo datastore per la ricerca.
Passaggi successivi
Per collegare il datastore a un'app, crea un'app e seleziona il datastore seguendo i passaggi descritti in Creare un'app di ricerca.
Per visualizzare l'anteprima dell'aspetto dei risultati di ricerca dopo la configurazione dell'app e del datastore, consulta Generare risultati di ricerca.
Importa da Cloud SQL
Per importare i dati da Cloud SQL, segui questi passaggi per configurare l'accesso a Cloud SQL, creare un datastore e importare i dati.
Configurare l'accesso al bucket di staging per le istanze Cloud SQL
Durante l'importazione dei dati da Cloud SQL, i dati vengono prima trasferiti in un bucket Cloud Storage. Segui questi passaggi per concedere a un'istanza Cloud SQL l'accesso ai bucket Cloud Storage.
Nella console Google Cloud, vai alla pagina SQL.
Fai clic sull'istanza Cloud SQL da cui vuoi eseguire l'importazione.
Copia l'identificatore dell'account di servizio dell'istanza, che ha il formato di un indirizzo email, ad esempio
p9876-abcd33f@gcp-sa-cloud-sql.iam.gserviceaccount.com
.Vai alla pagina IAM e amministrazione.
Fai clic su Concedi accesso.
In Nuove entità, inserisci l'identificatore dell'account di servizio dell'istanza e seleziona il ruolo Cloud Storage > Amministratore Storage.
Fai clic su Salva.
Successivo:
Se i tuoi dati Cloud SQL si trovano nello stesso progetto di Vertex AI Search: vai a Importare i dati da Cloud SQL.
Se i dati Cloud SQL si trovano in un progetto diverso da quello di Vertex AI Search: vai a Configurare l'accesso a Cloud SQL da un progetto diverso.
Configurare l'accesso a Cloud SQL da un progetto diverso
Per concedere a Vertex AI Search l'accesso ai dati Cloud SQL di un progetto diverso:
Sostituisci la seguente variabile
PROJECT_NUMBER
con il numero del progetto Vertex AI Search, quindi copia i contenuti del blocco di codice. Questo è l'identificatore del tuo account di servizio Vertex AI Search:service-PROJECT_NUMBER@gcp-sa-discoveryengine.iam.gserviceaccount.com`
Vai alla pagina IAM e amministrazione.
Passa al tuo progetto Cloud SQL nella pagina IAM e amministrazione e fai clic su Concedi l'accesso.
In Nuove entità, inserisci l'identificatore dell'account di servizio e seleziona il ruolo Cloud SQL > Visualizzatore Cloud SQL.
Fai clic su Salva.
A questo punto, vai a Importare dati da Cloud SQL.
Importare dati da Cloud SQL
Console
Per utilizzare la console per importare i dati da Cloud SQL, segui questi passaggi:
Nella console Google Cloud, vai alla pagina Agent Builder.
Vai alla pagina Datastore.
Fai clic su Nuovo datastore.
Nella pagina Origine, seleziona Cloud SQL.
Specifica l'ID progetto, l'ID istanza, l'ID database e l'ID tabella dei dati che intendi importare.
Fai clic su Sfoglia e scegli una posizione intermedia di Cloud Storage in cui esportare i dati, quindi fai clic su Seleziona. In alternativa, inserisci la località direttamente nel campo
gs://
.Seleziona se attivare l'esportazione serverless. L'esportazione serverless comporta costi aggiuntivi. Per informazioni sull'esportazione serverless, consulta Minimizzare l'impatto delle esportazioni sulle prestazioni nella documentazione di Cloud SQL.
Fai clic su Continua.
Scegli una regione per il tuo datastore.
Inserisci un nome per il tuo datastore.
Fai clic su Crea.
Per controllare lo stato dell'importazione, vai alla pagina Datastore e fai clic sul nome del datastore per visualizzarne i dettagli nella pagina Dati. Quando la colonna dello stato nella scheda Attività passa da In corso a Importazione completata, l'importazione è completata.
A seconda delle dimensioni dei dati, l'importazione può richiedere diversi minuti o diverse ore.
REST
Per utilizzare la riga di comando per creare un datastore e importare i dati da Cloud SQL:
Crea un datastore.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -H "X-Goog-User-Project: PROJECT_ID" \ "https://discoveryengine.googleapis.com/v1alpha/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores?dataStoreId=DATA_STORE_ID" \ -d '{ "displayName": "DISPLAY_NAME", "industryVertical": "GENERIC", "solutionTypes": ["SOLUTION_TYPE_SEARCH"], }'
Sostituisci quanto segue:
PROJECT_ID
: l'ID del progetto.DATA_STORE_ID
: l'ID del datastore. L'ID può contenere solo lettere minuscole, cifre, trattini bassi e trattini.DISPLAY_NAME
: il nome visualizzato del datastore. Questo messaggio potrebbe essere visualizzato nella console Google Cloud.
Importa i dati da Cloud SQL.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/branches/0/documents:import" \ -d '{ "cloudSqlSource": { "projectId": "SQL_PROJECT_ID", "instanceId": "INSTANCE_ID", "databaseId": "DATABASE_ID", "tableId": "TABLE_ID", "gcsStagingDir": "STAGING_DIRECTORY" }, "reconciliationMode": "RECONCILIATION_MODE", "autoGenerateIds": "AUTO_GENERATE_IDS", "idField": "ID_FIELD", }'
Sostituisci quanto segue:
PROJECT_ID
: l'ID del tuo progetto Vertex AI Search.DATA_STORE_ID
: l'ID del datastore. L'ID può contenere solo lettere minuscole, cifre, trattini bassi e trattini.SQL_PROJECT_ID
: l'ID del tuo progetto Cloud SQL.INSTANCE_ID
: l'ID dell'istanza Cloud SQL.DATABASE_ID
: l'ID del tuo database Cloud SQL.TABLE_ID
: l'ID della tabella Cloud SQL.STAGING_DIRECTORY
: facoltativo. Una directory Cloud Storage, ad esempiogs://<your-gcs-bucket>/directory/import_errors
.RECONCILIATION_MODE
: facoltativo. I valori sonoFULL
eINCREMENTAL
. Il valore predefinito èINCREMENTAL
. La specifica diINCREMENTAL
provoca un aggiornamento incrementale dei dati da Cloud SQL al tuo datastore. Viene eseguita un'operazione di upsert, che aggiunge nuovi documenti e sostituisce quelli esistenti con documenti aggiornati con lo stesso ID. Se specifichiFULL
, viene eseguita una rebase completa dei documenti nel tuo datastore. In altre parole, i documenti nuovi e aggiornati vengono aggiunti al tuo data store e quelli che non sono presenti in Cloud SQL vengono rimossi. La modalitàFULL
è utile se vuoi eliminare automaticamente i documenti che non ti servono più.
Python
Per ulteriori informazioni, consulta la documentazione di riferimento dell'API Python Vertex AI Agent Builder.
Per autenticarti in Vertex AI Agent Builder, configura le Credenziali predefinite dell'applicazione. Per ulteriori informazioni, consulta Configurare l'autenticazione per un ambiente di sviluppo locale.
Crea un datastore
Importa documenti
Passaggi successivi
Per collegare il datastore a un'app, crea un'app e seleziona il datastore seguendo i passaggi descritti in Creare un'app di ricerca.
Per visualizzare l'anteprima dell'aspetto dei risultati di ricerca dopo la configurazione dell'app e del datastore, consulta Generare risultati di ricerca.
Importa da Spanner
Per importare i dati da Spanner, segui i passaggi riportati di seguito per creare un datastore e importare i dati utilizzando la console Google Cloud o l'API.
Configurare l'accesso a Spanner da un altro progetto
Se i dati di Spanner si trovano nello stesso progetto di Vertex AI Search, vai a Importare i dati da Spanner.
Per concedere a Vertex AI Search l'accesso ai dati di Spanner che si trovano in un altro progetto, segui questi passaggi:
Sostituisci la seguente variabile
PROJECT_NUMBER
con il numero del progetto Vertex AI Search e poi copia i contenuti di questo blocco di codice. Questo è l'identificatore del tuo account di servizio Vertex AI Search:service-PROJECT_NUMBER@gcp-sa-discoveryengine.iam.gserviceaccount.com
Vai alla pagina IAM e amministrazione.
Passa al tuo progetto Spanner nella pagina IAM e amministrazione e fai clic su Concedi l'accesso.
In Nuove entità, inserisci l'identificatore dell'account di servizio e seleziona una delle seguenti opzioni:
- Se non utilizzerai il miglioramento dei dati durante l'importazione, seleziona il ruolo Cloud Spanner > Lettore database Cloud Spanner.
- Se prevedi di utilizzare il miglioramento dei dati durante l'importazione, seleziona il ruolo Cloud Spanner > Amministratore database Cloud Spanner o un ruolo personalizzato con le autorizzazioni di Lettore database Cloud Spanner e spanner.databases.useDataBoost. Per informazioni su Data Boost, consulta la panoramica di Data Boost nella documentazione di Spanner.
Fai clic su Salva.
A questo punto, vai a Importare i dati da Spanner.
Importa dati da Spanner
Console
Per utilizzare la console per importare i dati da Spanner, segui questi passaggi:
Nella console Google Cloud, vai alla pagina Agent Builder.
Vai alla pagina Datastore.
Fai clic su Nuovo datastore.
Nella pagina Origine, seleziona Cloud Spanner.
Specifica l'ID progetto, l'ID istanza, l'ID database e l'ID tabella dei dati che intendi importare.
Seleziona se attivare il potenziamento dei dati. Per informazioni su Data Boost, consulta la panoramica di Data Boost nella documentazione di Spanner.
Fai clic su Continua.
Scegli una regione per il tuo datastore.
Inserisci un nome per il tuo datastore.
Fai clic su Crea.
Per controllare lo stato dell'importazione, vai alla pagina Datastore e fai clic sul nome del datastore per visualizzarne i dettagli nella pagina Dati. Quando la colonna dello stato nella scheda Attività passa da In corso a Importazione completata, l'importazione è completata.
A seconda delle dimensioni dei dati, l'importazione può richiedere diversi minuti o diverse ore.
REST
Per utilizzare la riga di comando per creare un datastore e importare i dati da Spanner:
Crea un datastore.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -H "X-Goog-User-Project: PROJECT_ID" \ "https://discoveryengine.googleapis.com/v1alpha/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores?dataStoreId=DATA_STORE_ID" \ -d '{ "displayName": "DISPLAY_NAME", "industryVertical": "GENERIC", "solutionTypes": ["SOLUTION_TYPE_SEARCH"], "contentConfig": "CONTENT_REQUIRED", }'
Sostituisci quanto segue:
PROJECT_ID
: l'ID del tuo progetto Vertex AI Search.DATA_STORE_ID
: l'ID del datastore. L'ID può contenere solo lettere minuscole, cifre, trattini bassi e trattini.DISPLAY_NAME
: il nome visualizzato del datastore. Questo messaggio potrebbe essere visualizzato nella console Google Cloud.
Importa i dati da Spanner.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/branches/0/documents:import" \ -d '{ "cloudSpannerSource": { "projectId": "SPANNER_PROJECT_ID", "instanceId": "INSTANCE_ID", "databaseId": "DATABASE_ID", "tableId": "TABLE_ID", "enableDataBoost": "DATA_BOOST_BOOLEAN" }, "reconciliationMode": "RECONCILIATION_MODE", "autoGenerateIds": "AUTO_GENERATE_IDS", "idField": "ID_FIELD", }'
Sostituisci quanto segue:
PROJECT_ID
: l'ID del tuo progetto Vertex AI Search.DATA_STORE_ID
: l'ID del datastore.SPANNER_PROJECT_ID
: l'ID del tuo progetto Spanner.INSTANCE_ID
: l'ID dell'istanza Spanner.DATABASE_ID
: l'ID del tuo database Spanner.TABLE_ID
: l'ID della tabella Spanner.DATA_BOOST_BOOLEAN
: facoltativo. L'attivazione di Data Boost. Per informazioni su Data Boost, consulta la panoramica di Data Boost nella documentazione di Spanner.RECONCILIATION_MODE
: facoltativo. I valori sonoFULL
eINCREMENTAL
. Il valore predefinito èINCREMENTAL
. La specifica diINCREMENTAL
provoca un aggiornamento incrementale dei dati da Spanner al tuo datastore. Viene eseguita un'operazione upsert, che aggiunge nuovi documenti e sostituisce quelli esistenti con documenti aggiornati con lo stesso ID. Se specifichiFULL
, viene eseguita una rebase completa dei documenti nel tuo datastore. In altre parole, i documenti nuovi e aggiornati vengono aggiunti al tuo datastore e quelli che non sono in Spanner vengono rimossi dal tuo datastore. La modalitàFULL
è utile se vuoi eliminare automaticamente i documenti che non ti servono più.AUTO_GENERATE_IDS
: facoltativo. Specifica se generare automaticamente gli ID documento. Se impostato sutrue
, gli ID documento vengono generati in base a un hash del payload. Tieni presente che gli ID documento generati potrebbero non rimanere coerenti in più importazioni. Se generi automaticamente gli ID in più importazioni, Google consiglia vivamente di impostarereconciliationMode
suFULL
per mantenere ID documento coerenti.ID_FIELD
: facoltativo. Specifica quali campi sono gli ID documento.
Python
Per ulteriori informazioni, consulta la documentazione di riferimento dell'API Python Vertex AI Agent Builder.
Per autenticarti in Vertex AI Agent Builder, configura le Credenziali predefinite dell'applicazione. Per ulteriori informazioni, consulta Configurare l'autenticazione per un ambiente di sviluppo locale.
Crea un datastore
Importa documenti
Passaggi successivi
Per collegare il datastore a un'app, crea un'app e seleziona il datastore seguendo i passaggi descritti in Creare un'app di ricerca.
Per visualizzare l'anteprima dell'aspetto dei risultati di ricerca dopo la configurazione dell'app e del datastore, consulta Generare risultati di ricerca.
Importa da Firestore
Per importare i dati da Firestore, segui questi passaggi per creare un datastore e importare i dati utilizzando la console Google Cloud o l'API.
Se i tuoi dati Firestore si trovano nello stesso progetto di Vertex AI Search, vai a Importare i dati da Firestore.
Se i dati di Firestore si trovano in un progetto diverso da quello di Vertex AI Search, vai a Configurare l'accesso a Firestore.
Configurare l'accesso a Firestore da un altro progetto
Per concedere a Vertex AI Search l'accesso ai dati di Firestore che si trovano in un altro progetto:
Sostituisci la seguente variabile
PROJECT_NUMBER
con il numero del progetto Vertex AI Search e poi copia i contenuti di questo blocco di codice. Questo è l'identificatore del tuo account di servizio Vertex AI Search:service-PROJECT_NUMBER@gcp-sa-discoveryengine.iam.gserviceaccount.com
Vai alla pagina IAM e amministrazione.
Passa al tuo progetto Firestore nella pagina IAM e amministrazione e fai clic su Concedi l'accesso.
In Nuove entità, inserisci l'identificatore dell'account di servizio dell'istanza e seleziona il ruolo Datastore > Amministratore di importazione ed esportazione di Cloud Datastore.
Fai clic su Salva.
Torna al progetto Vertex AI Search.
Poi vai a Importare i dati da Firestore.
Importa i dati da Firestore
Console
Per utilizzare la console per importare i dati da Firestore, segui questi passaggi:
Nella console Google Cloud, vai alla pagina Agent Builder.
Vai alla pagina Datastore.
Fai clic su Nuovo datastore.
Nella pagina Origine, seleziona Firestore.
Specifica l'ID progetto, l'ID database e l'ID collezione dei dati che prevedi di importare.
Fai clic su Continua.
Scegli una regione per il tuo datastore.
Inserisci un nome per il tuo datastore.
Fai clic su Crea.
Per controllare lo stato dell'importazione, vai alla pagina Datastore e fai clic sul nome del datastore per visualizzarne i dettagli nella pagina Dati. Quando la colonna dello stato nella scheda Attività passa da In corso a Importazione completata, l'importazione è completata.
A seconda delle dimensioni dei dati, l'importazione può richiedere diversi minuti o diverse ore.
REST
Per utilizzare la riga di comando per creare un datastore e importare i dati da Firestore:
Crea un datastore.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -H "X-Goog-User-Project: PROJECT_ID" \ "https://discoveryengine.googleapis.com/v1alpha/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores?dataStoreId=DATA_STORE_ID" \ -d '{ "displayName": "DISPLAY_NAME", "industryVertical": "GENERIC", "solutionTypes": ["SOLUTION_TYPE_SEARCH"], }'
Sostituisci quanto segue:
PROJECT_ID
: l'ID del progetto.DATA_STORE_ID
: l'ID del datastore. L'ID può contenere solo lettere minuscole, cifre, trattini bassi e trattini.DISPLAY_NAME
: il nome visualizzato del datastore. Questo messaggio potrebbe essere visualizzato nella console Google Cloud.
Importa i dati da Firestore.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/branches/0/documents:import" \ -d '{ "firestoreSource": { "projectId": "FIRESTORE_PROJECT_ID", "databaseId": "DATABASE_ID", "collectionId": "COLLECTION_ID", }, "reconciliationMode": "RECONCILIATION_MODE", "autoGenerateIds": "AUTO_GENERATE_IDS", "idField": "ID_FIELD", }'
Sostituisci quanto segue:
PROJECT_ID
: l'ID del tuo progetto Vertex AI Search.DATA_STORE_ID
: l'ID del datastore. L'ID può contenere solo lettere minuscole, cifre, trattini bassi e trattini.FIRESTORE_PROJECT_ID
: l'ID del tuo progetto Firestore.DATABASE_ID
: l'ID del database Firestore.COLLECTION_ID
: l'ID della raccolta Firestore.RECONCILIATION_MODE
: facoltativo. I valori sonoFULL
eINCREMENTAL
. Il valore predefinito èINCREMENTAL
. La specifica diINCREMENTAL
provoca un aggiornamento incrementale dei dati da Firestore al tuo datastore. Viene eseguita un'operazione di upsert, che aggiunge nuovi documenti e sostituisce quelli esistenti con documenti aggiornati con lo stesso ID. Se specifichiFULL
, viene eseguita una rebase completa dei documenti nel tuo datastore. In altre parole, i documenti nuovi e aggiornati vengono aggiunti al tuo data store e quelli che non sono in Firestore vengono rimossi. La modalitàFULL
è utile se vuoi eliminare automaticamente i documenti che non ti servono più.AUTO_GENERATE_IDS
: facoltativo. Specifica se generare automaticamente gli ID documento. Se impostato sutrue
, gli ID documento vengono generati in base a un hash del payload. Tieni presente che gli ID documento generati potrebbero non rimanere coerenti in più importazioni. Se generi automaticamente gli ID in più importazioni, Google consiglia vivamente di impostarereconciliationMode
suFULL
per mantenere ID documento coerenti.ID_FIELD
: facoltativo. Specifica quali campi sono gli ID documento.
Python
Per ulteriori informazioni, consulta la documentazione di riferimento dell'API Python Vertex AI Agent Builder.
Per autenticarti in Vertex AI Agent Builder, configura le Credenziali predefinite dell'applicazione. Per ulteriori informazioni, consulta Configurare l'autenticazione per un ambiente di sviluppo locale.
Crea un datastore
Importa documenti
Passaggi successivi
Per collegare il datastore a un'app, crea un'app e seleziona il datastore seguendo i passaggi descritti in Creare un'app di ricerca.
Per visualizzare l'anteprima dell'aspetto dei risultati di ricerca dopo la configurazione dell'app e del datastore, consulta Generare risultati di ricerca.
Importa da Bigtable
Per importare i dati da Bigtable, segui i passaggi riportati di seguito per creare un datastore e importare i dati utilizzando l'API.
Configurare l'accesso a Bigtable
Per concedere a Vertex AI Search l'accesso ai dati Bigtable in un progetto diverso:
Sostituisci la seguente variabile
PROJECT_NUMBER
con il numero del tuo progetto Vertex AI Search, quindi copia i contenuti di questo blocco di codice. Questo è l'identificatore del tuo account di servizio Vertex AI Search:service-PROJECT_NUMBER@gcp-sa-discoveryengine.iam.gserviceaccount.com`
Vai alla pagina IAM e amministrazione.
Passa al tuo progetto Bigtable nella pagina IAM e amministrazione e fai clic su Concedi l'accesso.
In Nuove entità, inserisci l'identificatore dell'account di servizio dell'istanza e seleziona il ruolo Bigtable > Lettore Bigtable.
Fai clic su Salva.
Torna al progetto Vertex AI Search.
Poi vai a Importare i dati da Bigtable.
Importa i dati da Bigtable
REST
Per utilizzare la riga di comando per creare un datastore e importare i dati da Bigtable:
Crea un datastore.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -H "X-Goog-User-Project: PROJECT_ID" \ "https://discoveryengine.googleapis.com/v1alpha/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores?dataStoreId=DATA_STORE_ID" \ -d '{ "displayName": "DISPLAY_NAME", "industryVertical": "GENERIC", "solutionTypes": ["SOLUTION_TYPE_SEARCH"], }'
Sostituisci quanto segue:
PROJECT_ID
: l'ID del progetto.DATA_STORE_ID
: l'ID del datastore. L'ID può contenere solo lettere minuscole, cifre, trattini bassi e trattini.DISPLAY_NAME
: il nome visualizzato del datastore. Questo messaggio potrebbe essere visualizzato nella console Google Cloud.
Importa i dati da Bigtable.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/branches/0/documents:import" \ -d '{ "bigtableSource ": { "projectId": "BIGTABLE_PROJECT_ID", "instanceId": "INSTANCE_ID", "tableId": "TABLE_ID", "bigtableOptions": { "keyFieldName": "KEY_FIELD_NAME", "families": { "key": "KEY", "value": { "fieldName": "FIELD_NAME", "encoding": "ENCODING", "type": "TYPE", "columns": [ { "qualifier": "QUALIFIER", "fieldName": "FIELD_NAME", "encoding": "COLUMN_ENCODING", "type": "COLUMN_VALUES_TYPE" } ] } } ... } }, "reconciliationMode": "RECONCILIATION_MODE", "autoGenerateIds": "AUTO_GENERATE_IDS", "idField": "ID_FIELD", }'
Sostituisci quanto segue:
PROJECT_ID
: l'ID del tuo progetto Vertex AI Search.DATA_STORE_ID
: l'ID del datastore. L'ID può contenere solo lettere minuscole, cifre, trattini bassi e trattini.BIGTABLE_PROJECT_ID
: l'ID del progetto Bigtable.INSTANCE_ID
: l'ID della tua istanza Bigtable.TABLE_ID
: l'ID della tabella Bigtable.KEY_FIELD_NAME
: facoltativo, ma consigliato. Il nome del campo da utilizzare per il valore della chiave di riga dopo l'importazione in Vertex AI Search.KEY
: obbligatorio. Un valore di stringa per la chiave della famiglia di colonne.ENCODING
: facoltativo. La modalità di codifica dei valori quando il tipo non è STRING.Questo valore può essere ignorato per una colonna specifica elencandola incolumns
e specificandone una codifica.COLUMN_TYPE
: facoltativo. Il tipo di valori di questa famiglia di colonne.QUALIFIER
: obbligatorio. Qualificatore della colonna.FIELD_NAME
: facoltativo, ma consigliato. Il nome del campo da utilizzare per questa colonna dopo l'importazione in Vertex AI Search.COLUMN_ENCODING
: facoltativo. La modalità di codifica dei valori per una colonna specifica quando il tipo non è STRING.RECONCILIATION_MODE
: facoltativo. I valori sonoFULL
eINCREMENTAL
. Il valore predefinito èINCREMENTAL
. La specifica diINCREMENTAL
provoca un aggiornamento incrementale dei dati da Bigtable al tuo datastore. Viene eseguita un'operazione di upsert, che aggiunge nuovi documenti e sostituisce quelli esistenti con documenti aggiornati con lo stesso ID. Se specifichiFULL
, viene eseguita una rebase completa dei documenti nel tuo datastore. In altre parole, i documenti nuovi e aggiornati vengono aggiunti al tuo datastore e quelli che non sono in Bigtable vengono rimossi. La modalitàFULL
è utile se vuoi eliminare automaticamente i documenti che non ti servono più.AUTO_GENERATE_IDS
: facoltativo. Specifica se generare automaticamente gli ID documento. Se impostato sutrue
, gli ID documento vengono generati in base a un hash del payload. Tieni presente che gli ID documento generati potrebbero non rimanere coerenti in più importazioni. Se generi automaticamente gli ID in più importazioni, Google consiglia vivamente di impostarereconciliationMode
suFULL
per mantenere ID documento coerenti.Specifica
autoGenerateIds
solo quandobigquerySource.dataSchema
è impostato sucustom
. In caso contrario, viene restituito un erroreINVALID_ARGUMENT
. Se non specifichiautoGenerateIds
o lo imposti sufalse
, devi specificareidField
. In caso contrario, l'importazione dei documenti non andrà a buon fine.ID_FIELD
: facoltativo. Specifica quali campi sono gli ID documento.
Python
Per ulteriori informazioni, consulta la documentazione di riferimento dell'API Python Vertex AI Agent Builder.
Per autenticarti in Vertex AI Agent Builder, configura le Credenziali predefinite dell'applicazione. Per ulteriori informazioni, consulta Configurare l'autenticazione per un ambiente di sviluppo locale.
Crea un datastore
Importa documenti
Passaggi successivi
Per collegare il datastore a un'app, crea un'app e seleziona il datastore seguendo i passaggi descritti in Creare un'app di ricerca.
Per visualizzare l'anteprima dell'aspetto dei risultati di ricerca dopo la configurazione dell'app e del datastore, consulta Generare risultati di ricerca.
Importazione da AlloyDB per PostgreSQL
Per importare i dati da AlloyDB per PostgreSQL, segui questi passaggi per creare un datastore e importare i dati utilizzando la console Google Cloud o l'API.
Se i dati di AlloyDB per PostgreSQL si trovano nello stesso progetto del progetto Vertex AI Search, vai a Importare i dati da AlloyDB per PostgreSQL.
Se i dati di AlloyDB per PostgreSQL si trovano in un progetto diverso da quello di Vertex AI Search, vai a Configurare l'accesso ad AlloyDB per PostgreSQL.
Configurare l'accesso ad AlloyDB per PostgreSQL da un altro progetto
Per concedere a Vertex AI Search l'accesso ai dati di AlloyDB per PostgreSQL che si trovano in un progetto diverso, segui questi passaggi:
Sostituisci la seguente variabile
PROJECT_NUMBER
con il numero del progetto Vertex AI Search e poi copia i contenuti di questo blocco di codice. Questo è l'identificatore del tuo account di servizio Vertex AI Search:service-PROJECT_NUMBER@gcp-sa-discoveryengine.iam.gserviceaccount.com
Passa al progetto Google Cloud in cui si trovano i dati di AlloyDB per PostgreSQL.
Vai alla pagina IAM.
Fai clic su Concedi l'accesso.
In Nuove entità, inserisci l'identificatore dell'account di servizio Vertex AI Search e seleziona il ruolo Cloud AlloyDB > Amministratore Cloud AlloyDB.
Fai clic su Salva.
Torna al progetto Vertex AI Search.
A questo punto, vai a Importare i dati da AlloyDB per PostgreSQL.
Importa i dati da AlloyDB per PostgreSQL
Console
Per utilizzare la console per importare i dati da AlloyDB per PostgreSQL, segui questi passaggi:
Nella console Google Cloud, vai alla pagina Agent Builder.
Nel menu di navigazione, fai clic su Datastore.
Fai clic su Crea datastore.
Nella pagina Origine, seleziona AlloyDB.
Specifica l'ID progetto, l'ID posizione, l'ID cluster, l'ID database e l'ID tabella dei dati che intendi importare.
Fai clic su Continua.
Scegli una regione per il tuo datastore.
Inserisci un nome per il tuo datastore.
Fai clic su Crea.
Per controllare lo stato dell'importazione, vai alla pagina Datastore e fai clic sul nome del datastore per visualizzarne i dettagli nella pagina Dati. Quando la colonna dello stato nella scheda Attività passa da In corso a Importazione completata, l'importazione è completata.
A seconda delle dimensioni dei dati, l'importazione può richiedere diversi minuti o diverse ore.
REST
Per utilizzare la riga di comando per creare un datastore e importare i dati da AlloyDB per PostgreSQL:
Crea un datastore.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -H "X-Goog-User-Project: PROJECT_ID" \ "https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores?dataStoreId=DATA_STORE_ID" \ -d '{ "displayName": "DISPLAY_NAME", "industryVertical": "GENERIC", "solutionTypes": ["SOLUTION_TYPE_SEARCH"], }'
Sostituisci quanto segue:
PROJECT_ID
: l'ID del progetto.DATA_STORE_ID
: l'ID del datastore. L'ID può contenere solo lettere minuscole, cifre, trattini bassi e trattini.DISPLAY_NAME
: il nome visualizzato del datastore. Questo messaggio potrebbe essere visualizzato nella console Google Cloud.
Importa i dati da AlloyDB per PostgreSQL.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/branches/0/documents:import" \ -d '{ "alloydbSource": { "projectId": "ALLOYDB_PROJECT_ID", "locationId": "LOCATION_ID", "clusterId": "CLUSTER_ID", "databaseId": "DATABASE_ID", "tableId": "TABLE_ID", }, "reconciliationMode": "RECONCILIATION_MODE", "autoGenerateIds": "AUTO_GENERATE_IDS", "idField": "ID_FIELD", }'
Sostituisci quanto segue:
PROJECT_ID
: l'ID del tuo progetto Vertex AI Search.DATA_STORE_ID
: l'ID del datastore. L'ID può contenere solo lettere minuscole, cifre, trattini bassi e trattini.ALLOYDB_PROJECT_ID
: l'ID del progetto AlloyDB per PostgreSQL.LOCATION_ID
: l'ID della tua località AlloyDB per PostgreSQL.CLUSTER_ID
: l'ID del tuo cluster AlloyDB per PostgreSQL.DATABASE_ID
: l'ID del database AlloyDB per PostgreSQL.TABLE_ID
: l'ID della tabella AlloyDB per PostgreSQL.RECONCILIATION_MODE
: facoltativo. I valori sonoFULL
eINCREMENTAL
. Il valore predefinito èINCREMENTAL
. La specifica diINCREMENTAL
provoca un aggiornamento incrementale dei dati da AlloyDB per PostgreSQL al tuo datastore. Viene eseguita un'operazione di upsert, che aggiunge nuovi documenti e sostituisce quelli esistenti con documenti aggiornati con lo stesso ID. Se specifichiFULL
, viene eseguita una rebase completa dei documenti nel tuo datastore. In altre parole, i documenti nuovi e aggiornati vengono aggiunti al tuo data store e quelli che non sono presenti in AlloyDB per PostgreSQL vengono rimossi dal tuo datastore. La modalitàFULL
è utile se vuoi eliminare automaticamente i documenti che non ti servono più.AUTO_GENERATE_IDS
: facoltativo. Specifica se generare automaticamente gli ID documento. Se impostato sutrue
, gli ID documento vengono generati in base a un hash del payload. Tieni presente che gli ID documento generati potrebbero non rimanere coerenti in più importazioni. Se generi automaticamente gli ID in più importazioni, Google consiglia vivamente di impostarereconciliationMode
suFULL
per mantenere ID documento coerenti.ID_FIELD
: facoltativo. Specifica quali campi sono gli ID documento.
Python
Per ulteriori informazioni, consulta la documentazione di riferimento dell'API Python Vertex AI Agent Builder.
Per autenticarti in Vertex AI Agent Builder, configura le Credenziali predefinite dell'applicazione. Per ulteriori informazioni, consulta Configurare l'autenticazione per un ambiente di sviluppo locale.
Crea un datastore
Importa documenti
Passaggi successivi
Per collegare il datastore a un'app, crea un'app e seleziona il datastore seguendo i passaggi descritti in Creare un'app di ricerca.
Per visualizzare l'anteprima dell'aspetto dei risultati di ricerca dopo la configurazione dell'app e del datastore, consulta Generare risultati di ricerca.
Carica dati JSON strutturati con l'API
Per caricare direttamente un documento o un oggetto JSON utilizzando l'API, segui questi passaggi.
Prima di importare i dati, preparali per l'importazione.
REST
Per utilizzare la riga di comando per creare un datastore e importare dati JSON strutturati, segui questi passaggi.
Crea un datastore.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -H "X-Goog-User-Project: PROJECT_ID" \ "https://discoveryengine.googleapis.com/v1alpha/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores?dataStoreId=DATA_STORE_ID" \ -d '{ "displayName": "DATA_STORE_DISPLAY_NAME", "industryVertical": "GENERIC", "solutionTypes": ["SOLUTION_TYPE_SEARCH"] }'
Sostituisci quanto segue:
PROJECT_ID
: l'ID del tuo progetto Google Cloud.DATA_STORE_ID
: l'ID del datastore di Vertex AI Search che vuoi creare. Questo ID può contenere solo lettere minuscole, cifre, trattini bassi e trattini.DATA_STORE_DISPLAY_NAME
: il nome visualizzato del datastore di ricerca Vertex AI che vuoi creare.
Importa i dati strutturati.
Esistono diversi approcci che puoi utilizzare per caricare i dati, tra cui:
Carica un documento JSON.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/branches/0/documents?documentId=DOCUMENT_ID" \ -d '{ "jsonData": "JSON_DOCUMENT_STRING" }'
Sostituisci quanto segue:
DOCUMENT_ID
: un ID univoco per il documento. Questo ID può avere una lunghezza massima di 63 caratteri e contenere solo lettere minuscole, cifre, trattini bassi e trattini.JSON_DOCUMENT_STRING
: il documento JSON come singola stringa. Deve essere conforme allo schema JSON fornito nel passaggio precedente, ad esempio:{ \"title\": \"test title\", \"categories\": [\"cat_1\", \"cat_2\"], \"uri\": \"test uri\"}
Carica un oggetto JSON.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/branches/0/documents?documentId=DOCUMENT_ID" \ -d '{ "structData": JSON_DOCUMENT_OBJECT }'
Sostituisci
JSON_DOCUMENT_OBJECT
con il documento JSON come oggetto JSON. Deve essere conforme allo schema JSON fornito nel passaggio precedente, ad esempio:```json { "title": "test title", "categories": [ "cat_1", "cat_2" ], "uri": "test uri" } ```
Aggiorna con un documento JSON.
curl -X PATCH \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/branches/0/documents/DOCUMENT_ID" \ -d '{ "jsonData": "JSON_DOCUMENT_STRING" }'
Aggiorna con un oggetto JSON.
curl -X PATCH \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/branches/0/documents/DOCUMENT_ID" \ -d '{ "structData": JSON_DOCUMENT_OBJECT }'
Passaggi successivi
Per collegare il datastore a un'app, crea un'app e seleziona il datastore seguendo i passaggi descritti in Creare un'app di ricerca.
Per visualizzare l'anteprima dell'aspetto dei risultati di ricerca dopo la configurazione dell'app e del datastore, consulta Generare risultati di ricerca.
Risolvere i problemi di importazione dati
Se hai problemi con l'importazione dati, consulta questi suggerimenti:
Se utilizzi chiavi di crittografia gestite dal cliente e l'importazione dei dati non va a buon fine (con il messaggio di errore
The caller does not have permission
), assicurati che il ruolo IAM Autore crittografia/decrittografia CryptoKey (roles/cloudkms.cryptoKeyEncrypterDecrypter
) sulla chiave sia stato concesso all'agente di servizio Cloud Storage. Per saperne di più, consulta Prima di iniziare in "Chiavi di crittografia gestite dal cliente".Se utilizzi l'indicizzazione avanzata del sito web e l'utilizzo dei documenti per l'datastore è molto inferiore alle aspettative, rivedi i pattern URL specificati per l'indicizzazione e assicurati che coprano le pagine che vuoi indicizzare ed espandili se necessario. Ad esempio, se hai utilizzato
*.en.example.com/*
, potresti dover aggiungere*.example.com/*
ai siti che vuoi indicizzare.
Creare un datastore utilizzando Terraform
Puoi utilizzare Terraform per creare un datastore vuoto. Dopo aver creato il datastore vuoto, puoi importare i dati utilizzando i comandi della console o dell'API Google Cloud.
Per scoprire come applicare o rimuovere una configurazione Terraform, consulta Comandi Terraform di base.
Per creare un datastore vuoto utilizzando Terraform, consulta
google_discovery_engine_data_store
.