Para crear un almacén de datos y transferir datos para la búsqueda, ve a la sección de la fuente que planeas usar:
- Crea un almacén de datos con el contenido del sitio web
- Importa desde BigQuery
- Importar desde Cloud Storage
- Sincronizar desde Google Drive
- Sincronización desde Gmail (versión preliminar pública)
- Sincronización desde Google Sites (versión preliminar pública)
- Sincronización desde el Calendario de Google (versión preliminar pública)
- Sincronización desde Grupos de Google (versión preliminar pública)
- Importar desde Cloud SQL
- Importar desde Spanner (vista previa pública)
- Importar desde Firestore
- Importar desde Bigtable (versión preliminar pública)
- Import from AlloyDB for PostgreSQL (Importar desde AlloyDB para PostgreSQL; versión preliminar pública)
- Sube datos JSON estructurados con la API
- Crea un almacén de datos con Terraform
Para sincronizar datos desde una fuente de datos externa, consulta Conecta una fuente de datos externa.
Para obtener información sobre la solución de problemas, consulta Soluciona problemas de transferencia de datos.
Crea un almacén de datos con contenido del sitio web
Sigue este procedimiento para crear un almacén de datos y, luego, indexar sitios web.
Para usar un almacén de datos de sitios web después de crearlo, debes adjuntarlo a una app que tenga activadas las funciones empresariales. Puedes activar la edición Enterprise para una app cuando la creas. Esto genera costos adicionales. Consulta Cómo crear una app de búsqueda y Acerca de las funciones avanzadas.
Console
Para usar la consola de Google Cloud para crear un almacén de datos y, luego, indexar sitios web, sigue estos pasos:
En la consola de Google Cloud , ve a la página AI Applications.
En el menú de navegación, haz clic en Almacenes de datos.
Haz clic en Crear almacén de datos.
En la página Fuente, selecciona Contenido de sitios web.
Elige si quieres activar la indexación avanzada de sitios web para este almacén de datos. Esta opción no se puede activar o desactivar más adelante.
La indexación avanzada de sitios web proporciona funciones adicionales, como la generación de resúmenes de búsqueda, la búsqueda con preguntas de seguimiento y las respuestas extractivas. La indexación avanzada de sitios web genera un costo adicional y requiere que verifiques la propiedad del dominio de cualquier sitio web que indexes. Para obtener más información, consulta Indexación avanzada de sitios web y Precios.
En el campo Sitios que deben incluirse, ingresa los patrones de URL que coincidan con los sitios web que deseas incluir en tu almacén de datos. Incluye un patrón de URL por línea, sin separadores de comas. Por ejemplo:
example.com/docs/*
.Opcional: En el campo Sitios para excluir, ingresa los patrones de URL que deseas excluir de tu almacén de datos.
Los sitios excluidos tienen prioridad sobre los sitios incluidos. Por lo tanto, si incluyes
example.com/docs/*
, pero excluyesexample.com
, no se indexará ningún sitio web. Para obtener más información, consulta Datos del sitio web.Haz clic en Continuar.
Selecciona una ubicación para tu almacén de datos.
- Cuando creas un almacén de datos de búsqueda básica en sitios web, este parámetro siempre se establece en global (Global).
- Cuando creas un almacén de datos con la indexación avanzada de sitios web, puedes seleccionar una ubicación. Dado que los sitios web que se indexan deben ser públicos, Google recomienda que selecciones global (Global) como tu ubicación. Esto garantiza la máxima disponibilidad de todos los servicios de búsqueda y respuesta, y elimina las limitaciones de los almacenes de datos regionales.
Ingresa un nombre para tu almacén de datos.
Haz clic en Crear. Vertex AI Search crea tu almacén de datos y lo muestra en la página Almacenes de datos.
Para ver información sobre tu almacén de datos, haz clic en su nombre en la columna Nombre. Aparecerá la página de tu almacén de datos.
- Si activaste la indexación avanzada de sitios web, aparecerá una advertencia que te solicitará que verifiques los dominios de tu almacén de datos.
- Si tienes un déficit de cuota (la cantidad de páginas en los sitios web que especificaste supera la cuota de "Cantidad de documentos por proyecto" de tu proyecto), aparecerá una advertencia adicional que te solicitará que actualices tu cuota.
Para verificar los dominios de los patrones de URL en tu almacén de datos, sigue las instrucciones de la página Verifica los dominios de sitios web.
Para actualizar tu cuota, sigue estos pasos:
- Haz clic en Actualizar cuota. Aparecerá la página IAM y administración de la consola de Google Cloud .
- Sigue las instrucciones que se indican en Solicita un límite de cuota mayor en la documentación de Google Cloud . La cuota que se debe aumentar es la de Cantidad de documentos en el servicio de la API de Discovery Engine.
- Después de enviar tu solicitud para obtener un límite de cuota más alto, vuelve a la página AI Applications y haz clic en Data Stores en el menú de navegación.
- Haz clic en el nombre de tu almacén de datos en la columna Nombre. La columna Estado indica que se está indexando los sitios web que superaron la cuota. Cuando la columna Estado de una URL muestra Indexada, las funciones de indexación avanzada de sitios web están disponibles para esa URL o patrón de URL.
Para obtener más información, consulta Cuota para la indexación de páginas web en la página "Cuotas y límites".
Python
Para obtener más información, consulta la documentación de referencia de la API de AI Applications Python.
Para autenticarte en AI Applications, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local.
Crea un almacén de datos
Importar sitios web
Próximos pasos
Para adjuntar tu almacén de datos del sitio web a una app, crea una app con las funciones de Enterprise habilitadas y selecciona tu almacén de datos siguiendo los pasos que se indican en Crea una app de búsqueda.
Si activaste la indexación de sitios web avanzada, puedes usar datos estructurados para actualizar tu esquema.
Para obtener una vista previa de cómo aparecerán los resultados de la búsqueda después de configurar tu app y tu almacén de datos, consulta Cómo obtener resultados de la búsqueda.
Importa desde BigQuery
Vertex AI Search admite la búsqueda en los datos de BigQuery.
Puedes crear almacenes de datos a partir de tablas de BigQuery de dos maneras:
Transferencia única: Importas datos de una tabla de BigQuery a un almacén de datos. Los datos del almacén de datos no cambian, a menos que actualices los datos de forma manual.
Ingesta periódica: Importas datos de una o más tablas de BigQuery y estableces una frecuencia de sincronización que determina con qué frecuencia se actualizan los almacenes de datos con los datos más recientes del conjunto de datos de BigQuery.
En la siguiente tabla, se comparan las dos formas en que puedes importar datos de BigQuery a los almacenes de datos de Vertex AI Search.
Transferencia única | Transferencia periódica |
---|---|
Disponible de forma general (DG). | Versión preliminar pública. |
Los datos se deben actualizar de forma manual. | Los datos se actualizan automáticamente cada 1, 3 o 5 días. Los datos no se pueden actualizar manualmente. |
Vertex AI Search crea un solo almacén de datos a partir de una tabla en BigQuery. | Vertex AI Search crea un conector de datos para un conjunto de datos de BigQuery y un almacén de datos (llamado almacén de datos de entidades) para cada tabla especificada. Para cada conector de datos, las tablas deben tener el mismo tipo de datos (por ejemplo, estructurados) y estar en el mismo conjunto de datos de BigQuery. |
Los datos de varias tablas se pueden combinar en un almacén de datos. Para ello, primero se deben transferir los datos de una tabla y, luego, más datos de otra fuente o tabla de BigQuery. | Dado que no se admite la importación manual de datos, los datos de un almacén de datos de entidades solo pueden provenir de una tabla de BigQuery. |
Se admite el control de acceso a la fuente de datos. | No se admite el control de acceso a la fuente de datos. Los datos importados pueden contener controles de acceso, pero estos no se respetarán. |
Puedes crear un almacén de datos con la consola deGoogle Cloud o la API. | Debes usar la consola para crear conectores de datos y sus almacenes de datos de entidades. |
Cumple con los requisitos de la CMEK. | Cumple con los requisitos de la CMEK. |
Importa una vez desde BigQuery
Para transferir datos desde una tabla de BigQuery, sigue estos pasos para crear un almacén de datos y transferir datos con la Google Cloud consola o la API.
Antes de importar tus datos, consulta Prepara los datos para la transferencia.
Console
Para usar la consola de Google Cloud para transferir datos desde BigQuery, sigue estos pasos:
En la consola de Google Cloud , ve a la página AI Applications.
Ve a la página Almacenes de datos.
Haz clic en
Crear almacén de datos.En la página Fuente, selecciona BigQuery.
Selecciona el tipo de datos que importarás en la sección ¿Qué tipo de datos importarás?.
Selecciona Una vez en la sección Frecuencia de sincronización.
En el campo Ruta de acceso de BigQuery, haz clic en Explorar, selecciona una tabla que preparaste para la transferencia y, luego, haz clic en Seleccionar. Como alternativa, ingresa la ubicación de la tabla directamente en el campo Ruta de BigQuery.
Haz clic en Continuar.
Si vas a importar datos estructurados por única vez, haz lo siguiente:
Asigna campos a propiedades clave.
Si faltan campos importantes en el esquema, usa Agregar campo nuevo para agregarlos.
Para obtener más información, consulta Acerca de la detección y edición automáticas.
Haz clic en Continuar.
Elige una región para tu almacén de datos.
Ingresa un nombre para tu almacén de datos.
Haz clic en Crear.
Para verificar el estado de la transferencia, ve a la página Almacenes de datos y haz clic en el nombre del almacén de datos para ver los detalles en la página Datos. Cuando la columna de estado de la pestaña Actividad cambie de En curso a Se completó la importación, se habrá completado la transferencia.
Según el tamaño de tus datos, la transferencia puede tardar varios minutos o varias horas.
REST
Para usar la línea de comandos para crear un almacén de datos y, luego, importar datos desde BigQuery, sigue estos pasos.
Crea un almacén de datos.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -H "X-Goog-User-Project: PROJECT_ID" \ "https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores?dataStoreId=DATA_STORE_ID" \ -d '{ "displayName": "DATA_STORE_DISPLAY_NAME", "industryVertical": "GENERIC", "solutionTypes": ["SOLUTION_TYPE_SEARCH"] }'
Reemplaza lo siguiente:
PROJECT_ID
: Es el ID de tu proyecto de Google Cloud .DATA_STORE_ID
: Es el ID del almacén de datos de Vertex AI Search que deseas crear. Este ID solo puede contener letras en minúscula, dígitos, guiones bajos y guiones.DATA_STORE_DISPLAY_NAME
: Es el nombre visible del almacén de datos de Vertex AI Search que deseas crear.
Opcional: Si subes datos no estructurados y deseas configurar el análisis de documentos o activar la división de documentos para la RAG, especifica el objeto
documentProcessingConfig
y agrégalo a tu solicitud de creación del almacén de datos. Se recomienda configurar un analizador de OCR para los PDFs si ingieres PDFs escaneados. Para obtener información sobre cómo configurar las opciones de análisis o fragmentación, consulta Analiza y fragmenta documentos.Importa datos de BigQuery.
Si definiste un esquema, asegúrate de que los datos se ajusten a él.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/branches/0/documents:import" \ -d '{ "bigquerySource": { "projectId": "PROJECT_ID", "datasetId":"DATASET_ID", "tableId": "TABLE_ID", "dataSchema": "DATA_SCHEMA", "aclEnabled": "BOOLEAN" }, "reconciliationMode": "RECONCILIATION_MODE", "autoGenerateIds": "AUTO_GENERATE_IDS", "idField": "ID_FIELD", "errorConfig": { "gcsPrefix": "ERROR_DIRECTORY" } }'
Reemplaza lo siguiente:
PROJECT_ID
: Es el ID de tu proyecto de Google Cloud .DATA_STORE_ID
: Es el ID del almacén de datos de Vertex AI Search.DATASET_ID
: Es el ID del conjunto de datos de BigQuery.TABLE_ID
: Es el ID de la tabla de BigQuery.- Si la tabla de BigQuery no está en PROJECT_ID, debes otorgar a la cuenta de servicio
service-<project number>@gcp-sa-discoveryengine.iam.gserviceaccount.com
permiso de "Visualizador de datos de BigQuery" para la tabla de BigQuery. Por ejemplo, si importas una tabla de BigQuery del proyecto fuente "123" al proyecto de destino "456", otorga permisos deservice-456@gcp-sa-discoveryengine.iam.gserviceaccount.com
para la tabla de BigQuery en el proyecto "123".
- Si la tabla de BigQuery no está en PROJECT_ID, debes otorgar a la cuenta de servicio
DATA_SCHEMA
: es opcional. Los valores sondocument
ycustom
. El valor predeterminado esdocument
.document
: La tabla de BigQuery que uses debe cumplir con el esquema predeterminado de BigQuery que se proporciona en Cómo preparar los datos para la transferencia. Puedes definir el ID de cada documento tú mismo y, al mismo tiempo, encapsular todos los datos en la cadena jsonData.custom
: Se acepta cualquier esquema de tabla de BigQuery, y Vertex AI Search genera automáticamente los IDs de cada documento que se importa.
ERROR_DIRECTORY
: es opcional. Un directorio de Cloud Storage para obtener información sobre los errores de la importación, por ejemplo,gs://<your-gcs-bucket>/directory/import_errors
. Google recomienda dejar este campo vacío para que Vertex AI Search cree automáticamente un directorio temporal.RECONCILIATION_MODE
: es opcional. Los valores sonFULL
yINCREMENTAL
. El valor predeterminado esINCREMENTAL
. Si especificasINCREMENTAL
, se produce una actualización incremental de los datos de BigQuery en tu almacén de datos. Esta acción realiza una operación de upsert, que agrega documentos nuevos y reemplaza los existentes por documentos actualizados con el mismo ID. Si especificasFULL
, se realizará una nueva base completa de los documentos en tu almacén de datos. En otras palabras, se agregan documentos nuevos y actualizados a tu almacén de datos, y se quitan de él los documentos que no están en BigQuery. El modoFULL
es útil si quieres borrar automáticamente los documentos que ya no necesitas.AUTO_GENERATE_IDS
: es opcional. Especifica si se deben generar automáticamente IDs de documentos. Si se configura comotrue
, los IDs de documentos se generan en función de un hash de la carga útil. Ten en cuenta que es posible que los IDs de documentos generados no se mantengan coherentes en varias importaciones. Si generas IDs automáticamente en varias importaciones, Google recomienda establecerreconciliationMode
enFULL
para mantener IDs de documentos coherentes.Especifica
autoGenerateIds
solo cuandobigquerySource.dataSchema
se establece encustom
. De lo contrario, se muestra un errorINVALID_ARGUMENT
. Si no especificasautoGenerateIds
o lo configuras comofalse
, debes especificaridField
. De lo contrario, no se podrán importar los documentos.ID_FIELD
: es opcional. Especifica qué campos son los IDs de documento. En el caso de los archivos fuente de BigQuery,idField
indica el nombre de la columna en la tabla de BigQuery que contiene los IDs de documentos.Especifica
idField
solo cuando (1)bigquerySource.dataSchema
se establece encustom
y (2)auto_generate_ids
se establece enfalse
o no se especifica. De lo contrario, se muestra un errorINVALID_ARGUMENT
.El valor del nombre de la columna de BigQuery debe ser de tipo cadena, tener entre 1 y 63 caracteres, y cumplir con RFC-1034. De lo contrario, no se podrán importar los documentos.
C#
Para obtener más información, consulta la documentación de referencia de la API de AI Applications C#.
Para autenticarte en AI Applications, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local.
Crea un almacén de datos
Importar documentos
Go
Para obtener más información, consulta la documentación de referencia de la API de AI Applications Go.
Para autenticarte en AI Applications, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local.
Crea un almacén de datos
Importar documentos
Java
Para obtener más información, consulta la documentación de referencia de la API de AI Applications Java.
Para autenticarte en AI Applications, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local.
Crea un almacén de datos
Importar documentos
Node.js
Para obtener más información, consulta la documentación de referencia de la API de AI Applications Node.js.
Para autenticarte en AI Applications, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local.
Crea un almacén de datos
Importar documentos
Python
Para obtener más información, consulta la documentación de referencia de la API de AI Applications Python.
Para autenticarte en AI Applications, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local.
Crea un almacén de datos
Importar documentos
Ruby
Para obtener más información, consulta la documentación de referencia de la API de AI Applications Ruby.
Para autenticarte en AI Applications, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local.
Crea un almacén de datos
Importar documentos
Conéctate a BigQuery con la sincronización periódica
Antes de importar tus datos, consulta Prepara los datos para la transferencia.
En el siguiente procedimiento, se describe cómo crear un conector de datos que asocie un conjunto de datos de BigQuery con un conector de datos de Vertex AI Search y cómo especificar una tabla en el conjunto de datos para cada almacén de datos que desees crear. Los almacenes de datos que son secundarios de los conectores de datos se denominan almacenes de datos de entidades.
Los datos del conjunto de datos se sincronizan periódicamente con los almacenes de datos de la entidad. Puedes especificar la sincronización diaria, cada tres días o cada cinco días.
Console
Para usar la consola de Google Cloud y crear un conector que sincronice periódicamente los datos de un conjunto de datos de BigQuery con Vertex AI Search, sigue estos pasos:
En la consola de Google Cloud , ve a la página AI Applications.
En el menú de navegación, haz clic en Almacenes de datos.
Haz clic en Crear almacén de datos.
En la página Fuente, selecciona BigQuery.
Selecciona el tipo de datos que importarás.
Haz clic en Periódico.
Selecciona la Frecuencia de sincronización, es decir, la frecuencia con la que deseas que el conector de Vertex AI Search se sincronice con el conjunto de datos de BigQuery. Puedes cambiar la frecuencia más adelante.
En el campo Ruta de acceso al conjunto de datos de BigQuery, haz clic en Explorar, selecciona el conjunto de datos que contiene las tablas que preparaste para la transferencia. Como alternativa, ingresa la ubicación de la tabla directamente en el campo Ruta de BigQuery. El formato de la ruta es
projectname.datasetname
.En el campo Tablas para sincronizar, haz clic en Explorar y, luego, selecciona una tabla que contenga los datos que deseas para tu almacén de datos.
Si hay tablas adicionales en el conjunto de datos que deseas usar para los almacenes de datos, haz clic en Agregar tabla y especifica también esas tablas.
Haz clic en Continuar.
Elige una región para tu almacén de datos, ingresa un nombre para tu conector de datos y haz clic en Crear.
Ahora creaste un conector de datos que sincronizará periódicamente los datos con el conjunto de datos de BigQuery. Además, creaste uno o más almacenes de datos de entidades. Los almacenes de datos tienen los mismos nombres que las tablas de BigQuery.
Para verificar el estado de la transferencia, ve a la página Almacenes de datos y haz clic en el nombre del conector de datos para ver los detalles en la página Datos > pestaña Actividad de transferencia de datos. Cuando la columna de estado de la pestaña Actividad cambie de En curso a Completado, se habrá completado la primera transferencia.
Según el tamaño de tus datos, la transferencia puede tardar varios minutos o varias horas.
Después de configurar tu fuente de datos y de importar datos por primera vez, el almacén de datos sincroniza los datos de esa fuente con la frecuencia que selecciones durante la configuración. La primera sincronización se produce aproximadamente una hora después de que se crea el conector de datos. La siguiente sincronización se produce alrededor de 24, 72 o 120 horas después.
Próximos pasos
Para adjuntar tu almacén de datos a una app, crea una app y selecciona tu almacén de datos siguiendo los pasos que se indican en Crea una app de búsqueda.
Para obtener una vista previa de cómo aparecerán los resultados de la búsqueda después de configurar tu app y tu almacén de datos, consulta Cómo obtener resultados de la búsqueda.
Importar desde Cloud Storage
Puedes crear almacenes de datos a partir de tablas de Cloud Storage de dos maneras:
Transferencia única: Importas datos de una carpeta o un archivo de Cloud Storage a un almacén de datos. Los datos del almacén de datos no cambian a menos que actualices los datos de forma manual.
Transferencia periódica: Importas datos desde una carpeta o un archivo de Cloud Storage, y estableces una frecuencia de sincronización que determina con qué frecuencia se actualiza el almacén de datos con los datos más recientes de esa ubicación de Cloud Storage.
En la siguiente tabla, se comparan las dos formas en que puedes importar datos de Cloud Storage a los almacenes de datos de Vertex AI Search.
Transferencia única | Transferencia periódica |
---|---|
Disponible de forma general (DG). | Versión preliminar pública. |
Los datos se deben actualizar de forma manual. | Los datos se actualizan automáticamente cada uno, tres o cinco días. Los datos no se pueden actualizar manualmente. |
Vertex AI Search crea un solo almacén de datos a partir de una carpeta o un archivo en Cloud Storage. | Vertex AI Search crea un conector de datos y asocia un almacén de datos (llamado almacén de datos de entidades) con él para el archivo o la carpeta especificados. Cada conector de datos de Cloud Storage puede tener un solo almacén de datos de entidades. |
Los datos de varios archivos, carpetas y buckets se pueden combinar en un solo almacén de datos. Para ello, primero se transfieren los datos de una ubicación de Cloud Storage y, luego, se transfieren más datos de otra ubicación. | Dado que no se admite la importación manual de datos, los datos de un almacén de datos de entidades solo pueden provenir de un archivo o una carpeta de Cloud Storage. |
Se admite el control de acceso a la fuente de datos. Para obtener más información, consulta Control de acceso a la fuente de datos. | No se admite el control de acceso a la fuente de datos. Los datos importados pueden contener controles de acceso, pero estos no se respetarán. |
Puedes crear un almacén de datos con la consola deGoogle Cloud o la API. | Debes usar la consola para crear conectores de datos y sus almacenes de datos de entidades. |
Cumple con los requisitos de la CMEK. | Cumple con los requisitos de la CMEK. |
Importar una vez desde Cloud Storage
Para transferir datos desde Cloud Storage, sigue estos pasos para crear un almacén de datos y transferir datos con la consola de Google Cloud o la API.
Antes de importar tus datos, consulta Prepara los datos para la transferencia.
Console
Para usar la consola y transferir datos desde un bucket de Cloud Storage, sigue estos pasos:
En la consola de Google Cloud , ve a la página AI Applications.
Ve a la página Almacenes de datos.
Haz clic en
Crear almacén de datos.En la página Fuente, selecciona Cloud Storage.
En la sección Selecciona una carpeta o un archivo que desees importar, selecciona Carpeta o Archivo.
Haz clic en Explorar y elige los datos que preparaste para la transferencia. Luego, haz clic en Seleccionar. También puedes ingresar la ubicación directamente en el campo
gs://
.Selecciona el tipo de datos que importarás.
Haz clic en Continuar.
Si vas a importar datos estructurados por única vez, haz lo siguiente:
Asigna campos a propiedades clave.
Si faltan campos importantes en el esquema, usa Agregar campo nuevo para agregarlos.
Para obtener más información, consulta Acerca de la detección y edición automáticas.
Haz clic en Continuar.
Elige una región para tu almacén de datos.
Ingresa un nombre para tu almacén de datos.
Opcional: Si seleccionaste documentos no estructurados, puedes elegir opciones de análisis y fragmentación para tus documentos. Para comparar los analizadores, consulta Cómo analizar documentos. Para obtener información sobre la fragmentación, consulta Fragmenta documentos para RAG.
El analizador de OCR y el analizador de diseño pueden generar costos adicionales. Consulta los precios de las funciones de Document AI.
Para seleccionar un analizador, expande Opciones de procesamiento de documentos y especifica las opciones del analizador que deseas usar.
Haz clic en Crear.
Para verificar el estado de la transferencia, ve a la página Almacenes de datos y haz clic en el nombre del almacén de datos para ver los detalles en la página Datos. Cuando la columna de estado de la pestaña Actividad cambie de En curso a Se completó la importación, se habrá completado la transferencia.
Según el tamaño de tus datos, la transferencia puede tardar varios minutos o varias horas.
REST
Para usar la línea de comandos para crear un almacén de datos y transferir datos desde Cloud Storage, sigue estos pasos.
Crea un almacén de datos.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -H "X-Goog-User-Project: PROJECT_ID" \ "https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores?dataStoreId=DATA_STORE_ID" \ -d '{ "displayName": "DATA_STORE_DISPLAY_NAME", "industryVertical": "GENERIC", "solutionTypes": ["SOLUTION_TYPE_SEARCH"] }'
Reemplaza lo siguiente:
PROJECT_ID
: Es el ID de tu proyecto de Google Cloud .DATA_STORE_ID
: Es el ID del almacén de datos de Vertex AI Search que deseas crear. Este ID solo puede contener letras en minúscula, dígitos, guiones bajos y guiones.DATA_STORE_DISPLAY_NAME
: Es el nombre visible del almacén de datos de Vertex AI Search que deseas crear.
Opcional: Si subes datos no estructurados y deseas configurar el análisis de documentos o activar la división de documentos para la RAG, especifica el objeto
documentProcessingConfig
y agrégalo a tu solicitud de creación del almacén de datos. Se recomienda configurar un analizador de OCR para los PDFs si ingieres PDFs escaneados. Para obtener información sobre cómo configurar las opciones de análisis o fragmentación, consulta Analiza y fragmenta documentos.Importar datos desde Cloud Storage.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/branches/0/documents:import" \ -d '{ "gcsSource": { "inputUris": ["INPUT_FILE_PATTERN_1", "INPUT_FILE_PATTERN_2"], "dataSchema": "DATA_SCHEMA", }, "reconciliationMode": "RECONCILIATION_MODE", "autoGenerateIds": "AUTO_GENERATE_IDS", "idField": "ID_FIELD", "errorConfig": { "gcsPrefix": "ERROR_DIRECTORY" } }'
Reemplaza lo siguiente:
PROJECT_ID
: Es el ID de tu proyecto de Google Cloud .DATA_STORE_ID
: Es el ID del almacén de datos de Vertex AI Search.INPUT_FILE_PATTERN
: Es un patrón de archivo en Cloud Storage que contiene tus documentos.En el caso de los datos estructurados o los datos no estructurados con metadatos, un ejemplo del patrón de archivo de entrada es
gs://<your-gcs-bucket>/directory/object.json
y un ejemplo del patrón que coincide con uno o más archivos esgs://<your-gcs-bucket>/directory/*.json
.En el caso de los documentos no estructurados, un ejemplo es
gs://<your-gcs-bucket>/directory/*.pdf
. Cada archivo que coincide con el patrón se convierte en un documento.Si
<your-gcs-bucket>
no está en PROJECT_ID, debes otorgarle a la cuenta de servicioservice-<project number>@gcp-sa-discoveryengine.iam.gserviceaccount.com
permisos de "Visualizador de objetos de Storage" para el bucket de Cloud Storage. Por ejemplo, si importas un bucket de Cloud Storage del proyecto de origen "123" al proyecto de destino "456", otorga permisos deservice-456@gcp-sa-discoveryengine.iam.gserviceaccount.com
en el bucket de Cloud Storage del proyecto "123".DATA_SCHEMA
: es opcional. Los valores sondocument
,custom
,csv
ycontent
. El valor predeterminado esdocument
.document
: Sube datos no estructurados con metadatos para documentos no estructurados. Cada línea del archivo debe seguir uno de los siguientes formatos. Puedes definir el ID de cada documento:{ "id": "<your-id>", "jsonData": "<JSON string>", "content": { "mimeType": "<application/pdf or text/html>", "uri": "gs://<your-gcs-bucket>/directory/filename.pdf" } }
{ "id": "<your-id>", "structData": <JSON object>, "content": { "mimeType": "<application/pdf or text/html>", "uri": "gs://<your-gcs-bucket>/directory/filename.pdf" } }
custom
: Sube JSON para documentos estructurados. Los datos se organizan según un esquema. Puedes especificar el esquema. De lo contrario, se detectará automáticamente. Puedes colocar la cadena JSON del documento en un formato coherente directamente en cada línea, y Vertex AI Search generará automáticamente los IDs de cada documento importado.content
: Sube documentos no estructurados (PDF, HTML, DOC, TXT, PPTX). El ID de cada documento se genera automáticamente como los primeros 128 bits de SHA256(GCS_URI) codificados como una cadena hexadecimal. Puedes especificar varios patrones de archivos de entrada, siempre y cuando los archivos coincidentes no superen el límite de 100,000 archivos.csv
: Incluye una fila de encabezado en tu archivo CSV, con cada encabezado asignado a un campo del documento. Especifica la ruta de acceso al archivo CSV con el campoinputUris
.
ERROR_DIRECTORY
: es opcional. Un directorio de Cloud Storage para obtener información sobre los errores de la importación, por ejemplo,gs://<your-gcs-bucket>/directory/import_errors
. Google recomienda dejar este campo vacío para que Vertex AI Search cree automáticamente un directorio temporal.RECONCILIATION_MODE
: es opcional. Los valores sonFULL
yINCREMENTAL
. El valor predeterminado esINCREMENTAL
. Si especificasINCREMENTAL
, se produce una actualización incremental de los datos de Cloud Storage en tu almacén de datos. Esto realiza una operación de upsert, que agrega documentos nuevos y reemplaza los existentes por documentos actualizados con el mismo ID. Si especificasFULL
, se realizará una nueva base completa de los documentos en tu almacén de datos. En otras palabras, se agregan documentos nuevos y actualizados a tu almacén de datos, y se quitan de él los documentos que no están en Cloud Storage. El modoFULL
es útil si quieres borrar automáticamente los documentos que ya no necesitas.AUTO_GENERATE_IDS
: es opcional. Especifica si se deben generar automáticamente IDs de documentos. Si se establece entrue
, los IDs de documentos se generan en función de un hash de la carga útil. Ten en cuenta que es posible que los IDs de documentos generados no se mantengan coherentes en varias importaciones. Si generas IDs automáticamente en varias importaciones, Google recomienda establecerreconciliationMode
enFULL
para mantener IDs de documentos coherentes.Especifica
autoGenerateIds
solo cuandogcsSource.dataSchema
se establece encustom
ocsv
. De lo contrario, se muestra un errorINVALID_ARGUMENT
. Si no especificasautoGenerateIds
o lo configuras comofalse
, debes especificaridField
. De lo contrario, no se podrán importar los documentos.ID_FIELD
: es opcional. Especifica qué campos son los IDs de documento. Para los documentos fuente de Cloud Storage,idField
especifica el nombre en los campos JSON que son IDs de documentos. Por ejemplo, si{"my_id":"some_uuid"}
es el campo de ID del documento en uno de tus documentos, especifica"idField":"my_id"
. Esto identifica todos los campos JSON con el nombre"my_id"
como IDs de documentos.Especifica este campo solo cuando (1)
gcsSource.dataSchema
esté configurado comocustom
ocsv
, y (2)auto_generate_ids
esté configurado comofalse
o no se haya especificado. De lo contrario, se muestra un errorINVALID_ARGUMENT
.Ten en cuenta que el valor del campo JSON de Cloud Storage debe ser de tipo cadena, tener entre 1 y 63 caracteres, y cumplir con la RFC-1034. De lo contrario, no se podrán importar los documentos.
Ten en cuenta que el nombre del campo JSON especificado por
id_field
debe ser de tipo cadena, tener entre 1 y 63 caracteres, y cumplir con RFC-1034. De lo contrario, no se podrán importar los documentos.
C#
Para obtener más información, consulta la documentación de referencia de la API de AI Applications C#.
Para autenticarte en AI Applications, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local.
Crea un almacén de datos
Importar documentos
Go
Para obtener más información, consulta la documentación de referencia de la API de AI Applications Go.
Para autenticarte en AI Applications, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local.
Crea un almacén de datos
Importar documentos
Java
Para obtener más información, consulta la documentación de referencia de la API de AI Applications Java.
Para autenticarte en AI Applications, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local.
Crea un almacén de datos
Importar documentos
Node.js
Para obtener más información, consulta la documentación de referencia de la API de AI Applications Node.js.
Para autenticarte en AI Applications, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local.
Crea un almacén de datos
Importar documentos
Python
Para obtener más información, consulta la documentación de referencia de la API de AI Applications Python.
Para autenticarte en AI Applications, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local.
Crea un almacén de datos
Importar documentos
Ruby
Para obtener más información, consulta la documentación de referencia de la API de AI Applications Ruby.
Para autenticarte en AI Applications, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local.
Crea un almacén de datos
Importar documentos
Conéctate a Cloud Storage con sincronización periódica
Antes de importar tus datos, consulta Prepara los datos para la transferencia.
En el siguiente procedimiento, se describe cómo crear un conector de datos que asocie una ubicación de Cloud Storage con un conector de datos de Vertex AI Search y cómo especificar una carpeta o un archivo en esa ubicación para el almacén de datos que deseas crear. Los almacenes de datos que son secundarios de los conectores de datos se denominan almacenes de datos de entidades.
Los datos se sincronizan periódicamente con el almacén de datos de la entidad. Puedes especificar la sincronización diaria, cada tres días o cada cinco días.
Console
En la consola de Google Cloud , ve a la página AI Applications.
Ve a la página Almacenes de datos.
Haz clic en Crear almacén de datos.
En la página Fuente, selecciona Cloud Storage.
Selecciona el tipo de datos que importarás.
Haz clic en Periódico.
Selecciona la Frecuencia de sincronización, es decir, la frecuencia con la que deseas que el conector de Vertex AI Search se sincronice con la ubicación de Cloud Storage. Puedes cambiar la frecuencia más adelante.
En la sección Selecciona una carpeta o un archivo que desees importar, selecciona Carpeta o Archivo.
Haz clic en Explorar y elige los datos que preparaste para la transferencia. Luego, haz clic en Seleccionar. También puedes ingresar la ubicación directamente en el campo
gs://
.Haz clic en Continuar.
Elige una región para tu conector de datos.
Ingresa un nombre para tu conector de datos.
Opcional: Si seleccionaste documentos no estructurados, puedes elegir opciones de análisis y fragmentación para tus documentos. Para comparar los analizadores, consulta Cómo analizar documentos. Para obtener información sobre la fragmentación, consulta Fragmenta documentos para RAG.
El analizador de OCR y el analizador de diseño pueden generar costos adicionales. Consulta los precios de las funciones de Document AI.
Para seleccionar un analizador, expande Opciones de procesamiento de documentos y especifica las opciones del analizador que deseas usar.
Haz clic en Crear.
Ahora creaste un conector de datos que sincronizará periódicamente los datos con la ubicación de Cloud Storage. También creaste un almacén de datos de entidades, llamado
gcs_store
.Para verificar el estado de la transferencia, ve a la página Almacenes de datos y haz clic en el nombre del conector de datos para ver los detalles en la página Datos.
Pestaña Actividad de transferencia de datos Cuando la columna de estado de la pestaña Actividad de transferencia de datos cambie de En curso a Completado, se habrá completado la primera transferencia.
Según el tamaño de tus datos, la transferencia puede tardar varios minutos o varias horas.
Después de configurar tu fuente de datos y de importar datos por primera vez, los datos se sincronizan desde esa fuente con la frecuencia que selecciones durante la configuración. La primera sincronización se produce aproximadamente una hora después de que se crea el conector de datos. La siguiente sincronización se produce alrededor de 24, 72 o 120 horas después.
Próximos pasos
Para adjuntar tu almacén de datos a una app, crea una app y selecciona tu almacén de datos siguiendo los pasos que se indican en Crea una app de búsqueda.
Para obtener una vista previa de cómo aparecerán los resultados de la búsqueda después de configurar tu app y tu almacén de datos, consulta Cómo obtener resultados de la búsqueda.
Conéctate a Google Drive
Las aplicaciones de IA pueden buscar datos en Google Drive con la federación de datos, que recupera información directamente de la fuente de datos especificada. Como los datos no se copian en el índice de Vertex AI Search, no tienes que preocuparte por el almacenamiento de datos.
Antes de comenzar
- Debes acceder a la consola de Google Cloud con la misma cuenta que usas para la instancia de Google Drive que planeas conectar. Las Aplicaciones basadas en IA usan tu ID de cliente de Google Workspace para conectarse a Google Drive.
- Para aplicar el control de acceso a la fuente de datos y proteger los datos en las aplicaciones basadas en IA, asegúrate de configurar tu proveedor de identidad.
Si usas controles de seguridad, ten en cuenta sus limitaciones relacionadas con los datos en Google Drive, como se explica en la siguiente tabla:
Control de seguridad Ten en cuenta lo siguiente: Residencia de datos (DRZ) Las aplicaciones de IA solo garantizan la residencia de datos en Google Cloud. Para obtener información sobre la residencia de los datos y Google Drive, consulta la documentación y la guía de cumplimiento de Google Workspace, por ejemplo, Elige la región en la que se almacenan los datos y Soberanía digital. Claves de encriptación administradas por el cliente (CMEK) Tus claves solo encriptan datos dentro de Google Cloud. Los controles de Cloud Key Management Service no se aplican a los datos almacenados en Google Drive. Transparencia de acceso Los registros de Transparencia de acceso registran las acciones que realiza el personal de Google en el proyecto Google Cloud . También deberás revisar los registros de Transparencia de acceso que creó Google Workspace. Para obtener más información, consulta Eventos de registro de Transparencia de acceso en la documentación de la Ayuda para administradores de Google Workspace.
Usa la federación de datos
Console
Para usar la consola y hacer que los datos de Google Drive se puedan buscar, sigue estos pasos:
En la consola de Google Cloud , ve a la página AI Applications.
En el menú de navegación, haz clic en Almacenes de datos.
Haz clic en
Crear almacén de datos.En la página Selecciona una fuente de datos, elige Google Drive.
Especifica la fuente de Drive para tu almacén de datos.
- Todo: Para agregar toda tu unidad al almacén de datos
- Unidades compartidas específicas: Agrega el ID de la carpeta de la unidad compartida.
- Carpetas compartidas específicas: Agrega el ID de las carpetas compartidas.
Para ubicar el ID de la carpeta de la unidad compartida o el ID de una carpeta específica, navega a la unidad compartida o a la carpeta y copia el ID de la URL. La URL sigue este formato:
https://drive.google.com/corp/drive/folders/ID
.Por ejemplo,
https://drive.google.com/corp/drive/folders/123456789012345678901
.Haz clic en Continuar.
Elige una región para tu almacén de datos.
Ingresa un nombre para tu almacén de datos.
Opcional: Para excluir los datos de este almacén de datos del uso de contenido potenciado por IA generativa cuando consultes datos con la app, haz clic en Opciones de IA generativa y selecciona Excluir de las funciones potenciadas por IA generativa.
Haz clic en Crear.
Mensajes de error
En la siguiente tabla, se describen los mensajes de error que puedes encontrar cuando trabajas con esta fuente de datos de Google, incluidos los códigos de error HTTP y los pasos sugeridos para la solución de problemas.
Código de error | Mensaje de error | Descripción | Soluciona problemas |
---|---|---|---|
403 (permiso denegado) | La búsqueda con credenciales de cuentas de servicio no es compatible con los almacenes de datos de Google Workspace. | El motor en el que se realiza la búsqueda tiene almacenes de datos de Google Workspace, y las credenciales que se pasan son de una cuenta de servicio. No se admite la búsqueda con credenciales de cuentas de servicio en los almacenes de datos de Google Workspace. | Llama a la búsqueda con las credenciales del usuario o quita los almacenes de datos de Google Workspace del motor. |
403 (permiso denegado) | Las cuentas personales no son compatibles con los almacenes de datos de Google Workspace. | La búsqueda se llama con una credencial de cuenta personal (@gmail.com), que no es compatible con los almacenes de datos de Google Workspace. | Quita los almacenes de datos de Google Workspace del motor o usa una Cuenta de Google administrada. |
403 (permiso denegado) | No coincide el ID de cliente para Datastore | La búsqueda solo se permite para los usuarios que pertenecen a la misma organización que los almacenes de datos de Google Workspace. | Quita los almacenes de datos de Google Workspace del motor o comunícate con el equipo de asistencia si el usuario y los almacenes de datos de Google Workspace deben estar en organizaciones diferentes. |
400 (Argumento no válido) | El motor no puede contener almacenes de datos predeterminados y compartidos de Google Drive. | No puedes conectar a la misma app un almacén de datos que tenga todas tus unidades (opción predeterminada) y un almacén de datos que tenga unidades compartidas específicas. | Para conectar una nueva fuente de datos de Google Drive a tu app, primero desvincula el almacén de datos innecesario y, luego, agrega el nuevo almacén de datos que quieras usar. |
Usa la federación de datos
Para adjuntar tu almacén de datos a una app, crea una app y selecciona tu almacén de datos siguiendo los pasos que se indican en Crea una app de búsqueda.
Para obtener los resultados de la búsqueda después de configurar tu app y tu almacén de datos, consulta Cómo obtener resultados de la búsqueda.
Conéctate a Gmail
Sigue estos pasos para crear un almacén de datos que se conecte a Gmail en la consola de Google Cloud . Después de conectar el almacén de datos, puedes adjuntarlo a tu app de búsqueda y buscar en tus datos de Gmail.
Antes de comenzar
- Debes acceder a la consola de Google Cloud con la misma cuenta que usas para la instancia de Google Workspace que planeas conectar. Vertex AI Search usa tu ID de cliente de Google Workspace para conectarse a Gmail.
- Para aplicar el control de acceso a la fuente de datos y proteger los datos en las aplicaciones basadas en IA, asegúrate de configurar tu proveedor de identidad.
Limitaciones
Si usas controles de seguridad, ten en cuenta sus limitaciones relacionadas con los datos en Gmail, como se explica en la siguiente tabla:
Control de seguridad Ten en cuenta lo siguiente: Residencia de datos (DRZ) Las aplicaciones de IA solo garantizan la residencia de datos en Google Cloud. Para obtener información sobre la residencia de los datos y Gmail, consulta la documentación y la guía de cumplimiento de Google Workspace, por ejemplo, Elige la región en la que se almacenan los datos y Soberanía digital. Claves de encriptación administradas por el cliente (CMEK) Tus claves solo encriptan datos dentro de Google Cloud. Los controles de Cloud Key Management Service no se aplican a los datos almacenados en Gmail. Transparencia de acceso Los registros de Transparencia de acceso registran las acciones que realiza el personal de Google en el proyecto Google Cloud . También deberás revisar los registros de Transparencia de acceso que creó Google Workspace. Para obtener más información, consulta Eventos de registro de Transparencia de acceso en la documentación de la Ayuda para administradores de Google Workspace.
Crea un almacén de datos de Gmail
Console
Para usar la consola y hacer que los datos de Gmail se puedan buscar, sigue estos pasos:
En la consola de Google Cloud , ve a la página AI Applications.
En el menú de navegación, haz clic en Almacenes de datos.
Haz clic en
Crear almacén de datos.En la página Selecciona una fuente de datos, elige Google Gmail.
Elige una región para tu almacén de datos.
Ingresa un nombre para tu almacén de datos.
Haz clic en Crear.
Sigue los pasos que se indican en Crea una app de búsqueda y adjunta el almacén de datos creado a una app de Vertex AI Search.
Mensajes de error
En la siguiente tabla, se describen los mensajes de error que puedes encontrar cuando trabajas con esta fuente de datos de Google, incluidos los códigos de error HTTP y los pasos sugeridos para la solución de problemas.
Código de error | Mensaje de error | Descripción | Soluciona problemas |
---|---|---|---|
403 (permiso denegado) | La búsqueda con credenciales de cuentas de servicio no es compatible con los almacenes de datos de Google Workspace. | El motor en el que se realiza la búsqueda tiene almacenes de datos de Google Workspace, y las credenciales que se pasan son de una cuenta de servicio. No se admite la búsqueda con credenciales de cuentas de servicio en los almacenes de datos de Google Workspace. | Llama a la búsqueda con las credenciales del usuario o quita los almacenes de datos de Google Workspace del motor. |
403 (permiso denegado) | Las cuentas personales no son compatibles con los almacenes de datos de Google Workspace. | La búsqueda se llama con una credencial de cuenta personal (@gmail.com), que no es compatible con los almacenes de datos de Google Workspace. | Quita los almacenes de datos de Google Workspace del motor o usa una Cuenta de Google administrada. |
403 (permiso denegado) | No coincide el ID de cliente para Datastore | La búsqueda solo se permite para los usuarios que pertenecen a la misma organización que los almacenes de datos de Google Workspace. | Quita los almacenes de datos de Google Workspace del motor o comunícate con el equipo de asistencia si el usuario y los almacenes de datos de Google Workspace deben estar en organizaciones diferentes. |
400 (Argumento no válido) | El motor no puede contener almacenes de datos predeterminados y compartidos de Google Drive. | No puedes conectar a la misma app un almacén de datos que tenga todas tus unidades (opción predeterminada) y un almacén de datos que tenga unidades compartidas específicas. | Para conectar una nueva fuente de datos de Google Drive a tu app, primero desvincula el almacén de datos innecesario y, luego, agrega el nuevo almacén de datos que quieras usar. |
Próximos pasos
- Para obtener una vista previa de cómo aparecerán los resultados de la búsqueda después de configurar tu app y tu almacén de datos, consulta Vista previa de los resultados de la búsqueda.
Conéctate a Google Sites
Para buscar datos en Google Sites, sigue estos pasos para crear un conector con la consola de Google Cloud .
Antes de comenzar:
Debes acceder a la consola de Google Cloud con la misma cuenta que usas para la instancia de Google Workspace que planeas conectar. Vertex AI Search usa tu ID de cliente de Google Workspace para conectarse a Google Sites.
Para aplicar el control de acceso a la fuente de datos y proteger los datos en las aplicaciones basadas en IA, asegúrate de configurar tu proveedor de identidad.
Si usas controles de seguridad, ten en cuenta sus limitaciones relacionadas con los datos en Google Sites, como se explica en la siguiente tabla:
Control de seguridad Ten en cuenta lo siguiente: Residencia de datos (DRZ) Las aplicaciones de IA solo garantizan la residencia de datos en Google Cloud. Para obtener información sobre la residencia de los datos y Google Sites, consulta la documentación y la guía de cumplimiento de Google Workspace, por ejemplo, Elige la región en la que se almacenan los datos y Soberanía digital. Claves de encriptación administradas por el cliente (CMEK) Tus claves solo encriptan datos dentro de Google Cloud. Los controles de Cloud Key Management Service no se aplican a los datos almacenados en Google Sites. Transparencia de acceso Los registros de Transparencia de acceso registran las acciones que realiza el personal de Google en el proyecto Google Cloud . También deberás revisar los registros de Transparencia de acceso que creó Google Workspace. Para obtener más información, consulta Eventos de registro de Transparencia de acceso en la documentación de la Ayuda para administradores de Google Workspace.
Console
Para usar la consola y hacer que los datos de Google Sites se puedan buscar, sigue estos pasos:
En la consola de Google Cloud , ve a la página AI Applications.
Ve a la página Almacenes de datos.
Haz clic en Nuevo almacén de datos.
En la página Fuente, selecciona Google Sites.
Elige una región para tu almacén de datos.
Ingresa un nombre para tu almacén de datos.
Haz clic en Crear.
Próximos pasos
Para adjuntar tu almacén de datos a una app, crea una app y selecciona tu almacén de datos siguiendo los pasos que se indican en Crea una app de búsqueda.
Para obtener una vista previa de cómo aparecerán los resultados de la búsqueda después de configurar tu app y tu almacén de datos, consulta Cómo obtener resultados de la búsqueda.
Conéctate al Calendario de Google
Para buscar datos en el Calendario de Google, sigue estos pasos para crear un conector con la consola de Google Cloud .
Antes de comenzar
- Debes acceder a la consola de Google Cloud con la misma cuenta que usas para la instancia de Google Workspace que planeas conectar. Vertex AI Search usa tu ID de cliente de Google Workspace para conectarse a Google Calendar.
- Para aplicar el control de acceso a la fuente de datos y proteger los datos en las aplicaciones basadas en IA, asegúrate de configurar tu proveedor de identidad.
Si usas controles de seguridad, ten en cuenta sus limitaciones relacionadas con los datos del Calendario de Google, como se explica en la siguiente tabla:
Control de seguridad Ten en cuenta lo siguiente: Residencia de datos (DRZ) Las aplicaciones de IA solo garantizan la residencia de datos en Google Cloud. Para obtener información sobre la residencia de los datos y Google Calendar, consulta la documentación y la guía de cumplimiento de Google Workspace, por ejemplo, Elige la región en la que se almacenan los datos y Soberanía digital. Claves de encriptación administradas por el cliente (CMEK) Tus claves solo encriptan datos dentro de Google Cloud. Los controles de Cloud Key Management Service no se aplican a los datos almacenados en Google Calendar. Transparencia de acceso Los registros de Transparencia de acceso registran las acciones que realiza el personal de Google en el proyecto Google Cloud . También deberás revisar los registros de Transparencia de acceso que creó Google Workspace. Para obtener más información, consulta Eventos de registro de Transparencia de acceso en la documentación de la Ayuda para administradores de Google Workspace.
Crea un almacén de datos de Calendario de Google
Console
Para usar la consola y hacer que los datos de Calendario de Google se puedan buscar, sigue estos pasos:
En la consola de Google Cloud , ve a la página AI Applications.
En el menú de navegación, haz clic en Almacenes de datos.
Haz clic en
Crear almacén de datos.En la página Selecciona una fuente de datos, elige Calendario de Google.
Elige una región para tu almacén de datos.
Ingresa un nombre para tu almacén de datos.
Haz clic en Crear.
Mensajes de error
En la siguiente tabla, se describen los mensajes de error que puedes encontrar cuando trabajas con esta fuente de datos de Google, incluidos los códigos de error HTTP y los pasos sugeridos para la solución de problemas.
Código de error | Mensaje de error | Descripción | Soluciona problemas |
---|---|---|---|
403 (permiso denegado) | La búsqueda con credenciales de cuentas de servicio no es compatible con los almacenes de datos de Google Workspace. | El motor en el que se realiza la búsqueda tiene almacenes de datos de Google Workspace, y las credenciales que se pasan son de una cuenta de servicio. No se admite la búsqueda con credenciales de cuentas de servicio en los almacenes de datos de Google Workspace. | Llama a la búsqueda con las credenciales del usuario o quita los almacenes de datos de Google Workspace del motor. |
403 (permiso denegado) | Las cuentas personales no son compatibles con los almacenes de datos de Google Workspace. | La búsqueda se llama con una credencial de cuenta personal (@gmail.com), que no es compatible con los almacenes de datos de Google Workspace. | Quita los almacenes de datos de Google Workspace del motor o usa una Cuenta de Google administrada. |
403 (permiso denegado) | No coincide el ID de cliente para Datastore | La búsqueda solo se permite para los usuarios que pertenecen a la misma organización que los almacenes de datos de Google Workspace. | Quita los almacenes de datos de Google Workspace del motor o comunícate con el equipo de asistencia si el usuario y los almacenes de datos de Google Workspace deben estar en organizaciones diferentes. |
400 (Argumento no válido) | El motor no puede contener almacenes de datos predeterminados y compartidos de Google Drive. | No puedes conectar a la misma app un almacén de datos que tenga todas tus unidades (opción predeterminada) y un almacén de datos que tenga unidades compartidas específicas. | Para conectar una nueva fuente de datos de Google Drive a tu app, primero desvincula el almacén de datos innecesario y, luego, agrega el nuevo almacén de datos que quieras usar. |
Próximos pasos
Para conectar tu almacén de datos a una app, crea la app y, luego, selecciona tu almacén de datos siguiendo las instrucciones en Crea una app de búsqueda.
Para obtener los resultados de la búsqueda después de configurar tu app y tu almacén de datos, consulta Cómo obtener resultados de la búsqueda.
Conéctate a Grupos de Google
Para buscar datos en Grupos de Google, sigue estos pasos para crear un conector con la consola de Google Cloud .
Antes de comenzar:
Debes acceder a la consola de Google Cloud con la misma cuenta que usas para la instancia de Google Workspace que planeas conectar. Vertex AI Search usa tu ID de cliente de Google Workspace para conectarse a Grupos de Google.
Para aplicar el control de acceso a la fuente de datos y proteger los datos en las aplicaciones basadas en IA, asegúrate de configurar tu proveedor de identidad.
Si usas controles de seguridad, ten en cuenta sus limitaciones relacionadas con los datos en Grupos de Google, como se explica en la siguiente tabla:
Control de seguridad Ten en cuenta lo siguiente: Residencia de datos (DRZ) Las aplicaciones de IA solo garantizan la residencia de datos en Google Cloud. Para obtener información sobre la residencia de los datos y Google Groups, consulta la documentación y la guía de cumplimiento de Google Workspace, por ejemplo, Elige la región en la que se almacenan los datos y Soberanía digital. Claves de encriptación administradas por el cliente (CMEK) Tus claves solo encriptan datos dentro de Google Cloud. Los controles de Cloud Key Management Service no se aplican a los datos almacenados en Google Groups. Transparencia de acceso Los registros de Transparencia de acceso registran las acciones que realiza el personal de Google en el proyecto Google Cloud . También deberás revisar los registros de Transparencia de acceso que creó Google Workspace. Para obtener más información, consulta Eventos de registro de Transparencia de acceso en la documentación de la Ayuda para administradores de Google Workspace.
Console
Para usar la consola y hacer que los datos de Grupos de Google se puedan buscar, sigue estos pasos:
En la consola de Google Cloud , ve a la página AI Applications.
Ve a la página Almacenes de datos.
Haz clic en Nuevo almacén de datos.
En la página Fuente, selecciona Google Groups.
Elige una región para tu almacén de datos.
Ingresa un nombre para tu almacén de datos.
Haz clic en Crear. Según el tamaño de tus datos, la transferencia puede tardar varios minutos o varias horas. Espera al menos una hora antes de usar tu almacén de datos para realizar búsquedas.
Próximos pasos
Para adjuntar tu almacén de datos a una app, crea una app y selecciona tu almacén de datos siguiendo los pasos que se indican en Crea una app de búsqueda.
Para obtener una vista previa de cómo aparecerán los resultados de la búsqueda después de configurar tu app y tu almacén de datos, consulta Cómo obtener resultados de la búsqueda.
Importar desde Cloud SQL
Para transferir datos desde Cloud SQL, sigue estos pasos para configurar el acceso a Cloud SQL, crear un almacén de datos y transferir datos.
Configura el acceso al bucket de etapa de pruebas para las instancias de Cloud SQL
Cuando se transfieren datos desde Cloud SQL, primero se almacenan en un bucket de Cloud Storage. Sigue estos pasos para otorgar acceso a una instancia de Cloud SQL a buckets de Cloud Storage.
En la consola de Google Cloud , ve a la página SQL.
Haz clic en la instancia de Cloud SQL desde la que planeas importar.
Copia el identificador de la cuenta de servicio de la instancia, que se parece a una dirección de correo electrónico, por ejemplo,
p9876-abcd33f@gcp-sa-cloud-sql.iam.gserviceaccount.com
.Ir a la página IAM y administración
Haz clic en Otorgar acceso.
En Nuevos principales, ingresa el identificador de la cuenta de servicio de la instancia y selecciona el rol Cloud Storage > Administrador de almacenamiento.
Haz clic en Guardar.
Siguiente:
Si tus datos de Cloud SQL están en el mismo proyecto que Vertex AI Search, ve a Importar datos desde Cloud SQL.
Si tus datos de Cloud SQL están en un proyecto diferente al de Vertex AI Search, ve a Configura el acceso a Cloud SQL desde otro proyecto.
Configura el acceso a Cloud SQL desde otro proyecto
Para otorgar acceso a Vertex AI Search a los datos de Cloud SQL que se encuentran en otro proyecto, sigue estos pasos:
Reemplaza la siguiente variable
PROJECT_NUMBER
por el número de tu proyecto de Vertex AI Search y, luego, copia el contenido del bloque de código. Este es el identificador de tu cuenta de servicio de Vertex AI Search:service-PROJECT_NUMBER@gcp-sa-discoveryengine.iam.gserviceaccount.com`
Ir a la página IAM y administración
Cambia a tu proyecto de Cloud SQL en la página IAM y administración y haz clic en Otorgar acceso.
En Principales nuevas, ingresa el identificador de la cuenta de servicio y selecciona el rol Cloud SQL > Visualizador de Cloud SQL.
Haz clic en Guardar.
A continuación, ve a Importar datos desde Cloud SQL.
Importa datos desde Cloud SQL
Console
Para usar la consola y transferir datos desde Cloud SQL, sigue estos pasos:
En la consola de Google Cloud , ve a la página AI Applications.
Ve a la página Almacenes de datos.
Haz clic en Nuevo almacén de datos.
En la página Fuente, selecciona Cloud SQL.
Especifica el ID del proyecto, el ID de la instancia, el ID de la base de datos y el ID de la tabla de los datos que planeas importar.
Haz clic en Explorar y elige una ubicación intermedia de Cloud Storage para exportar los datos. Luego, haz clic en Seleccionar. También puedes ingresar la ubicación directamente en el campo
gs://
.Selecciona si quieres activar la exportación sin servidores. La exportación sin servidores genera un costo adicional. Para obtener información sobre la exportación sin servidores, consulta Cómo minimizar el impacto en el rendimiento de las exportaciones en la documentación de Cloud SQL.
Haz clic en Continuar.
Elige una región para tu almacén de datos.
Ingresa un nombre para tu almacén de datos.
Haz clic en Crear.
Para verificar el estado de la transferencia, ve a la página Almacenes de datos y haz clic en el nombre del almacén de datos para ver los detalles en la página Datos. Cuando la columna de estado de la pestaña Actividad cambie de En curso a Se completó la importación, se habrá completado la transferencia.
Según el tamaño de tus datos, la transferencia puede tardar varios minutos o varias horas.
REST
Para usar la línea de comandos y crear un almacén de datos, y luego transferir datos desde Cloud SQL, sigue estos pasos:
Crea un almacén de datos.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -H "X-Goog-User-Project: PROJECT_ID" \ "https://discoveryengine.googleapis.com/v1alpha/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores?dataStoreId=DATA_STORE_ID" \ -d '{ "displayName": "DISPLAY_NAME", "industryVertical": "GENERIC", "solutionTypes": ["SOLUTION_TYPE_SEARCH"], }'
Reemplaza lo siguiente:
PROJECT_ID
: el ID de tu proyecto.DATA_STORE_ID
: Es el ID del almacén de datos. El ID solo puede contener letras en minúscula, dígitos, guiones bajos y guiones.DISPLAY_NAME
: Es el nombre visible del almacén de datos. Esto podría mostrarse en la consola de Google Cloud .
Importa datos desde Cloud SQL.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/branches/0/documents:import" \ -d '{ "cloudSqlSource": { "projectId": "SQL_PROJECT_ID", "instanceId": "INSTANCE_ID", "databaseId": "DATABASE_ID", "tableId": "TABLE_ID", "gcsStagingDir": "STAGING_DIRECTORY" }, "reconciliationMode": "RECONCILIATION_MODE", "autoGenerateIds": "AUTO_GENERATE_IDS", "idField": "ID_FIELD", }'
Reemplaza lo siguiente:
PROJECT_ID
: Es el ID de tu proyecto de Vertex AI Search.DATA_STORE_ID
: Es el ID del almacén de datos. El ID solo puede contener letras en minúscula, dígitos, guiones bajos y guiones.SQL_PROJECT_ID
: Es el ID de tu proyecto de Cloud SQL.INSTANCE_ID
: Es el ID de tu instancia de Cloud SQL.DATABASE_ID
: Es el ID de tu base de datos de Cloud SQL.TABLE_ID
: Es el ID de tu tabla de Cloud SQL.STAGING_DIRECTORY
: es opcional. Un directorio de Cloud Storage, por ejemplo,gs://<your-gcs-bucket>/directory/import_errors
.RECONCILIATION_MODE
: es opcional. Los valores sonFULL
yINCREMENTAL
. El valor predeterminado esINCREMENTAL
. Si especificasINCREMENTAL
, se produce una actualización incremental de los datos de Cloud SQL en tu almacén de datos. Esta acción realiza una operación de upsert, que agrega documentos nuevos y reemplaza los existentes por documentos actualizados con el mismo ID. Si especificasFULL
, se realizará una nueva base completa de los documentos en tu almacén de datos. En otras palabras, se agregan documentos nuevos y actualizados a tu almacén de datos, y se quitan de él los documentos que no están en Cloud SQL. El modoFULL
es útil si quieres borrar automáticamente los documentos que ya no necesitas.
Python
Para obtener más información, consulta la documentación de referencia de la API de AI Applications Python.
Para autenticarte en AI Applications, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local.
Crea un almacén de datos
Importar documentos
Próximos pasos
Para adjuntar tu almacén de datos a una app, crea una app y selecciona tu almacén de datos siguiendo los pasos que se indican en Crea una app de búsqueda.
Para obtener una vista previa de cómo aparecerán los resultados de la búsqueda después de configurar tu app y tu almacén de datos, consulta Cómo obtener resultados de la búsqueda.
Importar desde Spanner
Para transferir datos desde Spanner, sigue estos pasos para crear un almacén de datos y transferir datos con la consola de Google Cloud o la API.
Configura el acceso a Spanner desde otro proyecto
Si tus datos de Spanner están en el mismo proyecto que Vertex AI Search, ve a Importa datos desde Spanner.
Para otorgar acceso a Vertex AI Search a los datos de Spanner que se encuentran en un proyecto diferente, sigue estos pasos:
Reemplaza la siguiente variable
PROJECT_NUMBER
por el número de tu proyecto de Vertex AI Search y, luego, copia el contenido de este bloque de código. Este es el identificador de tu cuenta de servicio de Vertex AI Search:service-PROJECT_NUMBER@gcp-sa-discoveryengine.iam.gserviceaccount.com
Ir a la página IAM y administración
Cambia a tu proyecto de Spanner en la página IAM y administración y haz clic en Otorgar acceso.
En Principales nuevas, ingresa el identificador de la cuenta de servicio y selecciona una de las siguientes opciones:
- Si no usarás Data Boost durante la importación, selecciona el rol Cloud Spanner > Cloud Spanner Database Reader.
- Si planeas usar Data Boost durante la importación, selecciona el rol Cloud Spanner > Administrador de bases de datos de Cloud Spanner o un rol personalizado con los permisos de Lector de bases de datos de Cloud Spanner y spanner.databases.useDataBoost. Para obtener información sobre Data Boost, consulta la descripción general de Data Boost en la documentación de Spanner.
Haz clic en Guardar.
A continuación, ve a Importar datos desde Spanner.
Importa datos desde Spanner
Console
Para usar la consola y transferir datos de Spanner, sigue estos pasos:
En la consola de Google Cloud , ve a la página AI Applications.
Ve a la página Almacenes de datos.
Haz clic en Nuevo almacén de datos.
En la página Fuente, selecciona Cloud Spanner.
Especifica el ID del proyecto, el ID de la instancia, el ID de la base de datos y el ID de la tabla de los datos que planeas importar.
Selecciona si deseas activar el boosting de datos. Para obtener información sobre Data Boost, consulta la descripción general de Data Boost en la documentación de Spanner.
Haz clic en Continuar.
Elige una región para tu almacén de datos.
Ingresa un nombre para tu almacén de datos.
Haz clic en Crear.
Para verificar el estado de la transferencia, ve a la página Almacenes de datos y haz clic en el nombre del almacén de datos para ver los detalles en la página Datos. Cuando la columna de estado de la pestaña Actividad cambie de En curso a Se completó la importación, se habrá completado la transferencia.
Según el tamaño de tus datos, la transferencia puede tardar varios minutos o varias horas.
REST
Para usar la línea de comandos y crear un almacén de datos, y luego transferir datos desde Spanner, sigue estos pasos:
Crea un almacén de datos.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -H "X-Goog-User-Project: PROJECT_ID" \ "https://discoveryengine.googleapis.com/v1alpha/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores?dataStoreId=DATA_STORE_ID" \ -d '{ "displayName": "DISPLAY_NAME", "industryVertical": "GENERIC", "solutionTypes": ["SOLUTION_TYPE_SEARCH"], "contentConfig": "CONTENT_REQUIRED", }'
Reemplaza lo siguiente:
PROJECT_ID
: Es el ID de tu proyecto de Vertex AI Search.DATA_STORE_ID
: Es el ID del almacén de datos. El ID solo puede contener letras en minúscula, dígitos, guiones bajos y guiones.DISPLAY_NAME
: Es el nombre visible del almacén de datos. Esto podría mostrarse en la consola de Google Cloud .
Importar datos desde Spanner
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/branches/0/documents:import" \ -d '{ "cloudSpannerSource": { "projectId": "SPANNER_PROJECT_ID", "instanceId": "INSTANCE_ID", "databaseId": "DATABASE_ID", "tableId": "TABLE_ID", "enableDataBoost": "DATA_BOOST_BOOLEAN" }, "reconciliationMode": "RECONCILIATION_MODE", "autoGenerateIds": "AUTO_GENERATE_IDS", "idField": "ID_FIELD", }'
Reemplaza lo siguiente:
PROJECT_ID
: Es el ID de tu proyecto de Vertex AI Search.DATA_STORE_ID
: Es el ID del almacén de datos.SPANNER_PROJECT_ID
: Es el ID de tu proyecto de Spanner.INSTANCE_ID
: Es el ID de tu instancia de Spanner.DATABASE_ID
: Es el ID de tu base de datos de Spanner.TABLE_ID
: Es el ID de tu tabla de Spanner.DATA_BOOST_BOOLEAN
: es opcional. Indica si se debe activar Data Boost. Para obtener información sobre Data Boost, consulta la descripción general de Data Boost en la documentación de Spanner.RECONCILIATION_MODE
: es opcional. Los valores sonFULL
yINCREMENTAL
. El valor predeterminado esINCREMENTAL
. Si especificasINCREMENTAL
, se realizará una actualización incremental de los datos de Spanner a tu almacén de datos. Esta operación realiza una inserción o actualización, que agrega documentos nuevos y reemplaza los existentes por documentos actualizados con el mismo ID. Si especificasFULL
, se realizará una rebase completa de los documentos en tu almacén de datos. En otras palabras, se agregan documentos nuevos y actualizados a tu almacén de datos, y se quitan de él los documentos que no están en Spanner. El modoFULL
es útil si quieres borrar automáticamente los documentos que ya no necesitas.AUTO_GENERATE_IDS
: es opcional. Especifica si se deben generar automáticamente IDs de documentos. Si se configura comotrue
, los IDs de documentos se generan en función de un hash de la carga útil. Ten en cuenta que es posible que los IDs de documentos generados no sigan siendo coherentes en varias importaciones. Si generas IDs automáticamente en varias importaciones, Google recomienda establecerreconciliationMode
enFULL
para mantener IDs de documentos coherentes.ID_FIELD
: es opcional. Especifica qué campos son los IDs de documento.
Python
Para obtener más información, consulta la documentación de referencia de la API de AI Applications Python.
Para autenticarte en AI Applications, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local.
Crea un almacén de datos
Importar documentos
Próximos pasos
Para adjuntar tu almacén de datos a una app, crea una app y selecciona tu almacén de datos siguiendo los pasos que se indican en Crea una app de búsqueda.
Para obtener una vista previa de cómo aparecerán los resultados de la búsqueda después de configurar tu app y tu almacén de datos, consulta Cómo obtener resultados de la búsqueda.
Importa desde Firestore
Para transferir datos desde Firestore, sigue estos pasos para crear un almacén de datos y transferir datos con la consola de Google Cloud o la API.
Si tus datos de Firestore se encuentran en el mismo proyecto que Vertex AI Search, ve a Importar datos de Firestore.
Si tus datos de Firestore se encuentran en un proyecto diferente al de Vertex AI Search, consulta Cómo configurar el acceso a Firestore.
Configura el acceso a Firestore desde otro proyecto
Para otorgar acceso a Vertex AI Search a los datos de Firestore que se encuentran en otro proyecto, sigue estos pasos:
Reemplaza la siguiente variable
PROJECT_NUMBER
por el número de tu proyecto de Vertex AI Search y, luego, copia el contenido de este bloque de código. Este es el identificador de tu cuenta de servicio de Vertex AI Search:service-PROJECT_NUMBER@gcp-sa-discoveryengine.iam.gserviceaccount.com
Ir a la página IAM y administración
Cambia a tu proyecto de Firestore en la página IAM y administración y haz clic en Otorgar acceso.
En Nuevos principales, ingresa el identificador de la cuenta de servicio de la instancia y selecciona el rol Datastore > Administrador de importación y exportación de Cloud Datastore.
Haz clic en Guardar.
Vuelve a tu proyecto de Vertex AI Search.
A continuación, ve a Importar datos de Firestore.
Importa datos de Firestore
Console
Para usar la consola y transferir datos de Firestore, sigue estos pasos:
En la consola de Google Cloud , ve a la página AI Applications.
Ve a la página Almacenes de datos.
Haz clic en Nuevo almacén de datos.
En la página Fuente, selecciona Firestore.
Especifica el ID del proyecto, el ID de la base de datos y el ID de la colección de los datos que planeas importar.
Haz clic en Continuar.
Elige una región para tu almacén de datos.
Ingresa un nombre para tu almacén de datos.
Haz clic en Crear.
Para verificar el estado de la transferencia, ve a la página Almacenes de datos y haz clic en el nombre del almacén de datos para ver los detalles en la página Datos. Cuando la columna de estado de la pestaña Actividad cambie de En curso a Se completó la importación, se habrá completado la transferencia.
Según el tamaño de tus datos, la transferencia puede tardar varios minutos o varias horas.
REST
Para usar la línea de comandos y crear un almacén de datos, y luego transferir datos desde Firestore, sigue estos pasos:
Crea un almacén de datos.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -H "X-Goog-User-Project: PROJECT_ID" \ "https://discoveryengine.googleapis.com/v1alpha/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores?dataStoreId=DATA_STORE_ID" \ -d '{ "displayName": "DISPLAY_NAME", "industryVertical": "GENERIC", "solutionTypes": ["SOLUTION_TYPE_SEARCH"], }'
Reemplaza lo siguiente:
PROJECT_ID
: el ID de tu proyecto.DATA_STORE_ID
: Es el ID del almacén de datos. El ID solo puede contener letras en minúscula, dígitos, guiones bajos y guiones.DISPLAY_NAME
: Es el nombre visible del almacén de datos. Esto podría mostrarse en la consola de Google Cloud .
Importar datos de Firestore
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/branches/0/documents:import" \ -d '{ "firestoreSource": { "projectId": "FIRESTORE_PROJECT_ID", "databaseId": "DATABASE_ID", "collectionId": "COLLECTION_ID", }, "reconciliationMode": "RECONCILIATION_MODE", "autoGenerateIds": "AUTO_GENERATE_IDS", "idField": "ID_FIELD", }'
Reemplaza lo siguiente:
PROJECT_ID
: Es el ID de tu proyecto de Vertex AI Search.DATA_STORE_ID
: Es el ID del almacén de datos. El ID solo puede contener letras en minúscula, dígitos, guiones bajos y guiones.FIRESTORE_PROJECT_ID
: Es el ID de tu proyecto de Firestore.DATABASE_ID
: Es el ID de tu base de datos de Firestore.COLLECTION_ID
: Es el ID de tu colección de Firestore.RECONCILIATION_MODE
: es opcional. Los valores sonFULL
yINCREMENTAL
. El valor predeterminado esINCREMENTAL
. Si especificasINCREMENTAL
, se produce una actualización incremental de los datos de Firestore en tu almacén de datos. Esta acción realiza una operación de upsert, que agrega documentos nuevos y reemplaza los existentes por documentos actualizados con el mismo ID. Si especificasFULL
, se realizará una nueva base completa de los documentos en tu almacén de datos. En otras palabras, se agregan documentos nuevos y actualizados a tu almacén de datos, y se quitan de él los documentos que no están en Firestore. El modoFULL
es útil si quieres borrar automáticamente los documentos que ya no necesitas.AUTO_GENERATE_IDS
: es opcional. Especifica si se deben generar automáticamente IDs de documentos. Si se configura comotrue
, los IDs de documentos se generan en función de un hash de la carga útil. Ten en cuenta que es posible que los IDs de documentos generados no sigan siendo coherentes en varias importaciones. Si generas IDs automáticamente en varias importaciones, Google recomienda establecerreconciliationMode
enFULL
para mantener IDs de documentos coherentes.ID_FIELD
: es opcional. Especifica qué campos son los IDs de documento.
Python
Para obtener más información, consulta la documentación de referencia de la API de AI Applications Python.
Para autenticarte en AI Applications, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local.
Crea un almacén de datos
Importar documentos
Próximos pasos
Para adjuntar tu almacén de datos a una app, crea una app y selecciona tu almacén de datos siguiendo los pasos que se indican en Crea una app de búsqueda.
Para obtener una vista previa de cómo aparecerán los resultados de la búsqueda después de configurar tu app y tu almacén de datos, consulta Cómo obtener resultados de la búsqueda.
Importar desde Bigtable
Para transferir datos desde Bigtable, sigue estos pasos para crear un almacén de datos y transferir datos con la API.
Configura el acceso a Bigtable
Para otorgar acceso a Vertex AI Search a los datos de Bigtable que se encuentran en otro proyecto, sigue estos pasos:
Reemplaza la siguiente variable
PROJECT_NUMBER
por el número de tu proyecto de Vertex AI Search y, luego, copia el contenido de este bloque de código. Este es el identificador de tu cuenta de servicio de Vertex AI Search:service-PROJECT_NUMBER@gcp-sa-discoveryengine.iam.gserviceaccount.com`
Ir a la página IAM y administración
Cambia a tu proyecto de Bigtable en la página IAM y administración y haz clic en Otorgar acceso.
En Principales nuevas, ingresa el identificador de la cuenta de servicio de la instancia y selecciona el rol Bigtable > Lector de Bigtable.
Haz clic en Guardar.
Vuelve a tu proyecto de Vertex AI Search.
A continuación, ve a Importar datos de Bigtable.
Importa datos de Bigtable
REST
Para usar la línea de comandos y crear un almacén de datos, y luego transferir datos desde Bigtable, sigue estos pasos:
Crea un almacén de datos.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -H "X-Goog-User-Project: PROJECT_ID" \ "https://discoveryengine.googleapis.com/v1alpha/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores?dataStoreId=DATA_STORE_ID" \ -d '{ "displayName": "DISPLAY_NAME", "industryVertical": "GENERIC", "solutionTypes": ["SOLUTION_TYPE_SEARCH"], }'
Reemplaza lo siguiente:
PROJECT_ID
: el ID de tu proyecto.DATA_STORE_ID
: Es el ID del almacén de datos. El ID solo puede contener letras en minúscula, dígitos, guiones bajos y guiones.DISPLAY_NAME
: Es el nombre visible del almacén de datos. Esto podría mostrarse en la consola de Google Cloud .
Importa datos de Bigtable.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/branches/0/documents:import" \ -d '{ "bigtableSource ": { "projectId": "BIGTABLE_PROJECT_ID", "instanceId": "INSTANCE_ID", "tableId": "TABLE_ID", "bigtableOptions": { "keyFieldName": "KEY_FIELD_NAME", "families": { "key": "KEY", "value": { "fieldName": "FIELD_NAME", "encoding": "ENCODING", "type": "TYPE", "columns": [ { "qualifier": "QUALIFIER", "fieldName": "FIELD_NAME", "encoding": "COLUMN_ENCODING", "type": "COLUMN_VALUES_TYPE" } ] } } ... } }, "reconciliationMode": "RECONCILIATION_MODE", "autoGenerateIds": "AUTO_GENERATE_IDS", "idField": "ID_FIELD", }'
Reemplaza lo siguiente:
PROJECT_ID
: Es el ID de tu proyecto de Vertex AI Search.DATA_STORE_ID
: Es el ID del almacén de datos. El ID solo puede contener letras en minúscula, dígitos, guiones bajos y guiones.BIGTABLE_PROJECT_ID
: Es el ID de tu proyecto de Bigtable.INSTANCE_ID
: Es el ID de tu instancia de Bigtable.TABLE_ID
: Es el ID de tu tabla de Bigtable.KEY_FIELD_NAME
: Es opcional, pero se recomienda. Nombre del campo que se usará para el valor de la clave de fila después de la transferencia a Vertex AI Search.KEY
: Obligatorio. Es un valor de cadena para la clave de la familia de columnas.ENCODING
: es opcional. Es el modo de codificación de los valores cuando el tipo no es STRING.Se puede anular para una columna específica si se incluye esa columna encolumns
y se especifica una codificación para ella.COLUMN_TYPE
: es opcional. Es el tipo de valores de esta familia de columnas.QUALIFIER
: Obligatorio. Es el calificador de la columna.FIELD_NAME
: Es opcional, pero se recomienda. Nombre del campo que se usará para esta columna después de la transferencia a Vertex AI Search.COLUMN_ENCODING
: es opcional. Es el modo de codificación de los valores para una columna específica cuando el tipo no es STRING.RECONCILIATION_MODE
: es opcional. Los valores sonFULL
yINCREMENTAL
. El valor predeterminado esINCREMENTAL
. Si especificasINCREMENTAL
, se produce una actualización incremental de los datos de Bigtable a tu almacén de datos. Esto realiza una operación de upsert, que agrega documentos nuevos y reemplaza los existentes por documentos actualizados con el mismo ID. Si especificasFULL
, se realizará una nueva base completa de los documentos en tu almacén de datos. En otras palabras, se agregan documentos nuevos y actualizados a tu almacén de datos, y se quitan de él los documentos que no están en Bigtable. El modoFULL
es útil si deseas borrar automáticamente los documentos que ya no necesitas.AUTO_GENERATE_IDS
: es opcional. Especifica si se deben generar automáticamente IDs de documentos. Si se configura comotrue
, los IDs de documentos se generan en función de un hash de la carga útil. Ten en cuenta que es posible que los IDs de documentos generados no sigan siendo coherentes en varias importaciones. Si generas IDs automáticamente en varias importaciones, Google recomienda establecerreconciliationMode
enFULL
para mantener IDs de documentos coherentes.Especifica
autoGenerateIds
solo cuandobigquerySource.dataSchema
se establece encustom
. De lo contrario, se muestra un errorINVALID_ARGUMENT
. Si no especificasautoGenerateIds
o lo configuras comofalse
, debes especificaridField
. De lo contrario, no se podrán importar los documentos.ID_FIELD
: es opcional. Especifica qué campos son los IDs de documento.
Python
Para obtener más información, consulta la documentación de referencia de la API de AI Applications Python.
Para autenticarte en AI Applications, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local.
Crea un almacén de datos
Importar documentos
Próximos pasos
Para adjuntar tu almacén de datos a una app, crea una app y selecciona tu almacén de datos siguiendo los pasos que se indican en Crea una app de búsqueda.
Para obtener una vista previa de cómo aparecerán los resultados de la búsqueda después de configurar tu app y tu almacén de datos, consulta Cómo obtener resultados de la búsqueda.
Importación desde AlloyDB para PostgreSQL
Para transferir datos desde AlloyDB para PostgreSQL, sigue estos pasos para crear un almacén de datos y transferir datos con la consola de Google Cloud o la API.
Si tus datos de AlloyDB para PostgreSQL se encuentran en el mismo proyecto que el proyecto de Vertex AI Search, ve a Importar datos de AlloyDB para PostgreSQL.
Si tus datos de AlloyDB para PostgreSQL se encuentran en un proyecto diferente al de Vertex AI Search, consulta Cómo configurar el acceso a AlloyDB para PostgreSQL.
Configura el acceso a AlloyDB para PostgreSQL desde otro proyecto
Para otorgar acceso a Vertex AI Search a los datos de AlloyDB para PostgreSQL que se encuentran en un proyecto diferente, sigue estos pasos:
Reemplaza la siguiente variable
PROJECT_NUMBER
por el número de tu proyecto de Vertex AI Search y, luego, copia el contenido de este bloque de código. Este es el identificador de tu cuenta de servicio de Vertex AI Search:service-PROJECT_NUMBER@gcp-sa-discoveryengine.iam.gserviceaccount.com
Cambia al proyecto Google Cloud en el que residen tus datos de AlloyDB para PostgreSQL.
Ir a la página IAM.
Haz clic en Otorgar acceso.
En Nuevos principales, ingresa el identificador de la cuenta de servicio de Vertex AI Search y selecciona el rol Cloud AlloyDB > Administrador de Cloud AlloyDB.
Haz clic en Guardar.
Vuelve a tu proyecto de Vertex AI Search.
A continuación, ve a Importar datos desde AlloyDB para PostgreSQL.
Importa datos de AlloyDB para PostgreSQL
Console
Para usar la consola y transferir datos de AlloyDB para PostgreSQL, sigue estos pasos:
En la consola de Google Cloud , ve a la página AI Applications.
En el menú de navegación, haz clic en Almacenes de datos.
Haz clic en Crear almacén de datos.
En la página Fuente, selecciona AlloyDB.
Especifica el ID del proyecto, el ID de la ubicación, el ID del clúster, el ID de la base de datos y el ID de la tabla de los datos que planeas importar.
Haz clic en Continuar.
Elige una región para tu almacén de datos.
Ingresa un nombre para tu almacén de datos.
Haz clic en Crear.
Para verificar el estado de la transferencia, ve a la página Almacenes de datos y haz clic en el nombre del almacén de datos para ver los detalles en la página Datos. Cuando la columna de estado de la pestaña Actividad cambie de En curso a Se completó la importación, se habrá completado la transferencia.
Según el tamaño de tus datos, la transferencia puede tardar varios minutos o varias horas.
REST
Para usar la línea de comandos y crear un almacén de datos, y luego transferir datos desde AlloyDB para PostgreSQL, sigue estos pasos:
Crea un almacén de datos.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -H "X-Goog-User-Project: PROJECT_ID" \ "https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores?dataStoreId=DATA_STORE_ID" \ -d '{ "displayName": "DISPLAY_NAME", "industryVertical": "GENERIC", "solutionTypes": ["SOLUTION_TYPE_SEARCH"], }'
Reemplaza lo siguiente:
PROJECT_ID
: el ID de tu proyecto.DATA_STORE_ID
: Es el ID del almacén de datos. El ID solo puede contener letras en minúscula, dígitos, guiones bajos y guiones.DISPLAY_NAME
: Es el nombre visible del almacén de datos. Esto podría mostrarse en la consola de Google Cloud .
Importa datos de AlloyDB para PostgreSQL.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/branches/0/documents:import" \ -d '{ "alloydbSource": { "projectId": "ALLOYDB_PROJECT_ID", "locationId": "LOCATION_ID", "clusterId": "CLUSTER_ID", "databaseId": "DATABASE_ID", "tableId": "TABLE_ID", }, "reconciliationMode": "RECONCILIATION_MODE", "autoGenerateIds": "AUTO_GENERATE_IDS", "idField": "ID_FIELD", }'
Reemplaza lo siguiente:
PROJECT_ID
: Es el ID de tu proyecto de Vertex AI Search.DATA_STORE_ID
: Es el ID del almacén de datos. El ID solo puede contener letras en minúscula, dígitos, guiones bajos y guiones.ALLOYDB_PROJECT_ID
: Es el ID de tu proyecto de AlloyDB para PostgreSQL.LOCATION_ID
: Es el ID de tu ubicación de AlloyDB para PostgreSQL.CLUSTER_ID
: Es el ID de tu clúster de AlloyDB para PostgreSQL.DATABASE_ID
: Es el ID de tu base de datos de AlloyDB para PostgreSQL.TABLE_ID
: Es el ID de tu tabla de AlloyDB para PostgreSQL.RECONCILIATION_MODE
: es opcional. Los valores sonFULL
yINCREMENTAL
. El valor predeterminado esINCREMENTAL
. Si especificasINCREMENTAL
, se produce una actualización incremental de los datos de AlloyDB para PostgreSQL en tu almacén de datos. Esta acción realiza una operación de upsert, que agrega documentos nuevos y reemplaza los existentes por documentos actualizados con el mismo ID. Si especificasFULL
, se realizará una nueva base completa de los documentos en tu almacén de datos. En otras palabras, se agregan documentos nuevos y actualizados a tu almacén de datos, y se quitan de él los documentos que no están en AlloyDB para PostgreSQL. El modoFULL
es útil si quieres borrar automáticamente los documentos que ya no necesitas.AUTO_GENERATE_IDS
: es opcional. Especifica si se deben generar automáticamente IDs de documentos. Si se configura comotrue
, los IDs de documentos se generan en función de un hash de la carga útil. Ten en cuenta que es posible que los IDs de documentos generados no sigan siendo coherentes en varias importaciones. Si generas IDs automáticamente en varias importaciones, Google recomienda establecerreconciliationMode
enFULL
para mantener IDs de documentos coherentes.ID_FIELD
: es opcional. Especifica qué campos son los IDs de documento.
Python
Para obtener más información, consulta la documentación de referencia de la API de AI Applications Python.
Para autenticarte en AI Applications, configura las credenciales predeterminadas de la aplicación. Si deseas obtener más información, consulta Configura la autenticación para un entorno de desarrollo local.
Crea un almacén de datos
Importar documentos
Próximos pasos
Para adjuntar tu almacén de datos a una app, crea una app y selecciona tu almacén de datos siguiendo los pasos que se indican en Crea una app de búsqueda.
Para obtener una vista previa de cómo aparecerán los resultados de la búsqueda después de configurar tu app y tu almacén de datos, consulta Cómo obtener resultados de la búsqueda.
Sube datos JSON estructurados con la API
Para subir directamente un documento o un objeto JSON con la API, sigue estos pasos.
Antes de importar tus datos, prepara los datos para la transferencia.
REST
Para usar la línea de comandos para crear un almacén de datos y, luego, importar datos JSON estructurados, sigue estos pasos.
Crea un almacén de datos.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -H "X-Goog-User-Project: PROJECT_ID" \ "https://discoveryengine.googleapis.com/v1alpha/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores?dataStoreId=DATA_STORE_ID" \ -d '{ "displayName": "DATA_STORE_DISPLAY_NAME", "industryVertical": "GENERIC", "solutionTypes": ["SOLUTION_TYPE_SEARCH"] }'
Reemplaza lo siguiente:
PROJECT_ID
: Es el ID de tu proyecto de Google Cloud .DATA_STORE_ID
: Es el ID del almacén de datos de Vertex AI Search que deseas crear. Este ID solo puede contener letras en minúscula, dígitos, guiones bajos y guiones.DATA_STORE_DISPLAY_NAME
: Es el nombre visible del almacén de datos de Vertex AI Search que deseas crear.
Importa datos estructurados.
Existen varios enfoques que puedes usar para subir datos, incluidos los siguientes:
Sube un documento JSON.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/branches/0/documents?documentId=DOCUMENT_ID" \ -d '{ "jsonData": "JSON_DOCUMENT_STRING" }'
Reemplaza lo siguiente:
DOCUMENT_ID
: Es un ID único para el documento. Este ID puede tener hasta 63 caracteres y solo puede contener letras en minúscula, dígitos, guiones bajos y guiones.JSON_DOCUMENT_STRING
: Es el documento JSON como una sola cadena. Debe cumplir con el esquema JSON que proporcionaste en el paso anterior, por ejemplo:{ \"title\": \"test title\", \"categories\": [\"cat_1\", \"cat_2\"], \"uri\": \"test uri\"}
Sube un objeto JSON.
curl -X POST \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/branches/0/documents?documentId=DOCUMENT_ID" \ -d '{ "structData": JSON_DOCUMENT_OBJECT }'
Reemplaza
JSON_DOCUMENT_OBJECT
por el documento JSON como un objeto JSON. Debe cumplir con el esquema JSON que proporcionaste en el paso anterior, por ejemplo:```json { "title": "test title", "categories": [ "cat_1", "cat_2" ], "uri": "test uri" } ```
Actualiza con un documento JSON.
curl -X PATCH \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/branches/0/documents/DOCUMENT_ID" \ -d '{ "jsonData": "JSON_DOCUMENT_STRING" }'
Actualiza con un objeto JSON.
curl -X PATCH \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ "https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/branches/0/documents/DOCUMENT_ID" \ -d '{ "structData": JSON_DOCUMENT_OBJECT }'
Próximos pasos
Para adjuntar tu almacén de datos a una app, crea una app y selecciona tu almacén de datos siguiendo los pasos que se indican en Crea una app de búsqueda.
Para obtener una vista previa de cómo aparecerán los resultados de la búsqueda después de configurar tu app y tu almacén de datos, consulta Cómo obtener resultados de la búsqueda.
Solucionar problemas de transferencia de datos
Si tienes problemas con la transferencia de datos, revisa estas sugerencias:
Si usas claves de encriptación administradas por el cliente y la importación de datos falla (con el mensaje de error
The caller does not have permission
), asegúrate de que se haya otorgado al agente de servicio de Cloud Storage el rol de IAM de encriptador/desencriptador de CryptoKey (roles/cloudkms.cryptoKeyEncrypterDecrypter
) en la clave. Para obtener más información, consulta Antes de comenzar en "Claves de encriptación administradas por el cliente".Si utilizas la indexación avanzada de sitios web y el Uso de documentos del almacén de datos es mucho menor de lo que esperas, revisa los patrones de URL que especificaste para la indexación y asegúrate de que los patrones de URL especificados abarquen las páginas que deseas indexar y expándelos si es necesario. Por ejemplo, si usaste
*.en.example.com/*
, es posible que debas agregar*.example.com/*
a los sitios que deseas indexar.
Crea un almacén de datos con Terraform
Puedes usar Terraform para crear un almacén de datos vacío. Después de crear el almacén de datos vacío, puedes transferir datos a él con los comandos de la consola Google Cloud o de la API.
Si deseas obtener más información para aplicar o quitar una configuración de Terraform, consulta los comandos básicos de Terraform.
Para crear un almacén de datos vacío con Terraform, consulta
google_discovery_engine_data_store
.