En este documento, se proporciona una descripción general de cómo se extraen los datos automáticamente para mejorar la capacidad de transferir, procesar y analizar datos.
Las Operaciones de seguridad de Google utilizan analizadores prediseñados para extraer y estructurar los datos de registro con el esquema del modelo de datos unificado (UDM). Administrar y mantener estos analizadores puede ser un desafío debido a varias limitaciones: extracción de datos incompleta, la creciente cantidad de analizadores que se deben administrar y el requisito de actualizaciones frecuentes a medida que evolucionan los formatos de registro.
Para abordar estos desafíos, puedes usar la función de extracción automática. Esta función extrae automáticamente pares clave-valor de los registros con formato JSON y XML que se transfieren a Google SecOps. También admite registros con formato Syslog que incluyen un mensaje JSON. Estos datos extraídos se almacenan en un campo de UDM de tipo mapa llamado extracted. Luego, puedes usar estos datos en las búsquedas de UDM, los paneles nativos y las reglas de YARA-L.
Como práctica recomendada, las búsquedas de UDM que usan campos extraídos deben incluir metadata.log_type en su consulta para mejorar el rendimiento de la búsqueda.
El beneficio de la extracción automática es que se reduce la dependencia de los analizadores, lo que garantiza que los datos permanezcan disponibles, incluso cuando no haya un analizador o este no pueda analizar un registro.
Analiza y extrae datos del registro sin procesar
Análisis: Google SecOps intenta analizar los registros con un analizador específico para el tipo de registro, si está disponible. Si no existe un analizador específico o si el análisis falla, Google SecOps usa un analizador general para extraer información básica, como la marca de tiempo de la transferencia, el tipo de registro y las etiquetas de metadatos.
Extracción de datos: Todos los puntos de datos se extraen automáticamente de los registros.
Enriquecimiento de eventos: Google SecOps combina los datos analizados y los campos con formato personalizado para crear eventos enriquecidos, lo que proporciona más contexto y detalles.
Transferencia de datos a sistemas posteriores: Estos eventos enriquecidos se envían a otros sistemas para su posterior análisis y procesamiento.
Trabaja con extractores
Los extractores te permiten extraer campos de fuentes de registros de gran volumen y están diseñados para optimizar la administración de registros. Con los extractores, puedes reducir el tamaño de los eventos, mejorar la eficiencia del análisis y obtener un mejor control sobre la extracción de datos.
Esto es especialmente útil para administrar nuevos tipos de registros o minimizar el tiempo de procesamiento.
Puedes crear extractores con el menú Configuración del SIEM o realizando una búsqueda de registros sin procesar.
Crea extractores
Ve al panel Extract Additional Fields con uno de los siguientes métodos:
Haz clic en SIEM Settings > Parsers y haz lo siguiente:
En la tabla PARSERS que aparece, identifica un analizador (fuente de registro) y haz clic en more_vertMenú > Extender analizador > Extraer campos adicionales.
En la pestaña EVENTS de los resultados de la búsqueda del UDM, selecciona una fuente de registro para ver el panel Event Viewer.
En la pestaña Registro sin procesar, haz clic en Administrar el analizador > Extender el analizador > Extraer campos adicionales.
En la pestaña Select Extractors del panel Extract Additional fields, selecciona los campos de registro sin procesar necesarios. De forma predeterminada, puedes seleccionar hasta 100 campos.
Si no hay campos adicionales disponibles para la extracción, se mostrará un aviso de advertencia.
Haz clic en la pestaña Reference Raw Log para ver los datos de registro sin procesar y obtener una vista previa del resultado del UDM.
Haz clic en Guardar.
El extractor recién creado se etiqueta como EXTRACTOR.
Los campos extraídos se muestran en el resultado del UDM comoextracted.field{"fieldName"}.
Ver los detalles del extractor
Ve a la fila del extractor en la tabla PARSERS y haz clic en more_vertMenú > Extender el analizador > Ver extensión.
En la página VER ANALIZADORES PERSONALIZADOS, haz clic en la pestaña Extensiones y campos extraídos.
En esta pestaña, se muestra información sobre las extensiones del analizador y los campos del extractor.
Puedes modificar o quitar campos, y obtener una vista previa del resultado del analizador desde la página VER ANALIZADORES PERSONALIZADOS.
[[["Fácil de comprender","easyToUnderstand","thumb-up"],["Resolvió mi problema","solvedMyProblem","thumb-up"],["Otro","otherUp","thumb-up"]],[["Difícil de entender","hardToUnderstand","thumb-down"],["Información o código de muestra incorrectos","incorrectInformationOrSampleCode","thumb-down"],["Faltan la información o los ejemplos que necesito","missingTheInformationSamplesINeed","thumb-down"],["Problema de traducción","translationIssue","thumb-down"],["Otro","otherDown","thumb-down"]],["Última actualización: 2025-09-04 (UTC)"],[[["\u003cp\u003eAuto extraction is a feature in Google SecOps that automatically extracts key-value pairs from JSON-formatted logs, storing them in a UDM map-type field called \u003ccode\u003eextracted\u003c/code\u003e.\u003c/p\u003e\n"],["\u003cp\u003eThis feature reduces reliance on prebuilt parsers and ensures data availability even when a specific parser is absent or fails.\u003c/p\u003e\n"],["\u003cp\u003eAuto extraction enhances the ability to ingest, process, and analyze data, which is then searchable through UDM queries, Preview Dashboards, and YARA-L rules.\u003c/p\u003e\n"],["\u003cp\u003eUDM searches using extracted fields should include \u003ccode\u003emetadata.log_type\u003c/code\u003e to optimize search query performance.\u003c/p\u003e\n"],["\u003cp\u003eThe process includes parsing logs, extracting data, enriching events with parsed and custom fields, and then transferring this data downstream for analysis.\u003c/p\u003e\n"]]],[],null,["# Auto Extraction overview\n========================\n\nSupported in: \nGoogle secops [SIEM](/chronicle/docs/secops/google-secops-siem-toc)\n| **Note:** This feature is covered by [Pre-GA Offerings Terms](https://chronicle.security/legal/service-terms/) of the Google Security Operations Service Specific Terms. Pre-GA features might have limited support, and changes to pre-GA features might not be compatible with other pre-GA versions. For more information, see the [Google SecOps Technical Support Service guidelines](https://chronicle.security/legal/technical-support-services-guidelines/) and the [Google SecOps Service Specific Terms](https://chronicle.security/legal/service-terms/).\n\nThis document provides an overview of how data is automatically extracted to\nenhance the ability to ingest, process, and analyze data.\n\nGoogle Security Operations uses [prebuilt parsers](/chronicle/docs/ingestion/parser-list/supported-default-parsers)\nto extract and structure log data using the Unified Data Model (UDM) schema. Managing and\nmaintaining these parsers can be challenging due to several limitations: incomplete\ndata extraction, the growing number of parsers to manage, and the requirement for\nfrequent updates as log formats evolve.\n\nTo address these challenges, you can use the auto extraction\nfeature. This feature automatically extracts key-value pairs from JSON-formatted\nand XML-formatted logs ingested into Google SecOps. It also supports Syslog-formatted\nlogs that include a JSON message. This extracted data is stored in a UDM, map-type\nfield called `extracted`. You can then use this data within UDM search queries,\n[Native Dashboards](/chronicle/docs/reports/native-dashboards), and YARA-L\nrules.\n\nAs a best practice, the UDM searches using extracted fields must include `metadata.log_type`\nin their query to improve search query performance.\n\nThe benefit of auto extraction is reduced reliance on parsers, ensuring that data\nremains available, even when a parser is not present or fails to parse a log.\n| **Note:** This feature is being rolled out in phases, so some eligible log sources may not yet show extracted fields.\n\nParse and extract data from the raw log\n---------------------------------------\n\n1. **Parsing**: Google SecOps attempts to parse logs using a parser\n specific to the log type, if available. If no specific parser exists, or if parsing\n fails, Google SecOps uses a general parser to extract basic information like\n ingested timestamp, log type, and metadata labels.\n\n2. **Data Extraction**: All data points are automatically extracted from the logs.\n\n3. **Event Enrichment**: Google SecOps combines the parsed data and any\n custom-formatted fields to create enriched events, providing more context and detail.\n\n4. **Downstream Data Transfer**: These enriched events are then sent to other\n systems for further analysis and processing.\n\nWork with extractors\n--------------------\n\nExtractors let you extract fields from high-volume log sources, and are designed\nto optimize log management. By using extractors, you can reduce event size,\nenhance parsing efficiency, and gain better control over data extraction.\nThis is especially useful for managing new log types or minimizing processing\ntime.\n\nYou can create extractors using the **SIEM Settings** menu or by performing a\nraw log search.\n\n### Create extractors\n\n1. Go to the **Extract Additional Fields** pane using either of the following\n methods:\n\n - Click **SIEM Settings** \\\u003e **Parsers** , and do the following:\n 1. In the **PARSERS** table that appears, identify a parser (log source) and click more_vert **Menu** \\\u003e **Extend Parser** \\\u003e **Extract Additional Fields**.\n - Use [Raw Log Scan](/chronicle/docs/investigation/search-raw-logs) and do the following:\n 1. Select the required log sources (parsers) from the **Log Sources** menu.\n 2. From the raw log results, select a log source to open the **EVENT DATA** pane.\n 3. In the **EVENT DATA** pane, click **Manage Parser** \\\u003e **Extend Parser** \\\u003e **Extract Additional Fields**.\n - Use [UDM search](/chronicle/docs/investigation/udm-search#access_search) and do the following:\n 1. On the **EVENTS** tab in the UDM search results, select a log source to view the **Event Viewer** pane.\n 2. On the **Raw Log** tab, click **Manage Parser** \\\u003e **Extend Parser** \\\u003e **Extract Additional Fields**.\n2. On the **Select Extractors** tab in the **Extract Additional fields** pane,\n select the required raw log fields. By default, you can select up to 100 fields.\n If no additional fields are available for extraction, a warning notice displays.\n\n Click the **Reference Raw Log** tab to view the raw log data and preview\n the UDM output.\n3. Click **Save**.\n\nThe newly created extractor is labeled as `EXTRACTOR`.\nExtracted fields are displayed in the UDM output as`extracted.field{\"fieldName\"}`.\n| **Note:** For certain low-volume log types, auto extraction is enabled by default, and all fields are extracted automatically. These log types aren't labeled with the `EXTRACTOR` tag. If you try to extract additional fields, the system displays a message indicating that all fields are already being extracted and no further selection is needed.\n\n### View extractor details\n\n1. Go to the extractor row in the **PARSERS** table and click more_vert **Menu** \\\u003e **Extend Parser** \\\u003e **View Extension**.\n2. On the **VIEW CUSTOM PARSERS** page, click the **Extensions and Extracted Fields** tab.\n\nThis tab displays information on parser extensions and extractor fields.\nYou can modify or remove fields and preview the parser output from the **VIEW CUSTOM PARSERS**\npage.\n\n**Need more help?** [Get answers from Community members and Google SecOps professionals.](https://security.googlecloudcommunity.com/google-security-operations-2)"]]
