Dividir entradas de registro de auditoria

Neste documento, descrevemos como o Cloud Logging divide as entradas de registro de auditoria grandes e oferecemos orientações sobre como remontar esses registros de auditoria divididos.

Quando uma única entrada de registro de auditoria excede o limite de tamanho, O Cloud Logging divide a entrada e distribui os dados contidos no entrada de registro de auditoria original em várias entradas. Os usuários podem querer remontar registros de auditoria divididos, já que as entradas individuais não contêm todas as do registro de auditoria original.

Como reconhecer entradas do registro de auditoria dividida

As entradas de registro divididas contêm informações sobre a entrada original da qual foram divididos. Se uma entrada de registro tiver split e a entrada é o resultado da divisão de uma entrada de registro original maior. O split O campo é uma LogSplit que contém as informações necessárias para identificar o registro de divisão relacionado de entradas de registro.

Cada entrada de registro dividida contém os seguintes campos:

  • split.uid: um identificador exclusivo para o grupo de entradas de registro que foram divididas. de uma entrada de registro original comum. O valor desse campo é o mesmo para todas separadas da entrada de registro original.

  • split.index: a posição desta entrada na série de entradas divididas. O a primeira entrada da divisão tem o índice 0. split.index também é anexado a no campo LogEntry.insertId.

  • split.totalSplits: o número de entradas de registro que o registro original foi dividido. O valor desse campo é o mesmo para todas as entradas divididas da entrada de registro original.

Como uma entrada de registro é dividida

Quando uma entrada de registro de auditoria muito grande é dividida, os campos são distribuídos entre os as entradas de registro divididas da seguinte forma:

  • Todos os campos, exceto protoPayload, são duplicados em cada entrada dividida.

  • Os seguintes subcampos protoPayload podem ser divididos em várias entradas:

    • protoPayload.metadata
    • protoPayload.request
    • protoPayload.response
  • Todos os outros subcampos protoPayload estão incluídos em todas as entradas divididas.

  • Para protoPayload.metadata, protoPayload.request e protoPayload.response subcampos, os tipos de campo a seguir podem ser divididos em várias entradas:

Se um campo é membro de um campo divisor, mas não é um campo divisor do tipo de campo, ele só estará presente em um dos registros divididos.

Por exemplo, um campo booleano no subcampo protoPayload.request só pode aparecer em uma entrada de registro dividida, mas um campo de string no subcampo protoPayload.request pode ter o conteúdo dividido em várias entradas de registro divididas.

Para conferir um exemplo de como uma entrada longa é dividida, consulte Exemplo de divisão de entrada de registro.

Campos repetidos com muitos valores

Quando o valor de protoPayload.metadata, protoPayload.request ou protoPayload.response contiver uma lista de valores repetidos, a lista poderá e distribuídos em várias entradas de registro divididas.

Por exemplo, a lista de valores ["foo", "bar", "baz"] pode ser dividida em 2 listas: ["foo", "ba"] e ["", "r", "baz"]. A primeira lista é a entrada com o split.index de 0, e a segunda lista está na entrada com split.index de 1 A segunda lista começa com uma string vazia para manter as posições dos elementos da lista e para indicar que os elementos nas mesmas posições em as diferentes listas precisam ser agrupadas. No exemplo, ba é o segundo elemento da lista na entrada 0, e r é o segundo elemento da lista na entrada 1, então elas são recombinadas na ordem bar ao montar a lista original.

Campos grandes e não repetidos

Quando campos Struct e string grandes e não repetidos são divididos, esses campos são tratados da seguinte forma:

  • Um campo string é dividido no nível de caracteres e não no nível de bytes. Portanto, os caracteres de vários bytes não são alterados.

  • LogEntry.split.index controla a ordem do conteúdo da divisão. campos não repetidos.

Remontar a entrada de registro dividida

Para remontar um conjunto de registros divididos, siga estas etapas:

  1. Ordene o conjunto de registros de auditoria divididos por LogEntry.split.index em ordem crescente.

  2. Crie uma cópia do primeiro registro de divisão, em que LogEntry.split.index == 0. Essa cópia é o início do registro remontado.

  3. Para as entradas de registro restantes, itere em todos os campos divisíveis de protoPayload e conclua as seguintes etapas para cada campo:

    1. Se o campo já existir no registro remontado, anexe o conteúdo dele ao registro remontado.

    2. Se o campo não existir no registro remontado, copie-o para o registro remontado

      Quando divididos, os campos repetidos preservam o índice dos elementos. Assim, é possível aplique essas etapas no nível do elemento ao recriar um campo repetido.

  4. Depois de iterar pelos campos divisíveis, limpe LogEntry.split do registro remontado.

  5. Remova o sufixo .0 do LogEntry.insert_id do registro remontado.

Amostras de consultas

Para encontrar todas as entradas de registro divididas na mesma entrada de registro original, execute a consulta a seguir Análise de registros, substituindo UID com o valor pretendido:

split.uid="UID"

Exemplo:

split.uid="abc123"

Para encontrar todas as entradas de registro que fazem parte de qualquer divisão, execute a seguinte consulta:

split:*

Filtrar registros de auditoria divididos

É possível excluir todos os registros de auditoria divididos de uma consulta usando o seguinte filtro:

split.totalSplits = 0

Também é possível incluir apenas a primeira entrada de um registro de auditoria dividida e excluir as o restante das entradas usando o seguinte filtro:

split.index = 0

Exemplo de divisão de entrada de registro

O exemplo a seguir mostra uma entrada de registro de auditoria antes de ser dividida em quatro novas as entradas de registro. As novas entradas mostram como campos diferentes são processados na operação de divisão.

Entrada de registro de auditoria grande antes da divisão

{
  "insertId": "567",
  "logName": "projects/1234/logs/cloudaudit.googleapis.com%2Fdata_access",
  "resource": {
    "type": "audited_resource"
  },
  "protoPayload": {
    "serviceName": "example.googleapis.com",
    "methodName": "google.cloud.example.ExampleMethod",
    "resourceName": "projects/1234/resources/123",
    "status": {
      "code": 0
    },
    "authenticationInfo": {
      "principalEmail": "user@example_company.com"
    },
    "authorizationInfo": [
      {
        "resource": "example.googleapis.com/projects/1234/resources/123",
        "permission": "examples.get",
        "granted": "true"
      }
    ],
    "request" {
      "boolField": true,
      "numberField": 123,
      "stringField": "Very long string that needs 2 log entries.",
      "structField": {
        "nestedNumberField": 1337,
        "nestedStringField": "Another long string that needs 2 log entries.",
      },
      "listField" [
        {"value": "short 1"},
        {"value": "Yet another long string."},
        {"value": "short 2"},
        {"value": "short 3"},
      ]
    }
  }
}

Entrada de registro de auditoria muito grande após a divisão

A entrada de registro original é dividida nas seguintes entradas. Cada entrada inclui o objeto split com um uid e um valor totalSplits de 4. Cada entrada tem um valor split.index de 0, 1, 2 ou 3, que indica o ordem das entradas de registro divididas.

Entrada de registro dividida, índice 0

Esta é a primeira entrada de registro dividida, com um valor split.index de 0.

{
  "insertId": "567.0",
  "logName": "projects/1234/logs/cloudaudit.googleapis.com%2Fdata_access",
  "resource": {
    "type": "audited_resource"
  },
  "split": { 
    "uid": "789+2022-02-22T12:22:22.22+05:00",
    "index": 0,
    "totalSplits": 4,
  },
  "protoPayload": {
    // The following fields are included in all split entries
    "serviceName": "example.googleapis.com",
    "methodName": "google.cloud.example.ExampleMethod",
    "resourceName": "projects/1234/resources/123",
    "status": {
      "code": 0
    },
    "authenticationInfo": {  // small size; included in all split entries
      "principalEmail": "user@example_company.com"
    },
   // The following field is included in this split entry only.
   "authorizationInfo": [
      {
        "resource": "spanner.googleapis.com/projects/1234/datasets/123",
        "permission": "databases.read",
        "granted": "true"
      }
    ],
    // The following field is split across all the split entries
    "request" { 
      // boolField and numberField can only be in one split.
      "boolField": true,
      "numberField": 123,
      // Split with the next LogEntry.
      "stringField": "Very long string that ",
    }
  }
}

Dividir entrada de registro, índice 1

Esta é a próxima entrada de registro dividida, com um valor split.index de 1.

{
  "insertId": "567.1",
  "logName": "projects/1234/logs/cloudaudit.googleapis.com%2Fdata_access",
  "resource": {
    "type": "audited_resource"
  },
  "split": { 
    "uid": "567+2022-02-22T12:22:22.22+05:00",
    "index": 1,
    "totalSplits": 4,
  },
  "protoPayload": { 
    "serviceName": "example.googleapis.com",
    "methodName": "google.cloud.example.ExampleMethod",
    "resourceName": "projects/1234/resources/123",
    "status": {
      "code": 0
    },
    "authenticationInfo": {
      "principalEmail": "user@example_company.com"
    },
    "request" { 
      // boolField and numberField aren't present
      // Continued from the previous entry.
      "stringField": "needs 2 log entries.",
      "structField": { 
        "nestedNumberField": 1337,
        // Split with the next LogEntry.
        "nestedStringField": "Another long string ",
      }
    }
  }
}

Dividir entrada de registro, índice 2

Esta é a próxima entrada de registro de divisão, com um valor de split.index de 2.

{
  "insertId": "567.2",
  "logName": "projects/1234/logs/cloudaudit.googleapis.com%2Fdata_access",
  "resource": {
    "type": "audited_resource"
  },
  "split": { 
    "uid": "567+2022-02-22T12:22:22.22+05:00",
    "index": 2,
    "totalSplits": 4,
  },
  "protoPayload": { 
    "serviceName": "example.googleapis.com",
    "methodName": "google.cloud.example.ExampleMethod",
    "resourceName": "projects/1234/resources/123",
    "status": {
      "code": 0
    },
    "authenticationInfo": {
      "principalEmail": "user@example_company.com"
    },
    request { 
      "structField": { 
        // Continued from the previous entry.
        "nestedStringField": "that needs 2 log entries.",
      }
      "listField" [ 
         {"value": "short 1"},
         {"value": "Yet another "}, // Split with the next LogEntry.
        // Missing two values, split with the next LogEntry.
      ]
    }
  }
}

Dividir entrada de registro, índice 3

Esta é a entrada de registro de divisão final, com um valor de split.index de 3.

{
  "insertId": "567.3",
  "logName": "projects/1234/logs/cloudaudit.googleapis.com%2Fdata_access",
  "resource": {
    "type": "audited_resource"
  },
  "split": { 
    "uid": "567+2022-02-22T12:22:22.22+05:00",
    "index": 3,
    "totalSplits": 4,
  },
  "protoPayload": { 
    "serviceName": "example.googleapis.com",
    "methodName": "google.cloud.example.ExampleMethod",
    "resourceName": "projects/1234/resources/123",
    "status": {
      "code": 0
    },
    "authenticationInfo": {
      "principalEmail": "user@example_company.com"
    },
    "request" { 
      "listField" [ 
        {}, // Padding to ensure correct positioning of elements in split repeated fields.
         {"value": "long string."}, // Continuation of the second repeated field.
         {"value": "short 2"},
         {"value": "short 3"},
      ]
    }
  }
}