Monitoramento de abuso

Conforme descrito na seção 4.3 "Segurança e abuso da IA generativa" dos Termos de Serviço do Google Cloud Platform, o Google usa o seguinte processo para detectar possíveis abusos e violações da Política de uso aceitável e da Política de uso proibido como parte do fornecimento de serviços de IA generativa aos clientes.

  • Detecção automatizada: o Google usa classificadores de segurança automatizados para detectar possíveis abusos e violações. Para detalhes técnicos sobre como os classificadores de segurança funcionam, consulte Configurar filtros de segurança.
  • Registro de comandos: se os classificadores de segurança automatizados detectarem uma atividade suspeita que exija uma investigação mais aprofundada sobre se um cliente violou nossas políticas, o Google poderá registrar comandos do cliente apenas para examinar se ocorreu uma violação do AUP ou da Política de uso proibido. Esses dados não serão usados para treinar ou ajustar modelos de IA/ML. Esses dados são armazenados com segurança por até 30 dias na mesma região ou multirregião selecionada pelo cliente para o projeto e aderem a Google Cloud garantias, como Residência de dados, Transparência de acesso e VPC Service Controls. Os clientes também têm a opção de desativar o registro de abuso (confira abaixo).
  • Ação: funcionários autorizados do Google podem avaliar as instruções sinalizadas e entrar em contato com o cliente para esclarecimentos. A falha em resolver o comportamento ou abuso recorrente ou grave pode resultar na suspensão ou rescisão do acesso do cliente aos serviços da Vertex AI ou Google Cloud .
  • Serviços no escopo: API Vertex AI, quando usada com modelos de linguagem grandes do Google.
  • Clientes no escopo: somente os clientes cujo uso de Google Cloud é regido pelos Termos de Serviço do Google Cloud Platform e que não têm uma conta faturada do Cloud Billing estão sujeitos ao registro imediato para monitoramento de abuso.
  • Exceção do cliente: os clientes podem solicitar uma exceção preenchendo este formulário. Se aprovada, o Google não vai armazenar nenhum comando associado à conta Google Cloud aprovada.

A seguir