Monitoramento de abuso

Conforme descrito na seção 4.3 "Segurança e abuso da IA generativa" dos Termos de Serviço do Google Cloud Platform, o Google usa o seguinte processo para detectar possíveis abusos e violações da Política de uso aceitável e da Política de uso proibido como parte da prestação de serviços de IA generativa aos clientes.

  • Detecção automatizada: o Google usa classificadores de segurança automatizados para detectar possíveis abusos e violações. Para detalhes técnicos sobre como os classificadores de segurança funcionam, consulte Configurar filtros de segurança.
  • Registro de comandos: se os classificadores de segurança automatizados detectarem uma atividade suspeita que exija uma investigação mais aprofundada sobre se um cliente violou nossas políticas, o Google poderá registrar comandos do cliente apenas para examinar se ocorreu uma violação do AUP ou da Política de uso proibido. Esses dados não serão usados para treinar ou ajustar modelos de IA/ML. Esses dados são armazenados com segurança por até 30 dias na mesma região ou multirregião selecionada pelo cliente para o projeto e aderem às garantias do Google Cloud, como Residência de dados, Transparência no acesso e VPC Service Controls. Os clientes também têm a opção de desativar o registro de abuso (confira abaixo).
  • Ação: funcionários autorizados do Google podem avaliar as instruções sinalizadas e entrar em contato com o cliente para esclarecimentos. A falta de correção do comportamento ou abuso recorrente ou grave pode resultar na suspensão ou no encerramento do acesso do cliente aos serviços da Vertex AI ou do Google Cloud.
  • Serviços no escopo: API Vertex AI, quando usada com modelos de linguagem grandes do Google.
  • Clientes no escopo: somente os clientes cujo uso do Google Cloud é regido pelos Termos de Serviço do Google Cloud Platform e que não têm uma conta de faturamento do Cloud Billing faturada estão sujeitos ao registro imediato para monitoramento de abuso.
  • Exceção do cliente: os clientes podem solicitar uma exceção preenchendo este formulário. Se aprovada, o Google não vai armazenar nenhuma solicitação associada à conta aprovada do Google Cloud.

A seguir