Monitoramento de abuso

Conforme descrito na seção 4.3 "Segurança e abuso da IA generativa" dos Termos de Serviço do Google Cloud Platform, o Google usa o processo a seguir para detectar possíveis abusos e violações da Política de uso aceitável e da Política de uso proibido ao fornecer serviços de IA generativa aos clientes.

  • Detecção automática: o Google usa classificadores de segurança automatizados para detectar possíveis abusos e violações. Para detalhes técnicos sobre como os classificadores de segurança funcionam, consulte Configurar filtros de segurança.
  • Registro de comandos: se os classificadores de segurança automatizados detectarem atividades suspeitas que exijam mais investigações para saber se um cliente violou nossas políticas, o Google poderá registrar os comandos do cliente apenas para examinar se houve uma violação da PUA ou da Política de uso proibido. Esses dados não serão usados para treinar ou refinar modelos de IA/ML. Esses dados são armazenados com segurança por até 30 dias na mesma região ou multirregião selecionada pelo cliente para o projeto e obedecem às garantias do Google Cloud , como residência de dados, Transparência no acesso e VPC Service Controls. Os clientes também podem pedir a desativação do registro de abuso (veja abaixo).
  • Ação: funcionários autorizados do Google podem avaliar os avisos sinalizados e entrar em contato com o cliente para esclarecimentos. A falta de ação em relação ao comportamento ou ao abuso recorrente ou grave pode resultar na suspensão ou rescisão do acesso do cliente aos serviços da Vertex AI ou do Google Cloud .
  • Serviços no escopo: API Vertex AI, quando usada com os modelos de linguagem grandes do Google.
  • Clientes no escopo: somente os clientes cujo uso do Google Cloud é regido pelos Termos de Serviço do Google Cloud Platform e que não têm uma conta de faturamento do Cloud faturada (off-line) estão sujeitos ao registro de solicitações para monitoramento de abuso.
  • Desativação pelo cliente: os clientes podem solicitar uma exceção preenchendo este formulário. Se aprovado, o Google não vai armazenar comandos associados à conta doGoogle Cloud aprovada.

A seguir