Modere texto

A moderação de texto analisa um documento com base numa lista de atributos de segurança, que incluem "categorias prejudiciais" e tópicos que podem ser considerados sensíveis. Para moderar o texto num documento, chame o método moderateText.

Pode encontrar uma lista completa das categorias devolvidas para o método moderateText aqui:

Atributo de segurança Descrição
Tóxico Conteúdo rude, desrespeitoso ou irracional.
Derrogatório Comentários negativos ou prejudiciais que visam a identidade e/ou atributos protegidos.
Violento Descreve cenários que representam violência contra um indivíduo ou um grupo, ou descrições gerais de violência explícita.
Sexual Contém referências a atos sexuais ou outro conteúdo lascivo.
Insulto Comentário insultuoso, provocador ou negativo em relação a uma pessoa ou um grupo de pessoas.
Linguagem obscena Linguagem obscena ou vulgar, como insultos.
Morte, danos e tragédia Mortes humanas, tragédias, acidentes, desastres e automutilação.
Armas Conteúdo que mencione facas, armas de fogo, armas pessoais e acessórios, como munições, coldres, etc.
Segurança pública Serviços e organizações que oferecem ajuda e garantem a segurança pública.
Saúde Saúde humana, incluindo: Condições de saúde, doenças e distúrbios Terapias médicas, medicação, vacinação, práticas médicas e recursos para a recuperação, incluindo grupos de apoio.
Religião e crença Sistemas de crenças que abordam a possibilidade de leis e seres sobrenaturais; religião, fé, crença, prática espiritual, igrejas e locais de culto. Inclui astrologia e ocultismo.
Drogas ilícitas Drogas para fins recreativos e ilícitas; utensílios para o consumo de drogas e cultivo, headshops, etc. Inclui a utilização medicinal de drogas normalmente utilizadas para fins recreativos (por exemplo, marijuana).
Guerra e conflito Guerra, conflitos militares e conflitos físicos graves que envolvam um grande número de pessoas. Inclui discussões sobre serviços militares, mesmo que não estejam diretamente relacionados com uma guerra ou um conflito.
Finanças Serviços financeiros para consumidores e empresas, como serviços bancários, empréstimos, crédito, investimento e seguros.
Política Notícias e meios de comunicação políticos; debates sobre política social, governamental e pública.
Legal Conteúdo relacionado com a lei, incluindo escritórios de advogados, informações legais, materiais legais primários, serviços paralegais, publicações e tecnologia legais, testemunhas periciais, consultores de litígios e outros fornecedores de serviços jurídicos.

Pontuações de confiança dos atributos de segurança

Cada atributo de segurança tem uma classificação de confiança associada entre 0,00 e 1,00, que reflete a probabilidade de a entrada ou a resposta pertencer a uma determinada categoria.

Exemplo de resposta

{
  "moderationCategories": [
    {
      "name": "Toxic",
      "confidence": 0.10
    },
    {
      "name": "Insult",
      "confidence": 0.12
    },
    {
      "name": "Profanity",
      "confidence": 0.07
    },
    {
      "name": "Derogatory",
      "confidence": 0.04
    },
    {
      "name": "Sexual",
      "confidence": 0.00
    },
    {
      "name": "Death, Harm & Tragedy",
      "confidence": 0.00
    },
    {
      "name": "Violent",
      "confidence": 0.00
    },
    {
      "name": "Firearms & Weapons",
      "confidence": 0.00
    },
    {
      "name": "Public Safety",
      "confidence": 0.01
    },
    {
      "name": "Health",
      "confidence": 0.01
    },
    {
      "name": "Religion & Belief",
      "confidence": 0.00
    },
    {
      "name": "Illicit Drugs",
      "confidence": 0.01
    },
    {
      "name": "War & Conflict",
      "confidence": 0.02
    },
    {
      "name": "Politics",
      "confidence": 0.01
    },
    {
      "name": "Finance",
      "confidence": 0.00
    },
    {
      "name": "Legal",
      "confidence": 0.00
    }
  ]
}

Teste os seus limites de confiança

Pode testar os filtros de segurança da Google e definir limites de confiança adequados para a sua empresa. Ao usar estes limites, pode tomar medidas abrangentes para detetar conteúdo que viole as políticas de utilização ou os termos de serviço da Google e tomar as medidas adequadas.

As pontuações de confiança são apenas previsões. Não deve depender das pontuações para fiabilidade ou precisão. A Google não é responsável pela interpretação nem pela utilização destas classificações para decisões empresariais.

Diferença entre probabilidade e gravidade

As pontuações de confiança indicam que o conteúdo pertence à categoria especificada e não à gravidade. Isto é importante a ter em consideração porque alguns conteúdos podem ter uma baixa probabilidade de serem inseguros, embora a gravidade dos danos possa continuar a ser elevada. Por exemplo, comparar as frases:

  1. O robô deu-me um murro.
  2. O robô esfaqueou-me.

A frase 1 pode causar uma maior probabilidade de ser insegura, mas pode considerar que a frase 2 tem uma gravidade superior em termos de violência.

Por conseguinte, é importante testar cuidadosamente e considerar qual o nível de bloqueio adequado para os seus exemplos de utilização, ao mesmo tempo que minimiza os danos para os utilizadores finais.

Idiomas compatíveis

Idioma ISO-639-1 Apoio técnico
Inglês es sim
Espanhol es sim
Português pt sim
Francês fr sim
Italiano it sim
Alemão de sim
Chinês zh sim
Japonês ja sim
Coreano ko sim
Neerlandês nl limitadas
Russo ru limitadas
Hindi hi limitadas
Indonésio id limitadas
Árabe ar limitadas

Como moderar texto

Esta secção demonstra como moderar texto num documento. Tem de enviar uma solicitação separada para cada documento.

Segue-se um exemplo de moderação de texto fornecido como uma string:

Protocolo

Para moderar conteúdo de um documento, faça um pedido POST ao método REST documents:moderateText e forneça o corpo do pedido adequado, conforme mostrado no exemplo seguinte.

O exemplo usa o comando gcloud auth application-default print-access-token para obter um token de acesso para uma conta de serviço configurada para o projeto usando a CLI gcloud da Google Cloud Platform. Para obter instruções sobre a instalação da CLI gcloud e a configuração de um projeto com uma conta de serviço, consulte o guia de início rápido.

curl -X POST \
     -H "Authorization: Bearer "$(gcloud auth application-default print-access-token) \
     -H "Content-Type: application/json; charset=utf-8" \
     --data "{
  'document':{
    'type':'PLAIN_TEXT',
    'content':'Shut up!'
  }
}" "https://language.googleapis.com/v1/documents:moderateText"

Modere texto do Cloud Storage

Segue-se um exemplo de moderação de texto armazenado num ficheiro de texto no Cloud Storage:

Protocolo

Para moderar texto de um documento armazenado no Cloud Storage, faça um pedido POST ao método REST documents:moderateText e forneça o corpo do pedido adequado com o caminho para o documento, conforme mostrado no exemplo seguinte.

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
 https://language.googleapis.com/v1/documents:moderateText -d "{
  'document':{
    'type':'PLAIN_TEXT',
    'gcsContentUri':'gs://<bucket-name>/<object-name>'
  }
}"