Configure as definições de segurança da IA responsável

Experimente a geração de imagens (Vertex AI Studio)

Experimente o Imagen num Colab

Esta página descreve como definir filtros de IA responsável (RAI) no Imagen on Vertex AI.

Existem vários parâmetros de filtragem de RAI que pode usar com os modelos do Imagen no Vertex AI. Por exemplo, pode permitir que o modelo comunique códigos de filtro de RAI para conteúdo bloqueado, desativar a geração de pessoas ou rostos através de filtros de RAI, definir o nível de filtragem de conteúdo ou devolver classificações de RAI arredondadas de uma lista de atributos de segurança para entrada e saída.

As definições disponíveis dependem da versão do modelo do Imagen que usa. Para mais informações, consulte os modelos Imagen e a referência da API.

Para mais informações sobre a IA responsável, consulte o artigo IA responsável e diretrizes de utilização do Imagen.

Defina parâmetros RAI

Faça o seguinte:

Consola

  1. Na Google Cloud consola, aceda à página Vertex AI > Media Studio.

    Aceda ao Media Studio

  2. Clique em Imagen. A página de geração de imagens do Imagen Media Studio é apresentada.

  3. No painel Definições, ajuste as seguintes opções:

    • Modelo: escolha um modelo entre as opções disponíveis.

      Para mais informações sobre os modelos disponíveis, consulte os modelos Imagen

    • Número de resultados: ajuste o controlo de deslize ou introduza um valor entre 1 e 4.

  4. Na secção Segurança, configure as seguintes definições:

    • Selecione uma das seguintes definições de geração de pessoas:

      • Permitir (apenas para adultos): gere apenas pessoas ou rostos de adultos. Não gere pessoas ou rostos de jovens ou crianças.
      • Permitir (todas as idades): gere pessoas ou caras de todas as idades.
      • Não permitir: não gera pessoas nem rostos.
    • Selecione uma das seguintes definições de Limite do filtro de segurança:

      • Bloquear a maioria: bloqueia a maioria do conteúdo prejudicial.
      • Bloquear alguns: bloqueia alguns comandos e respostas problemáticos.
      • Bloquear poucos: bloqueia muito poucos comandos e respostas problemáticos.
  5. Na caixa Escreva o seu comando, introduza o comando de texto que descreve as imagens a gerar. Por exemplo, pequeno barco na água de manhã ilustração em aguarela.

  6. Clique em Gerar.

REST

Antes de usar qualquer um dos dados do pedido, faça as seguintes substituições:

  • PROJECT_ID: o seu Google Cloud ID do projeto.
  • LOCATION: a região do seu projeto. Por exemplo, us-central1, europe-west2 ou asia-northeast3. Para ver uma lista das regiões disponíveis, consulte Localizações da IA generativa na Vertex AI.
  • TEXT_PROMPT: o comando de texto que orienta as imagens que o modelo gera. Este campo é obrigatório para a geração e a edição.
  • IMAGE_COUNT: o número de imagens geradas. Valores inteiros aceites: 1 a 8 (imagegeneration@002), 1 a 4 (todas as outras versões do modelo). Valor predefinido: 4.
  • SAFETY_SETTING: string. Opcional. Uma definição que controla os limites dos filtros de segurança para imagens geradas. Valores disponíveis:
    • block_low_and_above: o limite de segurança mais elevado, o que resulta na maior quantidade de imagens geradas filtradas. Valor anterior: block_most.
    • block_medium_and_above (predefinição): um limite de segurança médio que equilibra a filtragem de conteúdo potencialmente prejudicial e seguro. Valor anterior: block_some.
    • block_only_high: um limite de segurança que reduz o número de pedidos bloqueados devido a filtros de segurança. Esta definição pode aumentar o conteúdo censurável gerado pelo Imagen. Valor anterior: block_few.
  • PERSON_SETTING: string. Opcional. A definição de segurança que controla o tipo de pessoas ou geração de rostos que o modelo permite. Valores disponíveis:
    • allow_adult (predefinição): permitir a geração de conteúdo apenas para adultos, exceto a geração de conteúdo com celebridades. A geração de celebridades não é permitida para nenhuma definição.
    • dont_allow: desative a inclusão de pessoas ou rostos em imagens geradas.
  • INCLUDE_RAI_REASON: booleano. Opcional. Se deve ativar o código do motivo filtrado da IA responsável em respostas com entrada ou saída bloqueada. Valor predefinido: true.
  • INCLUDE_SAFETY_ATTRIBUTES: booleano. Opcional. Se deve ativar as classificações de IA responsável arredondadas para uma lista de atributos de segurança nas respostas para entrada e saída não filtradas. Categorias de atributos de segurança: "Death, Harm & Tragedy", "Firearms & Weapons", "Hate", "Health", "Illicit Drugs", "Politics", "Porn", "Religion & Belief", "Toxic", "Violence", "Vulgarity", "War & Conflict". Valor predefinido: false.

Método HTTP e URL:

POST https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/imagegeneration@006:predict

Corpo JSON do pedido:

{
  "instances": [
    {
      "prompt": "TEXT_PROMPT"
    }
  ],
  "parameters": {
    "sampleCount": IMAGE_COUNT,
    "safetySetting": "SAFETY_SETTING",
    "personGeneration": "PERSON_SETTING",
    "includeRaiReason": INCLUDE_RAI_REASON,
    "includeSafetyAttributes": INCLUDE_SAFETY_ATTRIBUTES
  }
}

Para enviar o seu pedido, escolha uma destas opções:

curl

Guarde o corpo do pedido num ficheiro com o nome request.json, e execute o seguinte comando:

curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/imagegeneration@006:predict"

PowerShell

Guarde o corpo do pedido num ficheiro com o nome request.json, e execute o seguinte comando:

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/imagegeneration@006:predict" | Select-Object -Expand Content
A resposta que recebe depende das definições de segurança que definir. Para mais informações, consulte o artigo Compreenda e configure a IA responsável (RAI) para o Imagen.

O que se segue?