Criar e gerenciar modelos de proteção de modelos

Esta página descreve como criar, visualizar, atualizar e excluir modelos do Model Armor.

Criar um modelo de proteção de modelo

Console

1. No console do Google Cloud, acesse a página Model Armor.

   Acessar o Model Armor

2. Verifique se você está visualizando o projeto em que ativou a Model Armor.

3. Na página Model Armor, clique em Criar modelo. A página Criar modelo é exibida.

4. Especifique o ID do modelo. O ID do modelo pode ter letras, dígitos ou hifens. Ele não pode exceder 63 caracteres e não pode ter espaços ou começar com um hífen.

5. Selecione uma região para executar os modelos do Model Armor. Não é possível mudar a região depois.

6. Opcional: adicione rótulos. Os rótulos são pares de chave-valor que podem ser usados para agrupar modelos relacionados.

7. Na seção Detections, configure as seguintes configurações de detecção:

   • Detecção de URL malicioso: identifica endereços da Web (URLs) criados para prejudicar usuários ou sistemas. Esses URLs podem levar a sites de phishing, downloads de malware ou outros ataques cibernéticos. Para mais informações, consulte Detecção de URL malicioso.

   • Detecção de jailbreak e injeção de comando: detecta conteúdo malicioso e tentativas de jailbreak em um comando. Para uma aplicação mais rigorosa, defina o nível de confiança como Baixo e acima** para detectar a maioria dos conteúdos que podem consistir em uma injeção de comando e/ou tentativa de jailbreak. Para mais informações, consulte Detecção de jailbreak e injeção de comando.

   • Proteção de dados sensíveis: detecta dados sensíveis, impede a exposição acidental e bloqueia tentativas de extrair dados de modelos de IA por meio de ataques como injeção de comandos. Para mais informações, consulte Proteção de dados sensíveis.

     É possível definir a Proteção de Dados Sensíveis básica ou avançada.

     • Básico: use infoTypes predefinidos para detectar tipos de dados sensíveis. Para mais informações sobre o infoType predefinido, consulte Configuração básica da proteção de dados sensíveis.

     • Avançado: use um modelo de inspeção definido no serviço de Proteção de Dados Sensíveis como uma única fonte de InfoTypes de dados sensíveis.

       Se você selecionar a Proteção de dados sensíveis avançada, precisará especificar os seguintes parâmetros:

       • Modelo de inspeção: modelos para salvar informações de configuração para jobs de verificação de inspeção, incluindo quais detectores predefinidos ou personalizados usar. Insira o nome do modelo no seguinte formato: projects/projectName/locations/locationID/inspectTemplates/templateName

       • Opcional: modelo de desidentificação: modelos para salvar informações de configuração para jobs de desidentificação, incluindo transformações de infoType e de conjunto de dados estruturados. Insira um identificador para o modelo de desidentificação no seguinte formato: projects/projectName/locations/locationID/deidentifyTemplates/templateName

         Observação: se você especificar apenas Modelo de inspeção, o Model Armor vai informar as correspondências do filtro se dados sensíveis forem detectados. Se você especificar Modelo de inspeção e Modelo de desidentificação, o Model Armor vai retornar os dados sensíveis desidentificados e a versão limpa de comandos ou respostas no campo deidentifyResult.data.text da descoberta.

8. Na seção Responsible AI, você pode definir o nível de confiança para cada filtro de conteúdo. O nível de confiança representa a probabilidade de que as descobertas correspondam a um tipo de filtro de conteúdo. Os valores possíveis são:

   • Nenhum: não detecta nenhum tipo de conteúdo.
   • Baixo e acima: detecta conteúdo com nível de confiança baixo, médio ou alto.
   • Médio e acima: detecte conteúdo com nível de confiança médio ou alto.
   • Alto: detecta conteúdo com alto nível de confiança.

   Para uma aplicação mais rigorosa, defina o nível de confiança como Baixo e acima para detectar a maioria dos conteúdos que se enquadram em um tipo de filtro de conteúdo. Também é possível selecionar o nível de confiança para todos os tipos de conteúdo de uma só vez.

   Observação: se você não especificar um nível de confiança, ele será definido como MEDIUM_AND_ABOVE por padrão.

9. Clique em Criar.

gcloud

Execute este comando:

gcloud alpha model-armor templates create template_id --location location [filters]

Substitua:

• LOCATION: o local do modelo.
• TEMPLATE_ID: o ID do modelo.

Confira um exemplo com todos os filtros.

 gcloud alpha model-armor templates create --location location "template_id" 

  --rai-settings-filters='[{ "filterType": "HATE_SPEECH", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "HARASSMENT", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "SEXUALLY_EXPLICIT", "confidenceLevel": "MEDIUM_AND_ABOVE" }]' 

  --basic-config-filter-enforcement=enabled  

  --pi-and-jailbreak-filter-settings-enforcement=enabled 

  --pi-and-jailbreak-filter-settings-confidence-level=LOW_AND_ABOVE 

  --malicious-uri-filter-settings-enforcement=enabled 

  --template-metadata-custom-llm-response-safety-error-code=798 

  --template-metadata-custom-llm-response-safety-error-message="test template llm response evaluation failed" 

  --template-metadata-custom-prompt-safety-error-code=799 

  --template-metadata-custom-prompt-safety-error-message="test template prompt evaluation failed" 

  --template-metadata-ignore-partial-invocation-failures 

  --template-metadata-log-operations 

  --template-metadata-log-sanitize-operations
  

APIs REST

Use este comando para criar um novo modelo do Model Armor.

curl -X POST \
-d "{'filter_config': {} }" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
  "https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/$LOCATION/templates?template_id=$TEMPLATE_ID"

Substitua:

• Filter_config é a configuração do filtro do modelo.
• PROJECT_ID é o ID do projeto ao qual o modelo pertence.
• TEMPLATE_ID é o ID do modelo a ser criado.
• LOCATION é o local do modelo.
• gcloud auth print-access-token é o token de acesso da conta especificada. Siga estas etapas para receber o token.

O exemplo a seguir explica a configuração do modelo de proteção do modelo.

1. Crie uma configuração (neste caso, FILTER_CONFIG) dos filtros que você quer que o modelo de proteção de modelo analise e em qual nível de confiança, se aplicável.
2. Crie um modelo de proteção de modelo (neste caso, ma-template-id-1234) usando a configuração que você criou.

LOW_AND_ABOVE significa que qualquer conteúdo com probabilidade de BAIXO, MÉDIO ou ALTO será sinalizado.

  export FILTER_CONFIG='{
 "filterConfig": {
  "raiSettings": {
    "raiFilters": [{
      "filterType": "HATE_SPEECH",
      "confidenceLevel": "MEDIUM_AND_ABOVE"
    }, {
      "filterType": "HARASSMENT",
      "confidenceLevel": "HIGH"
    }, {
      "filterType": "DANGEROUS",
      "confidenceLevel": "MEDIUM_AND_ABOVE"
    },{
      "filterType": "SEXUALLY_EXPLICIT",
      "confidenceLevel": "MEDIUM_AND_ABOVE"
    }]
  },

  "piAndJailbreakFilterSettings": {
    "filterEnforcement": "ENABLED",
    "confidenceLevel": "LOW_AND_ABOVE"
  },
  "maliciousUriFilterSettings": {
    "filterEnforcement": "ENABLED"
  }
 }
}'

curl -X POST \
 -d  $FILTER_CONFIG \
 -H "Content-Type: application/json" \
 -H "Authorization: Bearer $(gcloud auth print-access-token)" \
 "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/LOCATION_ID/ templates?template_id=TEMPLATE_ID"
 

Conferir um modelo do Model Armor

Console

1. No console do Google Cloud, acesse a página Model Armor.

   Acessar o Model Armor

2. Verifique se você está visualizando o projeto em que ativou a Model Armor. A página Model Armor é mostrada listando os modelos criados para seu projeto.

3. Clique em qualquer modelo da lista para conferir os detalhes.

gcloud

Execute este comando:

gcloud alpha model-armor templates describe template_id --location location

Substitua:

• LOCATION: o local do modelo.
• TEMPLATE_ID: o ID do modelo.

APIs REST

Execute este comando:

curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/$LOCATION/templates/$TEMPLATE_ID"

Substitua:

• gcloud auth print-access-token é o token de acesso da conta especificada.
• PROJECT_ID: o ID do projeto ao qual o modelo pertence.
• LOCATION: o local do modelo.
• TEMPLATE_ID: o ID do modelo.

Atualizar um modelo do Model Armor

Console

1. No console do Google Cloud, acesse a página Model Armor.

   Acessar o Model Armor

2. Verifique se você está visualizando o projeto em que ativou a Model Armor. A página Model Armor é mostrada listando os modelos criados para sua organização.

3. Clique no modelo que você quer atualizar na lista. A página Detalhes do modelo é exibida.

4. Clique em Editar.

5. Atualize os parâmetros necessários e clique em Salvar.

Observação: não é possível atualizar o ID e o local do modelo.

gcloud

Execute este comando:

gcloud alpha model-armor templates update template_id --location location [filters]

Substitua:

• LOCATION: o local do modelo.
• TEMPLATE_ID: o ID do modelo.

APIs REST

Execute este comando:

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d $FILTER_CONFIG \
"https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/$LOCATION/templates/$TEMPLATE_ID?update_mask=filter_config"

Substitua:

• gcloud auth print-access-token é o token de acesso da conta especificada.
• PROJECT_ID: o ID do projeto ao qual o modelo pertence.
• LOCATION: o local do modelo.
• TEMPLATE_ID: o ID do modelo.
• FILTER_CONFIG: a representação JSON da configuração do filtro.

Todos os outros campos são imutáveis. As tentativas de atualizar outros campos (por exemplo, tentativas de atualizar o nome do modelo) resultam em um erro.

Excluir um modelo do Model Armor

Console

1. No console do Google Cloud, acesse a página Model Armor.

   Acessar o Model Armor

2. Verifique se você está visualizando o projeto em que ativou a Model Armor. A página Model Armor é mostrada listando os modelos criados para sua organização.

3. Clique no modelo que você quer excluir da lista. A página Detalhes do modelo é exibida.

4. Clique em Excluir. Uma caixa de diálogo de confirmação é exibida.

5. Digite o nome do modelo para confirmar a exclusão e clique em Excluir.

Observação: verifique se o modelo que você está excluindo não é usado por nenhum modelo.

gcloud

Execute este comando:

gcloud alpha model-armor templates delete template_id --location location

Substitua:

• LOCATION: o local do modelo.
• TEMPLATE_ID: o ID do modelo.

APIs REST

Execute este comando:

curl -X DELETE \
-H "Authorization: Bearer $(gcloud auth print-access-token)"  \
"https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/$LOCATION/templates/$TEMPLATE_ID"

Substitua:

• gcloud auth print-access-token é o token de acesso da conta especificada.
• PROJECT_ID: o ID do projeto ao qual o modelo pertence.
• LOCATION: o local do modelo.
• TEMPLATE_ID: o ID do modelo.

A seguir

• Saiba mais sobre a visão geral do Model Armor.
• Saiba mais sobre as configurações de piso do Modelo Armor.
• Limpar comandos e respostas.
• Resolver problemas do Model Armor.