O Model Armor filtra os comandos e as respostas das suas aplicações de MDIs. O painel de controlo de monitorização fornece-lhe os dados, as métricas e as visualizações geradas a partir deste processo de rastreio. Use estas estatísticas para compreender como o Model Armor protege as suas aplicações de IA, identifica tentativas de injeção de comandos e outras atividades maliciosas.
Antes de começar
Autorizações necessárias
Para receber as autorizações de que precisa para aceder ao painel de controlo de monitorização, peça ao seu administrador para lhe conceder a função de IAM no projeto. Para mais informações sobre a atribuição de funções, consulte o artigo Faça a gestão do acesso a projetos, pastas e organizações.
Esta função predefinida contém as autorizações necessárias para aceder ao painel de controlo de monitorização. Para ver as autorizações exatas que são necessárias, expanda a secção Autorizações necessárias:
Autorizações necessárias
São necessárias as seguintes autorizações para aceder ao painel de controlo de monitorização:
-
monitoring.monitoredResourceDescriptors.list -
monitoring.metricDescriptors.list
Também pode conseguir estas autorizações com funções personalizadas ou outras funções predefinidas.
Aceda ao painel de controlo de monitorização
Na Google Cloud consola, aceda à página Model Armor.
Verifique se está a ver o projeto no qual ativou o Model Armor.
Aceda ao separador Monitorização.
Nesta página, pode fazer o seguinte:
- Veja as interações durante a data e a hora selecionadas.
- Filtre as interações com base nos modelos ou nas definições de pisos associados, nas localizações, nos pontos de integração e nos tipos de entrada.
- Transfira dados para um ficheiro PNG ou CSV.
- Monitorize as violações ao longo do tempo com um gráfico de tendências.
- Veja os modelos usados no projeto.
Inspeccione os registos relacionados para ver os registos durante a data e a hora selecionadas. Para isso, clique em Mais opções de gráficos > Inspecionar registos relacionados.
Para inspecionar os registos relacionados, tem de ativar o registo em modelos e definições de base, e tem de ter autorizações de IAM para ver os registos.
Principais métricas
As principais métricas no painel de controlo de monitorização incluem o seguinte:
- Total de interações analisadas: o volume total de comandos e respostas analisados pelo Model Armor.
- Interações denunciadas: o número de interações que violaram, pelo menos, uma política configurada no seu modelo do Model Armor ou nas definições de limite mínimo.
- Interações bloqueadas: o número de interações bloqueadas (se tiver configurado o Model Armor no modo de inspeção e bloqueio).
- Violações por categoria:
- Todos os detetores: conteúdo violado por todos os detetores.
- Violação de dados confidenciais: presença de informações de identificação pessoal (IIP), dados financeiros ou tipos de dados personalizados que definiu.
- IA responsável: conteúdo que viola os filtros de segurança, como incitamento ao ódio, conteúdo perigoso, assédio ou conteúdo sexualmente explícito.
O que se segue?
- Saiba mais sobre o Model Armor.
- Saiba mais sobre os modelos do Model Armor.
- Saiba mais acerca das definições de limite mínimo do Model Armor.
- Saiba mais sobre os pontos finais do Model Armor.
- Limpar comandos e respostas.
- Saiba mais sobre o registo de auditoria do Model Armor.
- Configure o registo para o Model Armor
- Resolva problemas do Model Armor.