Visualizzare la dashboard di monitoraggio

Model Armor filtra i prompt e le risposte per le tue applicazioni LLM. La dashboard di monitoraggio fornisce i dati, le metriche e le visualizzazioni generati da questo processo di screening. Utilizza questi approfondimenti per capire in che modo Model Armor protegge le tue applicazioni di AI, identifica i tentativi di prompt injection e altre attività dannose.

Prima di iniziare

Abilita Model Armor.

Autorizzazioni obbligatorie

Per ottenere le autorizzazioni necessarie per accedere alla dashboard di monitoraggio, chiedi all'amministratore di concederti il ruolo IAM sul progetto. Per ulteriori informazioni sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.

Questo ruolo predefinito contiene le autorizzazioni necessarie per accedere alla dashboard di monitoraggio. Per vedere quali sono esattamente le autorizzazioni richieste, espandi la sezione Autorizzazioni obbligatorie:

Autorizzazioni obbligatorie

Per accedere alla dashboard di monitoraggio sono necessarie le seguenti autorizzazioni:

  • monitoring.monitoredResourceDescriptors.list
  • monitoring.metricDescriptors.list

Potresti anche ottenere queste autorizzazioni con ruoli personalizzati o altri ruoli predefiniti.

Accedere alla dashboard di monitoraggio

  1. Nella console Google Cloud , vai alla pagina Model Armor.

    Vai a Model Armor

  2. Verifica di visualizzare il progetto su cui hai attivato Model Armor.

  3. Vai alla scheda Monitoraggio.

Da questa pagina puoi:

  • Visualizza le interazioni durante la data e l'ora selezionate.
  • Filtra le interazioni in base ai modelli o alle impostazioni del piano associati, alle posizioni, ai punti di integrazione e ai tipi di input.
  • Scarica i dati in un file PNG o CSV.
  • Monitora le violazioni nel tempo con un grafico delle tendenze.
  • Visualizza i modelli utilizzati nel progetto.

  • Ispeziona i log correlati per visualizzare i log durante la data e l'ora selezionate. Per farlo, fai clic su Altre opzioni del grafico > Esamina i log correlati.

    Per esaminare i log correlati, devi abilitare la registrazione nei modelli e nelle impostazioni del piano e devi disporre delle autorizzazioni IAM per visualizzare i log.

Metriche chiave

Le metriche chiave nella dashboard di monitoraggio includono quanto segue:

  • Interazioni totali scansionate: il volume totale di prompt e risposte analizzati da Model Armor.
  • Interazioni segnalate: il numero di interazioni che hanno violato almeno una policy configurata nel modello Model Armor o nelle impostazioni di base.
  • Interazioni bloccate: il numero di interazioni bloccate (se hai configurato Model Armor nella modalità di ispezione e blocco).
  • Violazioni per categoria:
    • Tutti i rilevatori: contenuti violati da tutti i rilevatori.
    • Violazione dei dati sensibili: presenza di informazioni che consentono l'identificazione personale (PII), dati finanziari o tipi di dati personalizzati che hai definito.
    • AI responsabile: contenuti che violano i filtri di sicurezza, come incitamento all'odio, contenuti pericolosi, molestie o contenuti sessualmente espliciti.

Passaggi successivi