Vertex Explainable AI fornisce funzionalità di visualizzazione integrate per i dati delle immagini. Puoi configurare le visualizzazioni per i modelli di classificazione delle immagini AutoML.
Quando richiedi una spiegazione su un modello di classificazione delle immagini, ottieni la classe prevista insieme a un overlay immagine che mostra quali pixel (gradienti integrati) o regioni (gradienti integrati o XRAI) hanno contribuito alla previsione.
Le seguenti immagini mostrano le visualizzazioni di un'immagine husky. La visualizzazione a sinistra utilizza il metodo dei gradienti integrati ed evidenzia le aree di attribuzione positiva. La visualizzazione destra utilizza un metodo XRAI con un gradiente di colore che indica aree di influenza minore (blu) e maggiore (giallo) nella creazione di una previsione positiva.
Il tipo di dati con cui stai lavorando può influire sull'utilizzo di un gradiente integrato o di un approccio XRAI per visualizzare le spiegazioni.
- L'XRAI tende a migliorare con le immagini naturali e fornisce un riepilogo di più alto livello migliore dei dati, come mostrare che l'attribuzione positiva è correlata alla forma del muso di un cane.
- I gradienti integrati (IG) tendono a fornire dettagli a livello di pixel ed sono utili per scoprire attribuzioni più granulari.
Scopri di più sui metodi di attribuzione nella pagina Panoramica di Vertex Explainable AI.
Per iniziare
Configura la visualizzazione quando addestra un modello AutoML che supporta Vertex Explainable AI e attiva le spiegazioni quando esegui il deployment del modello.
Opzioni di visualizzazione
Le impostazioni predefinite e consigliate dipendono dal metodo di attribuzione (gradienti integrati o XRAI). L'elenco seguente descrive le opzioni
di configurazione e il loro utilizzo. Per un elenco completo delle opzioni, consulta il riferimento API per il messaggio Visualization.
type: il tipo di visualizzazione utilizzato:OUTLINESoPIXELS. Specifica questo campo solo se utilizzi gradienti integrati. Non puoi specificarlo se utilizzi XRAI.Per i gradienti integrati, il campo è impostato in modo predefinito su
OUTLINES, che mostra le aree geografiche di attribuzione. Per mostrare l'attribuzione per pixel, imposta il campo suPIXELS.polarity: la direzione delle attribuzioni evidenziate. Il valore predefinito èpositive, che evidenzia le aree con il maggior numero di attribuzioni positive. Ciò significa evidenziare i pixel più influenti per la previsione positiva del modello. L'impostazione della polarità sunegativeevidenzia le aree che portano il modello a non prevedere la classe positiva. L'uso di una polarità negativa può essere utile per eseguire il debug del modello identificando le regioni con falsi negativi. Puoi anche impostare la polarità subothper mostrare attribuzioni positive e negative.clip_percent_upperbound: esclude le attribuzioni al di sopra del percentile specificato dalle aree evidenziate. L'utilizzo combinato dei parametri del clip può essere utile per filtrare il rumore e semplificare la visualizzazione delle aree di attribuzione importante.clip_percent_lowerbound: esclude le attribuzioni al di sotto del percentile specificato dalle aree evidenziate.color_map: la combinazione di colori utilizzata per le aree evidenziate. Il valore predefinito èpink_greenper i gradienti integrati, che mostra le attribuzioni positive in verde e quelle negative in rosa. Per le visualizzazioni XRAI, la mappa colori è un gradiente. L'impostazione predefinita XRAI èviridis, che evidenzia le aree geografiche più influenti in giallo e le meno influenti in blu.Per un elenco completo dei possibili valori, consulta il riferimento API per il messaggio
Visualization.overlay_type: come viene mostrata l'immagine originale nella visualizzazione. La modifica dell'overlay può migliorare la nitidezza visiva se l'immagine originale rende difficile la visualizzazione della visualizzazione.Per un elenco completo dei possibili valori, consulta il riferimento API per il messaggio
Visualization.
Configurazioni di esempio
Per iniziare, di seguito sono riportati alcuni esempi di configurazioni Visualization che puoi utilizzare come punto di partenza e immagini che mostrano una serie di impostazioni applicate.
Gradienti integrati
Per i gradienti integrati, potrebbe essere necessario modificare i valori dei clip se le aree di attribuzione sono troppo rumorose.
visualization: {
"type": "OUTLINES",
"polarity": "positive",
"clip_percent_lowerbound": 70,
"clip_percent_upperbound": 99.9,
"color_map": "pink_green",
"overlay_type": "grayscale"
}
Di seguito sono riportate due visualizzazioni che utilizzano entrambi i tipi outlines e pixels. Le colonne etichettate come "Solo altamente predittivo", "Moderatamente predittivo" e "Quasi tutte" sono esempi di ritaglio a diversi livelli che possono aiutarti a perfezionare la visualizzazione.
XRAI
Per le visualizzazioni XRAI, consigliamo di iniziare senza valori di clip per XRAI, poiché l'overlay utilizza un gradiente per mostrare le aree di attribuzione alta e bassa.
visualization: {
"clip_percent_lowerbound": 0,
"clip_percent_upperbound": 100,
"color_map": "viridis",
"overlay_type": "grayscale"
}
L'immagine seguente è una visualizzazione XRAI che utilizza la mappa colori predefinita di Viridis e una gamma di tipi di overlay. Le aree in giallo indicano le regioni più influenti che hanno contribuito positivamente alla previsione.
Passaggi successivi
- Usa la sezione Recupero delle spiegazioni per ottenere previsioni con le spiegazioni del modello.
- Per informazioni dettagliate sul miglioramento dei risultati di Vertex Explainable AI per i modelli di classificazione delle immagini AutoML, consulta Migliorare le spiegazioni.