Visualiser les explications des données d'image

AI Explanations fournit des fonctionnalités de visualisation intégrées pour vos données d'image. Lorsque vous demandez des explications concernant un modèle de classification d'images pour lequel vous avez configuré la visualisation, vous obtenez la classe prédite avec, en superposition sur l'image, l'affichage des pixels ou des régions qui ont le plus contribué à cette prédiction.

Les images ci-dessous représentent des visualisations sur une image de husky. La visualisation de gauche utilise la méthode des gradients intégrés et met en évidence les zones d'attribution positive. La visualisation de droite utilise la méthode XRAI avec un dégradé de couleurs pour indiquer les zones les moins influentes (bleue) et les zones les plus influentes (jaune) lors d'une prédiction positive.

Visualisation de l'attribution des caractéristiques d'un husky à l'aide de gradients intégrés
Visualisation de l'attribution des caractéristiques d'un husky à l'aide de la méthode XRAI

Le type de données peut influer sur la visualisation des explications selon que vous utilisez des gradients intégrés ou la méthode XRAI.

  • La méthode XRAI s'avère généralement plus efficace avec les images naturelles, car elle fournit un résumé plus détaillé des insights, par exemple pour montrer que l'attribution positive est liée à la forme de la tête d'un chien.
  • Les gradients intégrés ont tendance à fournir des détails au niveau des pixels et permettent de dégager des attributions plus précises.

Pour en savoir plus sur les méthodes d'attribution, consultez la page de présentation d'AI Explanations.

Comment en profiter ?

Les visualisations sont configurées par modèle dans le fichier de métadonnées d'explications.

Pour ajouter une nouvelle visualisation de votre modèle, ajoutez un objet visualization dans l'objet inputs à visualiser. Dans l'objet visualization, vous pouvez inclure des options telles que le type de superposition utilisé, les attributions à mettre en évidence, les couleurs, etc. Tous les paramètres sont facultatifs.

Pour créer une autre visualisation du même modèle, mettez à jour les paramètres dans le fichier explanation_metadata.json et redéployez le modèle.

Options de visualisation

Les paramètres par défaut et les paramètres recommandés dépendent de la méthode d'attribution choisie (gradient intégré ou XRAI). Vous trouverez ci-dessous la liste des options de configuration et une description de la façon dont vous pouvez les utiliser. Pour obtenir la liste complète des valeurs des options, consultez la documentation de référence de l'API.

  • type : type de visualisation utilisé. Pour les gradients intégrés, Outlines est défini par défaut et indique les régions d'attribution, tandis que Pixels indique l'attribution par pixel. Pour la méthode XRAI, le paramètre par défaut est Pixels, il indique les zones d'attribution. Outlines n'est pas recommandé pour la méthode XRAI.
  • polarity : orientation des attributions mises en évidence. Le paramètre positive est défini par défaut. Il met en évidence les zones à forte attribution positive. Cela consiste à mettre en évidence les pixels les plus influents sur la prédiction positive du modèle. Le paramètre de polarité défini sur negative met en évidence les zones qui influencent le modèle à ne pas prédire la classe positive. L'utilisation d'une polarité négative peut être utile pour déboguer votre modèle, car elle identifie les fausses régions négatives. Vous pouvez également définir la polarité sur both, ce qui met en évidence les attributions positives et négatives.
  • clip_above_percentile : exclut les attributions supérieures au centile spécifié des zones mises en évidence. L'utilisation conjointe des paramètres de bornement peut être utile pour filtrer le bruit et faciliter la visualisation des zones à forte attribution.
  • clip_below_percentile : exclut les attributions inférieures au centile spécifié des zones mises en évidence.
  • color_map : jeu de couleurs utilisé pour les zones mises en évidence. Pour les gradients intégrés, la valeur par défaut est pink_green, ce qui met en évidence les attributions positives en vert et les attributions négatives en rose. Pour les visualisations XRAI, la carte de couleurs est un gradient. Pour la méthode XRAI, la valeur par défaut est viridis, ce qui met en évidence les régions les plus influentes en jaune et les régions les moins influentes en bleu.
  • overlay_type : mode d'affichage de l'image d'origine dans la visualisation. L'ajustement de la superposition permet d'améliorer la clarté visuelle lorsque l'image d'origine rend la visualisation difficile.

Exemples de configurations

Pour commencer, vous trouverez ci-dessous des exemples d'objets visualization que vous pouvez utiliser comme point de départ, ainsi que des images qui représentent l'application de divers paramètres.

Gradients intégrés

Pour les gradients intégrés, vous devrez peut-être ajuster les valeurs de bornement si les zones d'attribution comportent trop de bruit.

visualization: {
"type": "Outlines", # Can also use "Pixels"
"polarity": "positive",
"clip_below_percentile": 70,
"clip_above_percentile": 99.9,
"color_map": "pink_green",
"overlay_type": "grayscale"
}

Vous trouverez ci-dessous deux visualisations utilisant les types Outlines et Pixels. Les colonnes libellées "Highly predictive only" (Hautement prédictif uniquement), "Moderately predictive" (Moyennement prédictif) et "Almost all" (Presque tous) sont des exemples de bornement à différents niveaux, qui peuvent vous aider à cibler la visualisation.

Visualisation d'une attribution de caractéristiques avec contours à l'aide de gradients intégrés

Visualisation d'une attribution de caractéristiques avec pixels à l'aide de gradients intégrés

XRAI

Pour les visualisations XRAI, nous vous recommandons de commencer sans les valeurs de bornement, car la superposition affiche les zones de forte attribution et de faible attribution à l'aide d'un gradient.

visualization: {
"type": "Pixels", # Only valid option for XRAI
"polarity": "positive",
"clip_below_percentile": 0,
"clip_above_percentile": 100,
"color_map": "viridis",
"overlay_type": "grayscale"
}

L'image ci-dessous est une visualisation XRAI qui utilise la carte de couleurs viridis par défaut et divers types de superposition. Les zones en jaune correspondent aux régions les plus influentes qui ont contribué positivement à la prédiction.

Visualisation d'une attribution de caractéristiques à l'aide de la méthode XRAI

Étapes suivantes

Vous pouvez également visualiser des explications à l'aide de l'outil What-If. Reportez-vous aux exemples de notebooks pour en savoir plus.