Memvisualisasikan penjelasan untuk data gambar

AI Explanations memberikan kemampuan visualisasi bawaan untuk data gambar Anda. Saat meminta penjelasan tentang model klasifikasi gambar dengan visualisasi yang telah dikonfigurasi, Anda akan mendapatkan class yang diprediksi beserta overlay gambar yang menunjukkan piksel atau wilayah mana yang berkontribusi pada prediksi.

Gambar di bawah ini menunjukkan visualisasi pada gambar husky. Visualisasi sebelah kiri menggunakan metode gradien terintegrasi dan menyoroti area atribusi positif. Visualisasi kanan menggunakan metode XRAI dengan gradien warna yang menunjukkan area yang pengaruh lebih kecil (biru) dan lebih besar (kuning) dalam membuat prediksi positif.

Visualisasi atribusi fitur husky menggunakan Integrated Gradients
Visualisasi atribusi fitur husky menggunakan XRAI

Jenis data yang Anda kerjakan dapat memengaruhi apakah Anda sebaiknya menggunakan pendekatan Integrated Gradients atau XRAI untuk memvisualisasikan penjelasan.

  • Metode XRAI cenderung lebih baik untuk gambar alami dan memberikan ringkasan insight umum yang lebih baik, seperti menunjukkan bahwa atribusi positif berkaitan dengan bentuk wajah anjing.
  • Integrated Gradients (IG) cenderung memberikan detail di tingkat piksel dan berguna untuk mengungkap atribusi yang lebih terperinci.

Pelajari lebih lanjut metode atribusi di halaman Ringkasan AI Explanations.

Memulai

Visualisasi dikonfigurasi per model sebagai bagian dari file metadata penjelasan.

Untuk menambahkan visualisasi baru untuk model Anda, sertakan objek visualization dalam objek inputs yang ingin divisualisasikan. Pada objek visualization, Anda dapat menyertakan opsi seperti jenis overlay yang digunakan, atribusi mana yang ditandai, warna, dan lainnya. Semua setelan bersifat opsional.

Untuk membuat visualisasi lain dengan model yang sama, perbarui setelan dalam file explanation_metadata.json dan deploy ulang model.

Opsi visualisasi

Setelan default dan yang direkomendasikan bergantung pada metode atribusi (Integrated Gradients atau XRAI). Berikut adalah daftar opsi konfigurasi dan cara menggunakannya. Untuk mengetahui daftar lengkap nilai opsi, lihat referensi API.

  • type: Jenis visualisasi yang digunakan. Untuk gradien terintegrasi, Outlines ditetapkan secara default dan menampilkan wilayah atribusi, sedangkan Pixels menunjukkan atribusi per piksel. Untuk XRAI, Pixels adalah setelan default dan menampilkan area atribusi. Outlines tidak direkomendasikan untuk XRAI.
  • polarity: Arah atribusi yang ditandai. positive ditetapkan secara default, yang menandai area dengan atribusi positif tertinggi. Artinya, Anda menyoroti piksel yang paling berpengaruh terhadap prediksi positif model. Menetapkan polaritas ke negative akan menandai area yang menyebabkan model tidak memprediksi kelas positif. Penggunaan polaritas negatif dapat berguna untuk men-debug model Anda dengan mengidentifikasi area negatif palsu. Anda juga dapat menetapkan polaritas ke both yang menampilkan atribusi positif dan negatif.
  • clip_above_percentile: Mengecualikan atribusi di atas persentil yang ditentukan dari area yang ditandai. Penggunaan beberapa parameter penyesuaian nilai secara bersamaan dapat berguna untuk memfilter derau dan memudahkan untuk melihat area atribusi yang kuat.
  • clip_below_percentile: Mengecualikan atribusi di bawah persentil yang ditentukan. dari area yang ditandai.
  • color_map: Skema warna yang digunakan untuk area yang ditandai. Default-nya adalah pink_green untuk Integrated Gradients, yang menampilkan atribusi positif dalam warna hijau dan atribusi negatif dalam warna merah muda. Untuk visualisasi XRAI, peta warna akan berupa gradien. Default XRAI adalah viridis yang menandai area yang paling berpengaruh dengan warna kuning dan yang paling tidak berpengaruh dengan warna biru.
  • overlay_type: Cara gambar asli ditampilkan dalam visualisasi. Menyesuaikan overlay dapat membantu meningkatkan kejelasan visual jika gambar asli menyebabkan visualisasi sulit dilihat.

Contoh konfigurasi

Untuk memulai, di bawah ini adalah contoh objek visualization yang dapat Anda gunakan sebagai titik awal dan gambar yang menampilkan berbagai setelan yang diterapkan.

Integrated Gradients

Untuk Integrated Gradients, Anda mungkin perlu menyesuaikan nilai penyesuaian jika ada terlalu banyak derau di area atribusi.

visualization: {
"type": "Outlines", # Can also use "Pixels"
"polarity": "positive",
"clip_below_percentile": 70,
"clip_above_percentile": 99.9,
"color_map": "pink_green",
"overlay_type": "grayscale"
}

Berikut adalah dua visualisasi yang menggunakan jenis Outlines dan Pixels. Kolom dengan label "Highly predictive only", "Moderately predictive", dan "Almost all" adalah contoh penyesuaian nilai di berbagai tingkat yang dapat membantu memfokuskan visualisasi Anda.

Visualisasi atribusi fitur dengan garis batas untuk atribusi IG

Visual atribusi fitur dengan piksel untuk atribusi IG

XRAI

Untuk visualisasi XRAI, sebaiknya Anda memulai tanpa nilai penyesuaian untuk XRAI karena overlay menggunakan gradien untuk menampilkan area dengan atribusi tinggi dan rendah.

visualization: {
"type": "Pixels", # Only valid option for XRAI
"polarity": "positive",
"clip_below_percentile": 0,
"clip_above_percentile": 100,
"color_map": "viridis",
"overlay_type": "grayscale"
}

Gambar di bawah ini adalah visualisasi XRAI yang menggunakan peta warna viridis default dan berbagai jenis overlay. Area berwarna kuning menunjukkan area yang paling berpengaruh yang berkontribusi positif terhadap prediksi.

Visualisasi atribusi fitur untuk atribusi XRAI

Langkah selanjutnya

Anda juga dapat menggunakan What-If Tool untuk memvisualisasikan penjelasan Anda. Lihat contoh notebook untuk mempelajari lebih lanjut.