AI Explanations の制限事項

サービスから返された説明を検討する場合、次の制限事項に注意してください。詳細については、AI Explanations のホワイトペーパーをご覧ください。

特徴属性の意味と範囲

AI Explanation から提供される特徴属性を分析する際は、次の点に注意してください。

  • 属性は、特徴がそのサンプルの予測にどの程度影響を及ぼしたのかを示します。1 つの属性では、モデルの全体的な動作が反映されていない可能性があります。データセット全体に対するモデルの動作を把握するには、データセット全体で属性を集計する必要があります。
  • 属性は、モデルとそのモデルのトレーニングに使用されるデータに完全に依存します。モデルがデータで見つかったパターンだけで、データの基本的な関係を把握することはできません。つまり、特定の特徴に対して強い属性が存在するかどうかで、特徴と対象と関係性を判断することはできません。属性は、そのモデルが予測で特徴を使用しているかどうかを表すだけです。
  • 属性だけでは、モデルが公平で、偏りがなく、高品質かどうかはわかりません。属性だけでなく、トレーニング データセット、手順、評価指標を慎重に評価する必要があります。

特徴属性の改善

次の要素は、特徴属性に最も大きな影響を与えます。

  • 属性法では Shapley 値の近似値を計算します。近似の精度を上げるには、統合勾配またはサンプリングされた Shapley 法の積分ステップまたは積分経路の数を増やします。その結果、属性が大きく変化する可能性があります。
  • 属性は、特徴がベースライン値に対する予測値の変化にどの程度影響したかを表します。モデルに対する質問に合わせて、有意なベースラインを慎重に選択してください。ベースラインを切り替えると、属性の値とその解釈が大きく変わることがあります。