Explainable AI

機械学習モデルを理解して解釈するためのツールとフレームワーク。

AI 出力の意味を把握し、ユーザーとの信頼構築に役立てる

Explainable AI は、機械学習モデルによる予測を理解し解釈するためのツールとフレームワークのセットで、Google の多くのプロダクトやサービスとネイティブに統合されています。これを活用してモデルのデバッグを行い、パフォーマンスを改善できます。また、ユーザーがモデルの動作を理解するうえでも役立ちます。また、AutoML Tables、BigQuery ML、Vertex AI でのモデル予測に対する特徴アトリビューションを生成したり、What-If ツールを使ってモデルの動作を視覚的に調べたりすることもできます。

包括的でわかりやすい AI を設計する

データとモデル間のバイアス、ブレ、その他の隔たりを検出して解決できるように設計されたツールを使用して、包括的でわかりやすい AI システムを一から構築できます。AutoML Tables、Vertex AI Predictions、Notebooks に含まれる AI Explanations は、データセットまたはモデルアーキテクチャを改善してモデルのパフォーマンスをデバッグするために必要な分析情報をデータサイエンティストに提供します。What-If ツールを使用すると、モデルの動作が一目でわかります。

AI の確実なデプロイ

機械学習モデルに人間が解釈しやすい注釈を加えることで、エンドユーザーとの信頼関係構築と、透明性の向上を図れます。AutoML Tables または Vertex AI にモデルをデプロイすると、ある要因が最終結果にどの程度影響するかを示す予測とスコアがリアルタイムで得られます。説明は、データサンプルまたは母集団内の基本関係を明らかにするわけではありませんが、データで見つかったモデルのパターンを反映しています。

モデルガバナンスの合理化

合理化されたパフォーマンスモニタリングとトレーニングの利用により、機械学習モデルを管理および改善する組織の能力を簡素化します。Vertex AI でモデルが行った予測の結果を簡単にモニタリングできます。さらには継続評価機能により、モデル予測とグラウンドトゥルースラベルを比較して継続的なフィードバックを取得し、モデルのパフォーマンスを最適化することも可能です。

機能

AI Explanations

各要因がモデル予測にどの程度影響したかを説明するスコアを AutoML Tables、BigQuery ML、ノートブック内、Vertex AI Prediction API 経由で受け取ります。スコア解説ドキュメントをご覧ください。

What-If ツール

Vertex AI と統合された What-If ツールを使用して、データセットの一連の特徴、最適化戦略、個々のデータポイント値に対する操作といった観点からモデルのパフォーマンスを評価できます。

継続評価

Vertex AI にデプロイされたトレーニング済み機械学習モデルから予測をサンプリングします。継続評価機能を使用すると、予測入力のグラウンドトゥルースラベルを提供できます。Data Labeling Service は、モデル予測をグラウンドトゥルースラベルと比較して、モデルのパフォーマンスの改善に役立てます。

導入事例

Sky

「モデルがどのように意思決定に到達するかを理解することは、私たちの業界でAIを使用するために重要です。この業界の課題を解決するために Google Cloud が成し遂げた進歩に私たちは期待を寄せています。What-If ツールなどのツールと AI Platform の特徴アトリビューションを使用して、当社のデータサイエンティストは自信を持ってモデルを構築し、人間が容易に理解できる説明を提供できます。」

_{- Sky 社データ担当責任者 Stefan Hoejmose 氏}

Wellio

「モデルのイントロスペクションは、モデルの開発とデプロイの双方において不可欠です。機械学習においては予測スキルが強調される傾向にありますが、実際に役立つのはたいていわかりやすいモデルです。そして信頼性の高いモデルには何にも代え難い価値があります。データサイエンティストとモデルのお客様の両方をサポートする、Google Cloudによって作成されたこれらの新しいツールに私たちは期待を寄せています。」

_{- wellio 社最高技術責任者 Erik Andrejko 氏}

Vivint SmartHome

「モデルの解釈可能性は、AI を最適化し、可能な限り最善の方法で問題を解決する当社の能力にとって不可欠です。Google は、研究開発を通じて Explainable AI の限界を押し広げています。また、Google Cloudを使用することで、モデルの解釈可能性の課題を解決し、データサイエンス機能を向上するための、試行錯誤されたテクノロジーを利用できます。」

_{- Vivint Smart Home 社主任データサイエンティスト Aaron Davis 氏}

iRobot

「私たちは将来の製品の機能を開発するためにニューラルネットワークを活用しています。そのため、当社の取り組みにおいて、ディープラーニングモデルのトレーニングを改善してくれる高品質かつシンプルなソリューションの存在は、なくてはならないものでした。特徴アトリビューションの問題を解決し、モデルの動作を人間が容易に理解できる説明を提供するために Google Cloud が成し遂げた進歩に私たちは期待を寄せています。」

_{- iRobot 社最高技術責任者 Chris Jones 氏}

リソース

AutoML Tables または Vertex AI のお客様の場合、Explainable AI ツールを使用しても追加料金は発生しません。ただし、Cloud AI はノードの使用時間単位で課金され、モデル予測で AI Explanations を実行するにはコンピューティングとストレージが必要です。したがって、Explainable AI のご利用時には、ノード時間の使用量が増加する可能性があることにご注意ください。

料金の詳細を表示