Explainable AI

機械学習モデルを理解して解釈するためのツールとフレームワーク。

AI 出力の意味を把握し、ユーザーとの信頼構築に役立てる

Explainable AI は、機械学習モデルによる予測を理解し解釈するためのツールとフレームワークのセットで、Google の多くのプロダクトやサービスとネイティブに統合されています。これを活用してモデルのデバッグを行い、パフォーマンスを改善できます。また、ユーザーがモデルの動作を理解するうえでも役立ちます。また、AutoML Tables、BigQuery ML、Vertex AI でのモデル予測に対する特徴アトリビューションを生成したり、What-If ツールを使ってモデルの動作を視覚的に調べたりすることもできます。

最新情報

イベント

Vertex AI Example-Based Explanations

登録

包括的でわかりやすい AI の設計

データとモデル間のバイアス、ブレ、その他の隔たりを検出して解決できるように設計されたツールを使用して、包括的でわかりやすい AI システムを一から構築できます。AutoML Tables、Vertex AI Predictions、Notebooks に含まれる AI Explanations は、データセットまたはモデルアーキテクチャを改善してモデルのパフォーマンスをデバッグするために必要な分析情報をデータサイエンティストに提供します。What-If ツールを使用すると、モデルの動作が一目でわかります。

AI の確実なデプロイ

機械学習モデルに人間が解釈しやすい注釈を加えることで、エンドユーザーとの信頼関係構築と、透明性の向上を図れます。AutoML Tables または Vertex AI にモデルをデプロイすると、ある要因が最終結果にどの程度影響するかを示す予測とスコアがリアルタイムで得られます。AI Explanations は、データサンプルまたは母集団内の基本関係を明らかにするわけではありませんが、データで見つかったモデルのパターンが反映されています。

モデルガバナンスの合理化

合理化されたパフォーマンスモニタリングとトレーニングのご利用により、機械学習モデルの管理と機能改善のプロセス全般を簡単化できます。Vertex AI でモデルが行った予測の結果を簡単にモニタリングできます。さらには継続評価機能により、モデル予測とグラウンドトゥルースラベルを比較して継続的なフィードバックを取得し、モデルのパフォーマンスを最適化することも可能です。

機能

Google Research が開発し、Google の AI を強化するために使用される XAI ツールで、AI の出力を理解しましょう。

特徴アトリビューション

特徴アトリビューションを生成するためのマネージドサービス。サポートされるメソッドには、Samples Shapely、Integrated Gradients、XRAI などがあります。

Vertex AI サービスへの統合（例: AutoML Tables、ビジョン、Vertex AI 予測、Notebooks、モデルのモニタリング、BigQuery ML）。

詳細

例ベースの説明

実用的な説明を使用して優れたモデルを構築し、データの課題を軽減します。

新しい予測またはインスタンスに同様のサンプルを返すためのマネージド近似最近傍探索サービス。

詳細

モデル分析

モデルをより深く理解するための高度なモデル分析ツールキット。

統合された What-If ツールを備えたインタラクティブなダッシュボードを使用して、Vertex AI でモデルを検査します。

代わりに、What-If ツールまたは Learning Interpretability Tool を備えたオープンソースを活用することもできます。

詳細

導入事例

Sky

「モデルがどのように意思決定に到達するかを理解することは、私たちの業界でAIを使用するために重要です。この業界の課題を解決するために Google Cloud が成し遂げた進歩に私たちは期待を寄せています。What-If ツールなどのツールと AI Platform の特徴アトリビューションを使用して、当社のデータサイエンティストは自信を持ってモデルを構築し、人間が容易に理解できる説明を提供できます。」

_{- Sky 社データ担当責任者 Stefan Hoejmose 氏}

Wellio

「モデルのイントロスペクションは、モデルの開発とデプロイの双方において不可欠です。機械学習においては予測スキルが強調される傾向にありますが、実際に役立つのはたいていわかりやすいモデルです。そして信頼性の高いモデルには何にも代え難い価値があります。データサイエンティストとモデルのお客様の両方をサポートする、Google Cloudによって作成されたこれらの新しいツールに私たちは期待を寄せています。」

_{- wellio 社最高技術責任者 Erik Andrejko 氏}

Vivint SmartHome

「モデルの解釈可能性は、AI を最適化し、可能な限り最善の方法で問題を解決する当社の能力にとって不可欠です。Google は、研究開発を通じて Explainable AI の限界を押し広げています。また、Google Cloudを使用することで、モデルの解釈可能性の課題を解決し、データサイエンス機能を向上するための、試行錯誤されたテクノロジーを利用できます。」

_{- Vivint Smart Home 社主任データサイエンティスト Aaron Davis 氏}

iRobot

「私たちは将来の製品の機能を開発するためにニューラルネットワークを活用しています。そのため、当社の取り組みにおいて、ディープラーニングモデルのトレーニングを改善してくれる高品質かつシンプルなソリューションの存在は、なくてはならないものでした。特徴アトリビューションの問題を解決し、モデルの動作を人間が容易に理解できる説明を提供するために Google Cloud が成し遂げた進歩に私たちは期待を寄せています。」

_{- iRobot 社最高技術責任者 Chris Jones 氏}

リソース

AutoML Tables または Vertex AI のお客様の場合、Explainable AI ツールを使用しても追加料金は発生しません。ただし、Cloud AI はノードの使用時間単位で課金され、モデル予測で AI Explanations を実行するにはコンピューティングとストレージが必要です。したがって、Explainable AI のご利用時には、ノード時間の使用量が増加する可能性があることにご注意ください。

料金の詳細を表示