Explainable AI

用于理解和解释机器学习模型的工具和框架。

理解 AI 输出结果并建立信任

Explainable AI 是一组工具和框架，可帮助您理解和解释机器学习模型作出的预测，它与许多 Google 产品和服务原生集成。借助该服务，您可以调试和提升模型性能，并帮助他人理解您的模型行为。您还可以为 AutoML Tables、BigQuery ML 和 Vertex AI 中的模型预测生成特征归因，并使用 What-If 工具直观地调查模型行为。

最新资讯

事件

Vertex AI 基于样本的说明

报名

设计具有包容性的可解释 AI

使用专门设计的工具检测并解决数据和模型中的偏差、漂移以及其他差距，从头开始构建具有包容性的可解释 AI 系统。AutoML Tables、Vertex AI Predictions 和 Notebooks 中的 AI Explanations 功能为数据科学家提供了改进数据集或模型架构以及调试模型性能所需要的数据洞见。What-If 工具让您可以通过一目了然的方式调查模型行为。

自信地部署 AI

通过人类可解释的机器学习模型说明，提高最终用户的信任度并提高模型的透明度。在 AutoML Tables 或 AI Platform 上部署模型时，您会实时获得预测结果和得分，指示某个因素对最终结果的影响程度。尽管解释并不揭示数据样本或群体中的任何基本关系，但它们确实能反映出模型在数据中发现的模式。

简化模型治理

通过简化的性能监控和训练，让组织能够更轻松地管理和改进机器学习模型。轻松监控模型在 Vertex AI 上所做的预测。持续评估功能使您可以将模型预测结果与标准答案标签进行比较，获得持续的反馈并优化模型性能。

特性

利用由 Google 研究开发并为 Google 的 AI 技术提供支持的突破性 XAI 工具理解 AI 输出结果。

特征归因

用于生成特征归因的代管式服务。支持的方法包括 Samples Shapely、积分梯度和 XRAI。

集成到 Vertex AI 服务中，包括 AutoML Tables 和 AutoML Vision、Vertex AI Prediction、Notebooks、模型监控和 BigQuery ML。

了解详情

基于样本的说明

利用具有可操作性的解释构建更好的模型，以解决数据难题。

代管式近似最近邻服务，用于返回与新预测或实例类似的样本。

了解详情

模型分析

高级模型分析工具包可帮助您更好地了解模型。

通过集成了 What-If 工具的交互式信息中心在 Vertex AI 中检查模型。

或者，通过 What-If 工具或语言可解释性工具来利用开源技术。

了解详情

客户

Sky

“了解模型如何做出决定，对于 AI 在我们行业中的使用至关重要。我们很高兴看到 Google Cloud 在解决这一行业挑战方面取得的进展。借助 What-If 之类的工具以及 AI Platform 中的特征归因，我们的数据科学家可以自信地构建模型，并提供易于理解的解释。”

_{- Stefan Hoejmose，Sky 数据历程总监}

Wellio

“模型的内省对于模型开发和部署而言都是必不可少的。我们往往过于关注预测技能，而实际上，更具解释性的模型通常才是最有用的，更重要的是，这样的模型通常也是最值得信赖的。我们很高兴看到 Google Cloud 开发的这些新工具为我们的数据科学家和模型客户提供的有力支持。”

_{- Erik Andrejko，Wellio 首席技术官}

Vivint SmartHome

“模型可解释性对于我们优化 AI 和以最佳方式解决问题的能力至关重要。Google 正在通过研发，在 Explainable AI 中进行新的探索。借助 Google Cloud，我们能够利用经过尝试和测试的各种技术来解决模型可解释性的挑战，并提升我们的数据科学能力。”

_{- Aaron Davis，Vivint SmartHome 首席数据科学家}

iRobot

“我们正在利用神经网络来开发未来产品的功能。易于使用的优质解决方案可以改善我们深度学习模型的训练，是我们的称手利器。我们很高兴看到 Google Cloud 在解决特征归因问题、以易于理解的方式提供模型行为表现解释方面所取得的进展。”

_{- Chris Jones，iRobot 首席技术官}

资源

AutoML Tables 或 Vertex AI 用户无需额外付费即可使用 Explainable AI 工具。请注意，Cloud AI 按节点时用量计费，并且对模型预测运行 AI Explanations 时将需要计算和存储资源。因此，Explainable AI 用户可能会看到其节点时用量增加。

查看价格详情