获取说明

本指南介绍如何从 Vertex AI 上的 Model 资源获取说明。您可以通过两种方式获得说明：

在线说明：对 Vertex AI API 的同步请求，类似于使用特征归因返回预测的在线预测。
批量说明：对使用特征归因返回预测 Vertex AI API 的异步请求。批量预测是批量预测请求的可选部分。

准备工作

在获取说明之前，您必须完成以下操作：

这一步因您使用的机器学习模型类型而异：
- 如果您想要从自定义训练的模型获取说明，请按照配置基于样本的说明或配置基于特征的说明以创建支持 Vertex Explainable AI 的 Model。
- 如果您想要从 AutoML 表格分类或回归模型获取说明，则请基于表格数据集训练 AutoML 模型。使用 Vertex Explainable AI 无需任何特定配置。不支持预测模型的说明。
- 如果您想从 AutoML 图片分类模型获取说明，则应使用图片数据集训练 AutoML 模型，并且在部署模型时启用说明。使用 Vertex Explainable AI 无需任何特定配置。不支持对象检测模型的说明。
如需获取在线说明，请将您在上一步中创建的 Model 部署到 Endpoint 资源。

获取在线说明

要获取在线说明，请按照完成在线预测的大多数步骤执行操作。但是，您无需向 Vertex AI API 发送 projects.locations.endpoints.predict 请求，只需发送 projects.locations.endpoints.explain 请求即可。

以下指南提供了有关准备和发送在线说明请求的详细说明：

对于 AutoML 图片分类模型，请参阅获取 AutoML 模型的在线预测结果。
对于 AutoML 表格分类和回归模型，请参阅获取 AutoML 模型的在线预测结果。
对于自定义训练模型，请参阅从自定义训练模型获取在线预测结果。

获取批量说明

仅支持基于特征的批量说明；您无法获取基于样本的批量说明。

如需获得批量预测说明，请在创建批量预测作业时，将 generateExplanation 字段设置为 true。

如需详细了解如何准备和创建批量预测作业，请参阅获取批量预测。

在 Vertex AI Workbench 用户管理的笔记本中本地获取说明

在 Vertex AI Workbench 用户管理的笔记本中，您可以通过在笔记本的本地内核或运行时内运行 Vertex Explainable AI 来为自定义训练的模型生成说明，而无需为了获取说明而将模型部署到 Vertex AI。使用本地说明使您可以试用不同的 Vertex Explainable AI 设置，而无需针对每次更改调整 Vertex AI 模型部署。这样可以更轻松、更快速地评估使用不同基准、尝试对说明进行不同可视化设置，或者调整算法使用的步数或路径数的影响。

本地说明仅在用户管理的笔记本内可用，因此这项功能在用户管理笔记本实例外部运行的 Jupyter 笔记本中不起作用。

要在用户管理的笔记本实例中本地生成说明，请执行以下操作：

创建用户管理的笔记本实例
从用户管理的笔记本实例启动 JupyterLab 环境，然后创建或导入笔记本。
将模型工件保存到笔记本的本地环境或 Cloud Storage 存储桶。
生成并保存元数据以描述模型，并配置说明请求。

在用户管理的笔记本中使用 Explainable AI SDK

用户管理的笔记本实例中已经预安装 Explainable AI SDK。您可以在您的笔记本中使用 Explainable AI SDK 保存模型工件，并自动识别关于模型输入和输出的说明元数据。您还可以指定其他参数以配置说明请求，然后直观呈现说明结果。

您可以在笔记本的本地环境或 Cloud Storage 存储桶中保存模型和元数据。如果您使用的是 TensorFlow，则可以使用 save_model_with_metadata() 方法推断模型的输入和输出，并将此说明元数据与您的模型一同保存。

随后使用 load_model_from_local_path() 将模型加载到 Explainable AI SDK 中。如果需要，您可以为特定 Vertex Explainable AI 算法调整配置。例如，您可以更改用于采样 Shapley 的路径数量，也可以更改用于积分梯度或 XRAI 的步数。

最后，使用数据实例调用 explain()，并直观呈现特征归因。

您可以使用以下示例代码，在用户管理的笔记本实例中获取 TensorFlow 2 模型的本地说明：

# This sample code only works within a user-managed notebooks instance.
import explainable_ai_sdk
from explainable_ai_sdk.metadata.tf.v2 import SavedModelMetadataBuilder

metadata_and_model_builder = SavedModelMetadataBuilder('LOCAL_PATH_TO_MODEL')
metadata_and_model_builder.save_model_with_metadata('LOCAL_PATH_TO_SAVED_MODEL_ARTIFACT')

# Load the model and adjust the configuration for Explainable AI parameters
num_paths = 20
model_artifact_with_metadata = explainable_ai_sdk.load_model_from_local_path(
    'LOCAL_PATH_TO_SAVED_MODEL_ARTIFACT',
    explainable_ai_sdk.SampledShapleyConfig(num_paths))

# Explainable AI supports generating explanations for multiple predictions
instances = [{feature_a: 10, feature_2: 100,...}, ... ]
explanations = model_artifact_with_metadata.explain(instances)
explanations[0].visualize_attributions()

如需详细了解 Explainable AI SDK（包括不同的配置和参数），请参阅 GitHub 上 SDK 的 config.py 文件。详细了解 Vertex AI Workbench 用户管理的笔记本。

后续步骤

根据您收到的说明，了解如何调整 Model 以改进说明。
试用展示了表格数据版或图片数据版 Vertex Explainable AI 的示例笔记本。