Explainable AI para modelos de ML do BigQuery

O Explainable AI é um conjunto de técnicas usadas para entender as previsões e decisões dos seus modelos de IA. O BigQuery ML e a Vertex AI têm ofertas de Explainable AI que oferecem explicações baseadas em atributos.

Nesta página, você entenderá se é possível usar o Explainable AI em modelos de ML do BigQuery registrados com o Model Registry.

O BigQuery ML é compatível com Explainable AI em dois frameworks separados e, portanto, é compatível com diferentes tipos de modelo. Nesta página, descrevemos quais tipos de modelo são compatíveis com a integração do Model Registry. Para saber mais sobre a Explainable AI baseada no BigQuery ML, consulte Como executar XAI em modelos no BigQuery ML.

Tipos de modelos compatíveis com o Explainable AI na Vertex AI

A Explainable AI está disponível na Vertex AI para um subconjunto de modelos de aprendizado supervisionado que podem ser exportados. Os tipos de modelo que não estão na lista a seguir poderão oferecer suporte à Explainable AI se você editar manualmente os metadados deles. Para mais detalhes, consulte Introdução à Vertex Explainable AI.

Tipo de modelo Método do Explainable AI
dnn_classifier Gradientes integrados
dnn_regressor Gradientes integrados
dnn_linear_combined_classifier Gradientes integrados
dnn_linear_combined_regressor Gradientes integrados
boosted_tree_regressor Amostragem de Shapley
boosted_tree_classifier Amostragem de Shapley
random_forest_regressor Amostragem de Shapley
random_forest_classifier Amostragem de Shapley

Consulte Métodos de atribuição de recurso para saber mais sobre esses métodos.

Ativar a Explainable AI no Model Registry

Quando seu modelo de ML do BigQuery estiver registrado no Model Registry, e se for um tipo de modelo compatível com a Explainable AI, será possível ativar a Explainable AI no modelo ao implantar em um endpoint. Quando você registra seu modelo do BigQuery ML, todos os metadados associados são preenchidos para você.

  1. Registre seu modelo do BigQuery ML no Model Registry.
  2. Acesse a página Model Registry na seção "BigQuery ML" no console do Google Cloud.
  3. No Model Registry, selecione o modelo do BigQuery ML e clique na versão do modelo para redirecionar à página de detalhes do modelo.
  4. Selecione Mais ações na versão do modelo.
  5. Clique em Implantar no endpoint.
  6. Defina seu endpoint: crie um nome de endpoint e clique em continuar.
  7. Selecione um tipo de máquina, por exemplo, n1-standard-2.
  8. Em Configurações do modelo, na seção de geração de registros, marque a caixa de seleção para ativar as opções de explicação.
  9. Clique em Concluído e depois em Continuar para implantar no endpoint.

Ativar XAI no console

Para saber como usar o XAI nos seus modelos do Model Registry, consulte Receber uma explicação on-line usando o modelo implantado. Para saber mais sobre o XAI na Vertex AI, consulte Acessar explicações.

Saiba mais