使用 ONNX 格式的 scikit-learn 模型進行預測

---

本教學課程說明如何匯入以 scikit-learn 訓練的開放式神經網路交換 (ONNX) 模型。您將模型匯入 BigQuery 資料集，並使用 SQL 查詢進行預測。

ONNX 提供統一格式，可用於表示任何機器學習 (ML) 架構。BigQuery ML 支援 ONNX，因此您可以執行下列操作：

• 使用您偏好的架構訓練模型。
• 將模型轉換為 ONNX 模型格式。
• 將 ONNX 模型匯入 BigQuery，並使用 BigQuery ML 進行預測。

目標

• 使用 scikit-learn 建立及訓練模型。
• 使用 sklearn-onnx 將模型轉換為 ONNX 格式。
• 使用 CREATE MODEL 陳述式將 ONNX 模型匯入 BigQuery。
• 使用 ML.PREDICT 函式，透過匯入的 ONNX 模型進行預測。

費用

在本文件中，您會使用 Google Cloud的下列計費元件：

• BigQuery
• BigQuery ML
• Cloud Storage

如要根據預測用量估算費用，請使用 Pricing Calculator。

初次使用 Google Cloud 的使用者可能符合免費試用資格。

完成本文所述工作後，您可以刪除已建立的資源，避免繼續計費。詳情請參閱清除所用資源一節。

事前準備

Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

1. Make sure that billing is enabled for your Google Cloud project.

2. Enable the BigQuery and Cloud Storage APIs.

   Enable the APIs

3. 請確認您具備必要權限，可以執行本文中的工作。

必要的角色

如果您建立新專案，您就是專案擁有者，並會獲得完成本教學課程所需的所有 IAM 權限。

如果您使用現有專案，請按照下列步驟操作。

Make sure that you have the following role or roles on the project:

• BigQuery Studio Admin (roles/bigquery.studioAdmin)
• Storage Object Creator (roles/storage.objectCreator)

Check for the roles

1. In the Google Cloud console, go to the IAM page.

   Go to IAM
2. Select the project.

3. In the Principal column, find all rows that identify you or a group that you're included in. To learn which groups you're included in, contact your administrator.

4. For all rows that specify or include you, check the Role column to see whether the list of roles includes the required roles.

Grant the roles

1. In the Google Cloud console, go to the IAM page.

   前往「IAM」頁面
2. 選取專案。
3. 按一下「授予存取權」。

4. 在「New principals」(新增主體) 欄位中，輸入您的使用者 ID。 這通常是 Google 帳戶的電子郵件地址。

5. 在「Select a role」(選取角色) 清單中，選取角色。
6. 如要授予其他角色，請按一下 「新增其他角色」，然後新增每個其他角色。
7. 按一下 [Save]。

如要進一步瞭解 BigQuery 中的 IAM 權限，請參閱 IAM 權限。

選用：訓練模型並轉換為 ONNX 格式

下列程式碼範例說明如何使用 scikit-learn 訓練分類模型，以及如何將產生的管線轉換為 ONNX 格式。本教學課程使用預先建構的範例模型，該模型儲存在 gs://cloud-samples-data/bigquery/ml/onnx/pipeline_rf.onnx。如果您使用範例模型，則不必完成這些步驟。

使用 scikit-learn 訓練分類模型

使用下列範例程式碼，在 Iris 資料集上建立及訓練 scikit-learn 管道。如需安裝及使用 scikit-learn 的操作說明，請參閱 scikit-learn 安裝指南。

import numpy
from sklearn.datasets import load_iris
from sklearn.pipeline import Pipeline
from sklearn.preprocessing import StandardScaler
from sklearn.ensemble import RandomForestClassifier

data = load_iris()
X = data.data[:, :4]
y = data.target

ind = numpy.arange(X.shape[0])
numpy.random.shuffle(ind)
X = X[ind, :].copy()
y = y[ind].copy()

pipe = Pipeline([('scaler', StandardScaler()),
                ('clr', RandomForestClassifier())])
pipe.fit(X, y)

注意： scikit-learn 管線可讓您納入其他程式庫 (例如 LightGBM 和 XGBoost) 的模型，這些模型可透過 sklearn-onnx 轉換為 ONNX。詳情請參閱「轉換管道」和「使用其他程式庫的轉換器」。

將管道轉換為 ONNX 模型

在 sklearn-onnx 中使用下列程式碼範例，將 scikit-learn 管道轉換為名為 pipeline_rf.onnx 的 ONNX 模型。

from skl2onnx import convert_sklearn
from skl2onnx.common.data_types import FloatTensorType

# Disable zipmap as it is not supported in BigQuery ML.
options = {id(pipe): {'zipmap': False}}

# Define input features. scikit-learn does not store information about the
# training dataset. It is not always possible to retrieve the number of features
# or their types. That's why the function needs another argument called initial_types.
initial_types = [
   ('sepal_length', FloatTensorType([None, 1])),
   ('sepal_width', FloatTensorType([None, 1])),
   ('petal_length', FloatTensorType([None, 1])),
   ('petal_width', FloatTensorType([None, 1])),
]

# Convert the model.
model_onnx = convert_sklearn(
   pipe, 'pipeline_rf', initial_types=initial_types, options=options
)

# And save.
with open('pipeline_rf.onnx', 'wb') as f:
 f.write(model_onnx.SerializeToString())

將 ONNX 模型上傳至 Cloud Storage

儲存模型後，請按照下列步驟操作：

• 建立 Cloud Storage 值區來儲存模型。
• 將 ONNX 模型上傳至 Cloud Storage 值區。

建立資料集

建立 BigQuery 資料集來儲存機器學習模型。

控制台

1. 前往 Google Cloud 控制台的「BigQuery」頁面。

   前往 BigQuery 頁面

2. 在「Explorer」窗格中，按一下專案名稱。

3. 依序點按 「View actions」(查看動作) >「Create dataset」(建立資料集)。

   

4. 在「建立資料集」頁面中，執行下列操作：

   • 在「Dataset ID」(資料集 ID) 中輸入 bqml_tutorial。

   • 針對「Location type」(位置類型) 選取「Multi-region」(多區域)，然後選取「US (multiple regions in United States)」(us (多個美國區域))。

   • 其餘設定請保留預設狀態，然後按一下「Create dataset」(建立資料集)。

bq

如要建立新的資料集，請使用 bq mk 指令搭配 --location 旗標。如需可能的完整參數清單，請參閱 bq mk --dataset 指令參考資料。

1. 建立名為「bqml_tutorial」的資料集，並將資料位置設為「US」，以及說明設為「BigQuery ML tutorial dataset」：

   bq --location=US mk -d \
    --description "BigQuery ML tutorial dataset." \
    bqml_tutorial

   這個指令採用 -d 捷徑，而不是使用 --dataset 旗標。如果您省略 -d 和 --dataset，該指令預設會建立資料集。

2. 確認資料集已建立完成：

   bq ls

API

請呼叫 datasets.insert 方法，搭配已定義的資料集資源。

{
  "datasetReference": {
     "datasetId": "bqml_tutorial"
  }
}

BigQuery DataFrames

在嘗試這個範例之前，請按照使用 BigQuery DataFrames 的 BigQuery 快速入門導覽課程中的 BigQuery DataFrames 設定說明操作。 詳情請參閱 BigQuery DataFrames 參考說明文件。

如要向 BigQuery 進行驗證，請設定應用程式預設憑證。 詳情請參閱「為本機開發環境設定 ADC」。

import google.cloud.bigquery

bqclient = google.cloud.bigquery.Client()
bqclient.create_dataset("bqml_tutorial", exists_ok=True)

將 ONNX 模型匯入 BigQuery

下列步驟說明如何使用 CREATE MODEL 陳述式，從 Cloud Storage 匯入範例 ONNX 模型。

如要將 ONNX 模型匯入資料集，請選取下列其中一個選項：

控制台

1. 前往 Google Cloud 控制台的「BigQuery Studio」頁面。

   前往 BigQuery Studio

2. 在查詢編輯器中輸入下列 CREATE MODEL 陳述式。

    CREATE OR REPLACE MODEL `bqml_tutorial.imported_onnx_model`
     OPTIONS (MODEL_TYPE='ONNX',
      MODEL_PATH='BUCKET_PATH')

   請將 BUCKET_PATH 改成您上傳至 Cloud Storage 的模型路徑。如果您使用範例模型，請將 BUCKET_PATH 替換為下列值：gs://cloud-samples-data/bigquery/ml/onnx/pipeline_rf.onnx。

   作業完成後，您會看到類似以下的訊息：Successfully created model named imported_onnx_model。

   新模型會顯示在「資源」面板中。模型會以模型圖示來表示： 在「資源」面板中選取新模型，「查詢編輯器」旁就會顯示該模型的相關資訊。

   

bq

1. 輸入下列 CREATE MODEL 陳述式，從 Cloud Storage 匯入 ONNX 模型。

   bq query --use_legacy_sql=false \
   "CREATE OR REPLACE MODEL
   `bqml_tutorial.imported_onnx_model`
   OPTIONS
   (MODEL_TYPE='ONNX',
     MODEL_PATH='BUCKET_PATH')"

   請將 BUCKET_PATH 改成您上傳至 Cloud Storage 的模型路徑。如果您使用範例模型，請將 BUCKET_PATH 替換為下列值：gs://cloud-samples-data/bigquery/ml/onnx/pipeline_rf.onnx。

   作業完成後，您會看到類似以下的訊息：Successfully created model named imported_onnx_model。

2. 匯入模型後，請確認模型是否顯示在資料集中。

   bq ls bqml_tutorial

   輸出結果會與下列內容相似：

   tableId               Type
   --------------------- -------
   imported_onnx_model  MODEL

BigQuery DataFrames

在嘗試這個範例之前，請按照使用 BigQuery DataFrames 的 BigQuery 快速入門導覽課程中的 BigQuery DataFrames 設定說明操作。 詳情請參閱 BigQuery DataFrames 參考說明文件。

如要向 BigQuery 進行驗證，請設定應用程式預設憑證。 詳情請參閱「為本機開發環境設定 ADC」。

使用 ONNXModel 物件匯入模型。

import bigframes
from bigframes.ml.imported import ONNXModel

bigframes.options.bigquery.project = PROJECT_ID
# You can change the location to one of the valid locations: https://cloud.google.com/bigquery/docs/locations#supported_locations
bigframes.options.bigquery.location = "US"

imported_onnx_model = ONNXModel(
    model_path="gs://cloud-samples-data/bigquery/ml/onnx/pipeline_rf.onnx"
)

如要進一步瞭解如何將 ONNX 模型匯入 BigQuery，包括格式和儲存空間需求，請參閱匯入 ONNX 模型的 CREATE MODEL 陳述式。

使用匯入的 ONNX 模型進行預測

匯入 ONNX 模型後，您可以使用 ML.PREDICT 函式，透過模型進行預測。

下列步驟中的查詢會使用 imported_onnx_model，根據 ml_datasets 公開資料集 iris 資料表中的輸入資料進行預測。ONNX 模型預期輸入四個 FLOAT 值：

• sepal_length
• sepal_width
• petal_length
• petal_width

這些輸入內容與您將模型轉換為 ONNX 格式時定義的 initial_types 相符。

輸出內容包括 label 和 probabilities 資料欄，以及輸入資料表中的資料欄。label 代表預測的類別標籤。 probabilities 是機率陣列，代表每個類別的機率。

如要使用匯入的 TensorFlow 模型進行預測，請選擇下列其中一個選項：

控制台

1. 前往「BigQuery Studio」頁面。

   前往 BigQuery Studio

2. 在查詢編輯器中，輸入使用 ML.PREDICT 函式的查詢。

   SELECT *
     FROM ML.PREDICT(MODEL `bqml_tutorial.imported_onnx_model`,
       (
       SELECT * FROM `bigquery-public-data.ml_datasets.iris`
       )
   )

   查詢結果類似於下列內容：

   

bq

執行使用 ML.PREDICT 的查詢。

bq query --use_legacy_sql=false \
'SELECT *
FROM ML.PREDICT(
MODEL `example_dataset.imported_onnx_model`,
(SELECT * FROM `bigquery-public-data.ml_datasets.iris`))'

BigQuery DataFrames

在嘗試這個範例之前，請按照使用 BigQuery DataFrames 的 BigQuery 快速入門導覽課程中的 BigQuery DataFrames 設定說明操作。 詳情請參閱 BigQuery DataFrames 參考說明文件。

如要向 BigQuery 進行驗證，請設定應用程式預設憑證。 詳情請參閱「為本機開發環境設定 ADC」。

使用 predict 函式執行遠端模型。

import bigframes.pandas as bpd

df = bpd.read_gbq("bigquery-public-data.ml_datasets.iris")
predictions = imported_onnx_model.predict(df)
predictions.peek(5)

結果大致如下：

清除所用資源

如要避免系統向您的 Google Cloud 帳戶收取本教學課程中所用資源的相關費用，請刪除含有該項資源的專案，或者保留專案但刪除個別資源。

刪除專案

控制台

注意：刪除專案會造成以下結果：

• 專案中的所有內容都會遭到刪除。 如果您使用現有專案來進行本文中的工作，刪除專案將一併刪除其中已完成的所有工作。
• 自訂的專案 ID 會消失。當您之前建立這個專案時，可能建立了想要在日後使用的自訂專案 ID。如要保留使用該專案 ID 的網址 (例如 appspot.com 網址)，請刪除在該專案中選取的資源，而不是刪除整個專案。

如果打算探索多種架構、教學課程或快速入門導覽課程，重複使用專案有助於避免超出專案配額限制。

1. In the Google Cloud console, go to the Manage resources page.

   Go to Manage resources

2. In the project list, select the project that you want to delete, and then click Delete.
3. In the dialog, type the project ID, and then click Shut down to delete the project.

gcloud

注意：刪除專案會造成以下結果：

• 專案中的所有內容都會遭到刪除。 如果您使用現有專案來進行本文中的工作，刪除專案將一併刪除其中已完成的所有工作。
• 自訂的專案 ID 會消失。當您之前建立這個專案時，可能建立了想要在日後使用的自訂專案 ID。如要保留使用該專案 ID 的網址 (例如 appspot.com 網址)，請刪除在該專案中選取的資源，而不是刪除整個專案。

如果打算探索多種架構、教學課程或快速入門導覽課程，重複使用專案有助於避免超出專案配額限制。

Delete a Google Cloud project:

gcloud projects delete PROJECT_ID

刪除個別資源

或者，如要移除本教學課程中使用的個別資源，請執行下列操作：

1. 刪除匯入的模型。

2. 選用：刪除資料集。

後續步驟

• 如要進一步瞭解如何匯入 ONNX 模型，請參閱ONNX 模型的 CREATE MODEL 陳述式。
• 如要進一步瞭解可用的 ONNX 轉換器和教學課程，請參閱「轉換為 ONNX 格式」一文。
• 如需 BigQuery ML 的總覽，請參閱 BigQuery ML 簡介。
• 如要開始使用 BigQuery ML，請參閱在 BigQuery ML 中建立機器學習模型。