搭配 BigQuery 使用 Colab Enterprise Data Science Agent

Colab Enterprise 和 BigQuery 的數據資料學虛擬服務專員 (DSA) 可讓您自動執行探索性資料分析、執行機器學習工作，以及在 Colab Enterprise 筆記本中提供洞察資料。

事前準備

  1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  3. Verify that billing is enabled for your Google Cloud project.

  4. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  5. Verify that billing is enabled for your Google Cloud project.

  6. Enable the BigQuery, Vertex AI, Dataform, and Compute Engine APIs.

    Enable the APIs

    新專案會自動啟用 BigQuery API。

    7. 如果您是 BigQuery 中的 Colab Enterprise 新手，請參閱「建立筆記本」頁面的設定步驟。

    限制

    • 資料科學代理程式支援下列資料來源：
      • CSV 檔案
      • BigQuery 資料表
    • 資料科學代理產生的程式碼只會在筆記本的執行階段中執行。
    • 如果專案已啟用 VPC Service Controls，則不支援使用 Data Science Agent。
    • 首次執行 Data Science Agent 時，可能會出現約五到十分鐘的延遲。每個專案在初始設定期間只會發生一次。

    何時使用資料科學虛擬服務專員

    資料科學代理可協助您執行各種工作，包括探索性資料分析，以及生成機器學習預測和預報。動態搜尋廣告可用於：

    • 產生計畫：產生及修改計畫，使用 Python、SQL 和 BigQuery DataFrames 等常見工具完成特定工作。
    • 資料探索：探索資料集以瞭解其結構、找出潛在問題 (例如遺漏值和離群值)，並使用 Python 或 SQL 檢查重要變數的分布情形。
    • 資料清理：清理資料。舉例來說，您可以移除離群值資料點。
    • 資料重整：使用單一熱編碼或標籤編碼等技術，將類別特徵轉換為數值表示法，或使用 BigQuery 特徵轉換工具。 建立新的分析功能。
    • 資料分析：分析不同變數之間的關係。計算數值特徵之間的關聯性，並探索類別特徵的分布情形。找出資料中的模式和趨勢。
    • 資料視覺化：建立直方圖、盒鬚圖、散布圖和長條圖等視覺化圖表，呈現個別變數的分布情形和變數間的關係。您也可以在 Python 中，為儲存在 BigQuery 中的資料表建立視覺化效果。
    • 特徵工程：從經過清理的資料集設計新特徵。
    • 資料分割：將經過設計的資料集分割為訓練、驗證和測試資料集。
    • 模型訓練：使用 pandas DataFrame (X_train、y_train)、BigQuery DataFrames 中的訓練資料，或使用 BigQuery ML CREATE MODEL 陳述式和 BigQuery 表格，訓練模型。
    • 模型最佳化：使用驗證集將模型最佳化。 探索 DecisionTreeRegressor 和 RandomForestRegressor 等替代模型，並比較其效能。
    • 模型評估：評估測試資料集上效能最佳的模型，測試資料集儲存在 pandas DataFrame 或 BigQuery DataFrame 中。使用 BigQuery ML 模型評估函式評估模型品質、比較模型，或預測模型效能。
    • 模型推論：使用 BigQuery ML 推論函式，對 BigQuery ML 訓練的模型、匯入的模型和遠端模型執行推論作業。或者，使用 BigFrames model.predict() 方法對未曾見過的資料進行預測。

    在 BigQuery 中使用資料科學代理程式

    下列步驟說明如何在 BigQuery 中使用資料科學代理程式。

    1. 建立或開啟 Colab Enterprise 筆記本。

    2. 上傳 CSV 檔案、從資料表選取器選擇一或多個 BigQuery 資料表，或在提示中參照 BigQuery 資料表。

    3. 輸入提示，說明要執行的資料分析或要建構的原型。Data Science Agent 的預設行為是使用 sklearn 等開放原始碼程式庫產生 Python 程式碼，以完成複雜的機器學習工作。如要使用特定工具，請在提示中加入下列關鍵字：

      • 如要使用 BigQuery ML，請加入「SQL」關鍵字。
      • 如要使用「BigQuery DataFrames」，請指定「BigFrames」或「BigQuery DataFrames」關鍵字。

      如需協助，請參閱提示範例。

    4. 查看結果。

    分析 CSV 檔案

    如要在 BigQuery 中使用 Data Science Agent 分析 CSV 檔案，請按照下列步驟操作。

    1. 前往「BigQuery」頁面

      前往「BigQuery」

    2. 在 BigQuery Studio 歡迎頁面中，按一下「建立新項目」下方的「筆記本」。

      或者，在分頁列中，按一下 + 圖示旁的下拉式箭頭 ，然後依序點選「筆記本」> 空白筆記本。

    3. 在工具列中，按一下「spark 切換 Gemini」按鈕，開啟對話方塊。

    4. 上傳 CSV 檔案。

      1. 在對話方塊中，按一下「新增檔案」。

      2. 視需要授權 Google 帳戶。

      3. 在動作窗格中，按一下 「上傳檔案」。

      4. 瀏覽至 CSV 檔案所在位置，然後按一下「開啟」。

      5. 按一下檔案名稱旁邊的「更多動作」 圖示，然後選擇「新增至 Gemini」。

    5. 在對話視窗中輸入提示。例如：Identify trends and anomalies in this file.

    6. 按一下 「傳送」。結果會顯示在聊天視窗中。

    7. 你可以要求專員變更計畫，也可以按一下「接受並執行」來執行計畫。計畫執行時，筆記本中會顯示生成的程式碼和文字。按一下「取消」即可停止。

    分析 BigQuery 資料表

    如要分析 BigQuery 資料表，請在資料表選取器中選擇一或多個資料表，或在提示中提供資料表參照。

    1. 前往「BigQuery」頁面

      前往「BigQuery」

    2. 在 BigQuery Studio 歡迎頁面中，按一下「建立新項目」下方的「筆記本」。

      或者，在分頁列中，按一下 + 圖示旁的下拉式箭頭 ，然後依序點選「筆記本」> 空白筆記本。

    3. 在工具列中，按一下「spark 切換 Gemini」按鈕，開啟對話方塊。

    4. 在對話視窗中輸入提示。

    5. 使用表格選取器選擇一或多個表格：

      1. 依序點選 「新增至 Gemini」> BigQuery 資料表。

      2. 在「BigQuery tables」(BigQuery 資料表) 視窗中，選取專案中的一或多個資料表。您可以在專案中搜尋表格，並使用搜尋列篩選表格。

    6. 您也可以直接在提示中參照 BigQuery 資料表。例如：「請協助我執行探索性資料分析，並取得這份表格中資料的洞察資訊： project_id:dataset.table。」

      更改下列內容：

      • project_id：您的專案 ID
      • dataset：包含您要分析之資料表的資料集名稱
      • table：您要分析的資料表名稱

    7. 按一下 「傳送」。

      結果會顯示在聊天視窗中。

    8. 你可以要求專員變更計畫，也可以按一下「接受並執行」來執行計畫。計畫執行時，筆記本中會顯示生成的程式碼和文字。如要執行方案中的其他步驟，您可能需要再次按一下「接受並執行」。按一下「取消」即可停止。

    提示範例

    無論您使用的提示有多複雜，數據資料學虛擬服務專員都會產生計畫，您可以根據需求調整。

    以下範例說明動態搜尋廣告可使用的提示類型。

    Python 提示

    除非在提示中使用「BigQuery ML」或「SQL」等特定關鍵字，否則系統預設會生成 Python 程式碼。

    • 使用 K 近鄰 (KNN) 機器學習演算法，調查並填補遺漏值。
    • 根據經驗程度繪製薪資圖。使用 experience_level 欄分組薪資，並為每個群組建立盒鬚圖，顯示 salary_in_usd 欄中的值。
    • 使用 XGBoost 演算法建立模型，判斷特定水果的 class 變數。將資料分成訓練和測試資料集，產生模型並判斷模型的準確度。建立混淆矩陣，顯示每個類別的預測結果，包括所有正確和不正確的預測。
    • 預測未來六個月的 target_variable filename.csv。

    SQL 和 BigQuery ML 提示

    • 使用 BigQuery SQL 建立及評估分類模型。bigquery-public-data.ml_datasets.census_adult_income
    • 請使用 SQL，根據 bigquery-public-data.google_analytics_sample.ga_sessions_* 預測我網站下個月的流量。然後繪製歷史值和預測值。
    • 使用 KMeans 模型將類似的顧客分組，建立目標市場廣告活動。使用三項特徵進行分群。接著，建立一系列 2D 散佈圖，將結果視覺化。使用表格 bigquery-public-data.ml_datasets.census_adult_income。
    • 使用 bigquery-public-data.imdb.reviews 中的評論內容，在 BigQuery ML 中生成文字嵌入。

    如需支援的模型和機器學習工作清單，請參閱 BigQuery ML 說明文件。

    DataFrame 提示

    • 為 project_id:dataset.table 中的資料建立 pandas DataFrame。分析資料中的空值，然後使用圖表類型繪製每個資料欄的分布圖。使用小提琴圖表示測量值，並使用長條圖表示類別。
    • 讀取 filename.csv 並建構 DataFrame。對 DataFrame 執行分析，判斷如何處理值。舉例來說，是否有需要替換或移除的遺漏值， 或是需要處理的重複資料列。使用資料檔案，判斷每個城市地點的美元投資金額分布。使用長條圖繪製前 20 項結果，以顯示結果 (依位置與平均投資金額 (美元) 降序排列)。
    • 使用 BigQuery DataFrames 建立及評估 project_id:dataset.table 的分類模型。
    • 使用 BigQuery DataFrames 在 project_id:dataset.table 上建立時間序列預測模型，並以視覺化方式呈現模型評估結果。
    • 使用 BigQuery DataFrames，以圖表呈現 BigQuery 資料表 project_id:dataset.table 中過去一年的銷售數據。
    • 使用 BigQuery DataFrames，從 bigquery-public_data.ml_datasets.penguins 資料表找出最能預測企鵝物種的特徵。

    關閉 Gemini in BigQuery

    如要為 Google Cloud 專案停用 Gemini in BigQuery，管理員必須停用 Gemini for Google Cloud API。請參閱「停用服務」。

    如要為特定使用者停用 Gemini in BigQuery，管理員必須撤銷該名使用者的「Gemini for Google Cloud 使用者」 (roles/cloudaicompanion.user) 角色。詳情請參閱撤銷單一 IAM 角色。

    定價

    在預先發布期間，您需要支付在筆記本執行階段執行程式碼的費用，以及使用的任何 BigQuery 運算單元費用。詳情請參閱 Colab Enterprise 定價。

    支援的地區

    如要查看 Colab Enterprise 資料科學代理程式支援的地區，請參閱「位置」。