使用 ML.PROCESS_DOCUMENT 函式處理文件

本文說明如何搭配遠端模型使用 ML.PROCESS_DOCUMENT 函式,從物件資料表中的文件擷取實用洞察資料。

支援的地區

您必須在 USEU 多區域中,建立本程序使用的遠端模型。您必須在與遠端模型相同的區域中執行 ML.PROCESS_DOCUMENT 函式。

必要的角色

如要建立遠端模型及處理文件,您需要在專案層級具備下列 Identity and Access Management (IAM) 角色:

  • 建立文件處理器:Document AI 編輯器 (roles/documentai.editor)
  • 建立及使用 BigQuery 資料集、資料表和模型: BigQuery 資料編輯者 (roles/bigquery.dataEditor)
  • 建立、委派及使用 BigQuery 連線: BigQuery 連線管理員 (roles/bigquery.connectionsAdmin)

    如果沒有設定預設連線,您可以在執行 CREATE MODEL 陳述式時建立並設定連線。如要執行這項操作,您必須具備專案的 BigQuery 管理員角色 (roles/bigquery.admin)。詳情請參閱「設定預設連線」。

  • 將權限授予連線的服務帳戶:專案 IAM 管理員 (roles/resourcemanager.projectIamAdmin)

  • 建立 BigQuery 工作:BigQuery 工作使用者 (roles/bigquery.jobUser)

這些預先定義的角色具備執行本文中工作所需的權限。如要查看確切的必要權限,請展開「必要權限」部分:

所需權限

  • 建立資料集:bigquery.datasets.create
  • 建立、委派及使用連線: bigquery.connections.*
  • 設定服務帳戶權限: resourcemanager.projects.getIamPolicyresourcemanager.projects.setIamPolicy
  • 建立模型並執行推論:
    • bigquery.jobs.create
    • bigquery.models.create
    • bigquery.models.getData
    • bigquery.models.updateData
    • bigquery.models.updateMetadata
  • 建立物件資料表: bigquery.tables.createbigquery.tables.update
  • 建立文件處理器:
    • documentai.processors.create
    • documentai.processors.update
    • documentai.processors.delete

您或許還可透過自訂角色或其他預先定義的角色取得這些權限。

事前準備

  1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.
  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  3. Verify that billing is enabled for your Google Cloud project.

  4. Enable the BigQuery, BigQuery Connection API, and Document AI APIs.

    Enable the APIs

  5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  6. Verify that billing is enabled for your Google Cloud project.

  7. Enable the BigQuery, BigQuery Connection API, and Document AI APIs.

    Enable the APIs

  8. 建立處理器

    在 Document AI 中建立處理器來處理文件。處理器必須是支援的類型

    建立資料集

    您必須在相同區域中建立資料集、連線和文件處理器。

    建立 BigQuery 資料集來存放資源:

    控制台

    1. 前往 Google Cloud 控制台的「BigQuery」頁面。

      前往 BigQuery 頁面

    2. 在「Explorer」窗格中,按一下專案名稱。

    3. 依序點按 「View actions」(查看動作) >「Create dataset」(建立資料集)

    4. 在「建立資料集」頁面中,執行下列操作:

      • 在「Dataset ID」(資料集 ID) 部分,輸入資料集的名稱。

      • 在「位置類型」部分,選取資料集的位置。

      • 點選「建立資料集」

    bq

    1. 如要建立新的資料集,請使用 bq mk 指令搭配 --location 旗標:

      bq --location=LOCATION mk -d DATASET_ID

      更改下列內容:

      • LOCATION:資料集的位置
      • DATASET_ID 是您要建立的資料集 ID。
    2. 確認資料集已建立完成:

      bq ls

    建立連線

    如果已設定預設連線,或您具備 BigQuery 管理員角色,則可略過這個步驟。

    建立供遠端模型使用的Cloud 資源連線,並取得連線的服務帳戶。在與上一步建立的資料集相同的位置中建立連線。

    選取下列選項之一:

    主控台

    1. 前往「BigQuery」頁面

      前往「BigQuery」

    2. 在「Explorer」窗格中,按一下 「新增資料」

      「新增資料」UI 元素。

      「新增資料」對話方塊隨即開啟。

    3. 在「依條件篩選」窗格的「資料來源類型」部分,選取「商務應用程式」

      或者,您也可以在「Search for data sources」(搜尋資料來源) 欄位中輸入 Vertex AI

    4. 在「精選資料來源」部分,按一下「Vertex AI」

    5. 按一下「Vertex AI Models: BigQuery Federation」解決方案資訊卡。

    6. 在「連線類型」清單中,選取「Vertex AI 遠端模型、遠端函式和 BigLake (Cloud 資源)」

    7. 在「連線 ID」欄位中,輸入連線名稱。

    8. 點選「建立連線」

    9. 按一下「前往連線」

    10. 在「連線資訊」窗格中,複製服務帳戶 ID,以供後續步驟使用。

    bq

    1. 在指令列環境中建立連線:

      bq mk --connection --location=REGION --project_id=PROJECT_ID \
          --connection_type=CLOUD_RESOURCE CONNECTION_ID

      --project_id 參數會覆寫預設專案。

      更改下列內容:

      • REGION:您的連線區域
      • PROJECT_ID:您的 Google Cloud 專案 ID
      • CONNECTION_ID:連線的 ID

      建立連線資源時,BigQuery 會建立專屬的系統服務帳戶,並將其與連線建立關聯。

      疑難排解:如果收到下列連線錯誤訊息,請更新 Google Cloud SDK

      Flags parsing error: flag --connection_type=CLOUD_RESOURCE: value should be one of...
      
    2. 擷取並複製服務帳戶 ID,以供後續步驟使用:

      bq show --connection PROJECT_ID.REGION.CONNECTION_ID

      輸出結果會與下列內容相似:

      name                          properties
      1234.REGION.CONNECTION_ID     {"serviceAccountId": "connection-1234-9u56h9@gcp-sa-bigquery-condel.iam.gserviceaccount.com"}
      

    Terraform

    使用 google_bigquery_connection 資源。

    如要向 BigQuery 進行驗證,請設定應用程式預設憑證。詳情請參閱「設定用戶端程式庫的驗證機制」。

    下列範例會在 US 地區中建立名為 my_cloud_resource_connection 的 Cloud 資源連線:

    
    # This queries the provider for project information.
    data "google_project" "default" {}
    
    # This creates a cloud resource connection in the US region named my_cloud_resource_connection.
    # Note: The cloud resource nested object has only one output field - serviceAccountId.
    resource "google_bigquery_connection" "default" {
      connection_id = "my_cloud_resource_connection"
      project       = data.google_project.default.project_id
      location      = "US"
      cloud_resource {}
    }

    如要在 Google Cloud 專案中套用 Terraform 設定,請完成下列各節的步驟。

    準備 Cloud Shell

    1. 啟動 Cloud Shell
    2. 設定要套用 Terraform 設定的預設 Google Cloud 專案。

      每項專案只需要執行一次這個指令,且可以在任何目錄中執行。

      export GOOGLE_CLOUD_PROJECT=PROJECT_ID

      如果您在 Terraform 設定檔中設定明確值,環境變數就會遭到覆寫。

    準備目錄

    每個 Terraform 設定檔都必須有自己的目錄 (也稱為根模組)。

    1. Cloud Shell 中建立目錄,並在該目錄中建立新檔案。檔案名稱的副檔名必須是 .tf,例如 main.tf。在本教學課程中,這個檔案稱為 main.tf
      mkdir DIRECTORY && cd DIRECTORY && touch main.tf
    2. 如果您正在學習教學課程,可以複製每個章節或步驟中的範例程式碼。

      將範例程式碼複製到新建立的 main.tf

      視需要從 GitHub 複製程式碼。如果 Terraform 程式碼片段是端對端解決方案的一部分,建議您使用這個方法。

    3. 查看並修改範例參數,套用至您的環境。
    4. 儲存變更。
    5. 初始化 Terraform。每個目錄只需執行一次這項操作。
      terraform init

      如要使用最新版 Google 供應商,請加入 -upgrade 選項:

      terraform init -upgrade

    套用變更

    1. 檢查設定,確認 Terraform 即將建立或更新的資源符合您的預期:
      terraform plan

      視需要修正設定。

    2. 執行下列指令,並在提示中輸入 yes,即可套用 Terraform 設定:
      terraform apply

      等待 Terraform 顯示「Apply complete!」訊息。

    3. 開啟 Google Cloud 專案即可查看結果。在 Google Cloud 控制台中,前往 UI 中的資源,確認 Terraform 已建立或更新這些資源。

    將存取權授予服務帳戶

    選取下列選項之一:

    主控台

    1. 前往「IAM & Admin」(IAM 與管理) 頁面。

      前往「IAM & Admin」(IAM 與管理)

    2. 按一下「授予存取權」

      「新增主體」對話方塊隨即開啟。

    3. 在「新增主體」欄位,輸入先前複製的服務帳戶 ID。

    4. 在「Select a role」(選取角色) 欄位中,依序選取「Document AI」和「Document AI Viewer」(Document AI 檢視者)

    5. 按一下 [Add another role] (新增其他角色)

    6. 在「Select a role」(請選擇角色) 欄位中,依序選取「Cloud Storage」和「Storage Object Viewer」(Storage 物件檢視者)

    7. 按一下 [儲存]

    gcloud

    使用 gcloud projects add-iam-policy-binding 指令

    gcloud projects add-iam-policy-binding 'PROJECT_NUMBER' --member='serviceAccount:MEMBER' --role='roles/documentai.viewer' --condition=None
    gcloud projects add-iam-policy-binding 'PROJECT_NUMBER' --member='serviceAccount:MEMBER' --role='roles/storage.objectViewer' --condition=None
    

    取代下列項目:

    • PROJECT_NUMBER:您的專案編號。
    • MEMBER:您先前複製的服務帳戶 ID。

    如未授予權限,就會發生 Permission denied 錯誤。

    建立模型

    使用 REMOTE_SERVICE_TYPE 建立遠端模型:CLOUD_AI_DOCUMENT_V1

    CREATE OR REPLACE MODEL
    `PROJECT_ID.DATASET_ID.MODEL_NAME`
    REMOTE WITH CONNECTION {DEFAULT | `PROJECT_ID.REGION.CONNECTION_ID`}
    OPTIONS (
      REMOTE_SERVICE_TYPE = 'CLOUD_AI_DOCUMENT_V1',
      DOCUMENT_PROCESSOR = 'PROCESSOR_ID'
    );

    取代下列項目:

    • PROJECT_ID:您的專案 ID。
    • DATASET_ID:要包含模型的資料集 ID。
    • MODEL_NAME:模型名稱。
    • REGION:連線使用的區域。
    • CONNECTION_ID:連線 ID,例如 myconnection

      在 Google Cloud 控制台中查看連線詳細資料時,連線 ID 是「連線 ID」中顯示的完整連線 ID 最後一個區段的值,例如 projects/myproject/locations/connection_location/connections/myconnection

    • PROCESSOR_ID:文件處理器 ID。如要找出這個值,請查看處理器詳細資料,然後查看「基本資訊」部分中的「ID」列。

    如要查看模型輸出資料欄,請在模型建立完成後,按一下查詢結果中的「前往模型」。輸出資料欄會顯示在「結構定義」分頁的「標籤」部分。

    建立物件資料表

    在 Cloud Storage 中的一組文件上建立物件資料表。物件表格中的文件必須是支援的類型

    處理文件

    使用 ML.PROCESS_DOCUMENT 處理所有文件:

    SELECT *
    FROM ML.PROCESS_DOCUMENT(
      MODEL `PROJECT_ID.DATASET_ID.MODEL_NAME`,
      TABLE `PROJECT_ID.DATASET_ID.OBJECT_TABLE_NAME`
      [, PROCESS_OPTIONS => ( JSON 'PROCESS_OPTIONS')]
    );

    取代下列項目:

    • PROJECT_ID:您的專案 ID。
    • DATASET_ID:包含模型的資料集 ID。
    • MODEL_NAME:模型名稱。
    • OBJECT_TABLE_NAME:物件表格的名稱,其中包含要處理的文件 URI。
    • PROCESS_OPTIONS:指定如何處理文件的 JSON 設定。舉例來說,您可以使用這項功能,為版面配置剖析器指定文件分塊

    或者,使用 ML.PROCESS_DOCUMENT 處理部分文件:

    SELECT *
    FROM ML.PROCESS_DOCUMENT(
      MODEL `PROJECT_ID.DATASET_ID.MODEL_NAME`,
      (SELECT *
      FROM `PROJECT_ID.DATASET_ID.OBJECT_TABLE_NAME`
      WHERE FILTERS
      LIMIT NUM_DOCUMENTS
      )
      [, PROCESS_OPTIONS => ( JSON 'PROCESS_OPTIONS')]
    );

    取代下列項目:

    • PROJECT_ID:您的專案 ID。
    • DATASET_ID:包含模型的資料集 ID。
    • MODEL_NAME:模型名稱。
    • OBJECT_TABLE_NAME:物件表格的名稱,其中包含要處理的文件 URI。
    • FILTERS:篩除要處理的物件資料表資料欄文件條件。
    • NUM_DOCUMENTS:要處理的文件數量上限。
    • PROCESS_OPTIONS:定義設定的 JSON 設定,例如版面配置剖析器的分塊設定

    範例

    範例 1

    以下範例使用費用剖析器處理 documents 表格代表的文件:

    SELECT *
    FROM ML.PROCESS_DOCUMENT(
      MODEL `myproject.mydataset.expense_parser`,
      TABLE `myproject.mydataset.documents`
    );

    這項查詢會傳回已剖析的費用報表,包括幣別、總金額、收據日期和費用報表中的明細項目。ml_process_document_result 欄包含費用剖析器的原始輸出內容,ml_process_document_status 欄則包含文件處理作業傳回的任何錯誤。

    示例 2

    以下範例說明如何篩選物件資料表,選擇要處理的文件,然後將結果寫入新資料表:

    CREATE TABLE `myproject.mydataset.expense_details`
    AS
    SELECT uri, content_type, receipt_date, purchase_time, total_amount, currency
    FROM
      ML.PROCESS_DOCUMENT(
        MODEL `myproject.mydataset.expense_parser`,
        (SELECT * FROM `myproject.mydataset.expense_reports`
        WHERE uri LIKE '%restaurant%'));

    後續步驟