このページは Cloud Translation API によって翻訳されました。

BigQuery との統合

BigQuery は Document AI と統合されており、ドキュメント分析と生成 AI のユースケースの構築に役立ちます。デジタルトランスフォーメーションの加速に伴い、組織は膨大な量のテキストデータやその他のドキュメントデータを生成しています。これらのすべてのデータには、インサイトの取得や生成 AI の新たなユースケースを実現する計り知れない可能性が秘められています。こうしたデータの活用を支援するため、このたび BigQuery と Document AI を統合したことを発表いたします。この統合により、ドキュメントデータからインサイトを引き出して、新しい大規模言語モデル（LLM）アプリケーションを構築できるようになりました。

概要

BigQuery をご利用のお客様は、Google の最先端の基盤モデルを利用した Document AI カスタムエクストラクタを作成して、それを独自のドキュメントやメタデータに基づいてカスタマイズすることができるようになりました。こうしてカスタマイズしたモデルを BigQuery から呼び出せば、シンプルで強力な SQL を活用して安全かつ管理された方法でドキュメントから構造化データを抽出できます。この統合が行われる前、一部のお客様は、抽出ロジックや抽出スキーマを手作業でキュレートしながら、独立した Document AI パイプラインを構築することを試みていました。組み込みの統合機能がないため、データを同期して整合性を維持するには、特注のインフラストラクチャを開発する必要がありました。そのため、ドキュメント分析プロジェクトはいずれも多額の投資を必要とする大規模な事業になっていました。今回の統合により、Document AI のカスタムエクストラクタ用のリモートモデルを BigQuery で簡単に作成できるようになりました。そのリモートモデルを利用してドキュメント分析や生成 AI を大規模に実行すれば、データ主導のインサイトやイノベーションの新時代を切り開くことができます。

データを統合、管理して AI エクスペリエンスにつなげる

Document AI でカスタムエクストラクタを構築するには、次の 3 つの手順を行います。

ドキュメントから抽出する必要のあるデータを定義します。これは document schema と呼ばれ、カスタムエクストラクタの各バージョンとともに保存され、BigQuery からアクセスできます。
必要に応じて、アノテーション付きの追加ドキュメントを抽出のサンプルとして使用します。
Document AI で提供される基盤モデルに基づいて、カスタムエクストラクタのモデルをトレーニングします。

Document AI では、手動トレーニングが必要なカスタムエクストラクタに加えて、経費精算、領収書、請求書、税務フォーム、政府発行の ID など、多数のシナリオですぐに使用できるエクストラクタがプロセッサギャラリーに用意されています。

カスタムエクストラクタの準備ができたら、BigQuery Studio に移動し、以下の 4 つの手順で SQL を使用してドキュメントを分析します。

SQL を使用してエクストラクタの BigQuery リモートモデルを登録します。このモデルは、上記で作成したドキュメントスキーマを理解し、カスタムエクストラクタを呼び出して結果を解析できます。
Cloud Storage に保存されているドキュメントについて、SQL を使用してオブジェクトテーブルを作成します。行レベルのアクセスポリシーを設定してテーブル内の非構造化データを管理すると、ユーザーによる特定のドキュメントへのアクセスを制限して、プライバシーとセキュリティのために AI の能力を抑えることができます。
オブジェクトテーブルで ML.PROCESS_DOCUMENT 関数を使用して API エンドポイントへの推論呼び出しを行い、関連するフィールドを抽出します。関数の外部で WHERE 句を使用して、抽出対象のドキュメントをフィルタすることもできます。この関数は、抽出されたフィールドを各列とする構造化テーブルを返します。
抽出されたデータを他の BigQuery テーブルと結合して構造化データと非構造化データを組み合わせ、ビジネス価値を生み出します。

次の例は、ユーザーエクスペリエンスを示しています。

bigquery-integration-with-document-ai-1

  # Create an object table in BigQuery that maps to the document files stored in Cloud Storage.
  CREATE OR REPLACE EXTERNAL TABLE `my_dataset.document`
  WITH CONNECTION `my_project.us.example_connection`
  OPTIONS (
    object_metadata = 'SIMPLE',
    uris = ['gs://my_bucket/path/*'],
    metadata_cache_mode= 'AUTOMATIC',
    max_staleness= INTERVAL 1 HOUR
  );

  # Create a remote model to register your Doc AI processor in BigQuery.
  CREATE OR REPLACE MODEL `my_dataset.layout_parser`
  REMOTE WITH CONNECTION `my_project.us.example_connection`
  OPTIONS (
    remote_service_type = 'CLOUD_AI_DOCUMENT_V1',   
    document_processor='PROCESSOR_ID'
  );

  # Invoke the registered model over the object table to parse PDF document
  SELECT uri, total_amount, invoice_date
  FROM ML.PROCESS_DOCUMENT(
    MODEL `my_dataset.layout_parser`,
    TABLE `my_dataset.document`,
    PROCESS_OPTIONS => (
      JSON '{"layout_config": {"chunking_config": {"chunk_size": 250}}}')
    )
  WHERE content_type = 'application/pdf';

結果のテーブル

bigquery-integration-with-document-ai-2

テキスト分析、要約、その他のドキュメント分析のユースケース

ドキュメントからテキストを抽出したら、以下のような方法でドキュメント分析を実施できます。

BigQuery ML を使用してテキスト分析を実行する: BigQuery ML は、さまざまな方法でエンベディングモデルのトレーニングとデプロイをサポートしています。たとえば、BigQuery ML を使用してサポートへの問い合わせ時の顧客の感情を識別したり、製品に関するフィードバックをさまざまなカテゴリに分類したりできます。Python をご利用の場合は、Pandas 用の BigQuery DataFrames や、データのテキスト分析に scikit-learn のような API を使用することもできます。
text-embedding-004 LLM を使用してチャンク化されたドキュメントからエンベディングを生成する: BigQuery には、text-embedding-004 モデルを呼び出してエンベディングを生成する ML.GENERATE_EMBEDDING 関数があります。たとえば、Document AI を使用して顧客のフィードバックを抽出し、PaLM 2 を使用してそのフィードバックを要約することができます。なお、いずれの作業でも BigQuery SQL を使用します。
ドキュメントのメタデータを BigQuery テーブルに保存されている他の構造化データと結合します。

たとえば、チャンク化されたドキュメントを使用してエンベディングを生成し、ベクトル検索に使用できます。

# Example 1: Parse the chunked data

CREATE OR REPLACE TABLE docai_demo.demo_result_parsed AS (SELECT
  uri,
  JSON_EXTRACT_SCALAR(json , '$.chunkId') AS id,
  JSON_EXTRACT_SCALAR(json , '$.content') AS content,
  JSON_EXTRACT_SCALAR(json , '$.pageFooters[0].text') AS page_footers_text,
  JSON_EXTRACT_SCALAR(json , '$.pageSpan.pageStart') AS page_span_start,
  JSON_EXTRACT_SCALAR(json , '$.pageSpan.pageEnd') AS page_span_end
FROM docai_demo.demo_result, UNNEST(JSON_EXTRACT_ARRAY(ml_process_document_result.chunkedDocument.chunks, '$')) json)

# Example 2: Generate embedding

CREATE OR REPLACE TABLE `docai_demo.embeddings` AS
SELECT * FROM ML.GENERATE_EMBEDDING(
  MODEL `docai_demo.embedding_model`,
  TABLE `docai_demo.demo_result_parsed`
);

検索および生成 AI のユースケースを実装する

ドキュメントから構造化テキストを抽出したら、BigQuery の検索機能とインデックス作成機能を利用して「干し草の中から針を見つける」ようなクエリのために最適化されたインデックスを構築できます。これにより、強力な検索機能を利用できるようになります。この統合により、SQL とカスタムの Document AI モデルを使用して、プライバシーフィルタリング、コンテンツの安全性チェック、トークンのチャンキングのためのテキストファイル処理を実行するなど、新しい生成 LLM アプリケーションを実現することもできます。抽出されたテキストを他のメタデータと組み合わせれば、大規模な言語モデルをファインチューニングするために必要なトレーニングコーパスのキュレーションを簡素化できます。さらに、BigQuery のエンベディング生成機能とベクトルインデックス管理機能によって基盤が構築された、ガバナンス対象のエンタープライズデータに基づいて LLM のユースケースを構築します。このインデックスを Vertex AI と同期することで、検索拡張生成のユースケースを実装し、より管理され、合理化された AI エクスペリエンスを実現できます。

サンプルアプリケーション

Document AI コネクタを使用するエンドツーエンドアプリケーションの例を次に示します。

GitHub のこの経費報告書のデモを参照してください。
コンパニオンのブログ投稿を読む。
Google Cloud Next 2021 のディープダイブ動画をご覧ください。

正規化

プロセッサの作成と管理

BigQuery との統合

概要

データを統合、管理して AI エクスペリエンスにつなげる

テキスト分析、要約、その他のドキュメント分析のユースケース

検索および生成 AI のユースケースを実装する

サンプル アプリケーション

サンプルアプリケーション