イノベーションを引き起こす: Google Cloud と Behavox が、PaLM 2 と Vertex AI の機能を活用して金融コンプライアンスを変革した方法

※この投稿は米国時間 2023 年 10 月 5 日に、Google Cloud blog に投稿されたものの抄訳です。

金融サービス企業は、顧客を保護し、不正行為やその他の違法行為を防止するためのさまざまな規制の対象になっています。しかし、これらの規制を遵守することは簡単ではありません。特に、多数の従業員を抱える大規模な金融サービス企業にとっては顕著な問題といえます。こうした企業は、顧客とビジネスを保護するために、脅威を迅速かつ効果的に特定して対応できなければなりません。Google の PaLM 2 と Google Cloud の生成 AI ツールの強力な組み合わせを使用すれば、金融サービス コンプライアンス向けの革新的なソリューションを構築できます。

Google Cloud の LLM と生成 AI サービスは、金融サービス コンプライアンスが必要なお客様にどのように役立つのか

PaLM 2 は大規模言語モデル（LLM）であり、テキストを高い精度で処理して分析できます。Google Cloud の企業向けサービスの生成 AI には、さまざまなテキスト、チャット、エンベディング モデル、LLM を利用したアプリケーションやサービスが含まれており、リスクの評価やコンプライアンス違反の特定といった各種のタスクに使用できます。

PaLM 2 とその他の Google Cloud 生成 AI ツールを組み合わせることで、金融サービス企業は次のことを可能にする革新的なソリューションを構築できます。

• 大量のテキストデータの迅速かつ効率的な処理を自動化。
• エンティティ、関係、センチメントなどの重要な情報をテキストから抽出。
• 潜在的なリスクの特定とレポートの作成。
• 脅威へのより迅速な対応。
• 市場阻害行為やその他の不正なアクティビティの削減。

事例紹介: 金融サービスのお客様が革新的なソリューションを構築できるよう支援

Google Cloud と金融サービス業界向けコンプライアンス ソリューションの大手プロバイダである Behavoxは、このほど PaLM 2 を使用した革新的なソリューションを共同で構築しました。このソリューションは、最新の PaLM 2 モデルと Behavox の独自の専門知識に基づいており、何百万もの通信を処理し、潜在的な脅威やコンプライアンス違反のシグナルを高い精度で特定するよう設計されています。

Behavox は不正検出機能を向上させる方法を探していました。また、PaLM をコンプライアンス ソリューションに統合し、アラートの品質を高めることも考えていました。PaLM のモデル ファミリーは、テキストとコードの膨大なデータセットでトレーニングされるため、言語のニュアンスを学習し、データのより複雑なパターンと関係を理解し、より正確で洞察力に富んだ結果を生成することが可能です。小さなモデルでは見逃してしまうような、データ内の微妙なパターンを識別する PaLM の能力により、Behavox のソリューションの精度を向上させ、偽陽性の数を減らすことができます。

Google Cloud と Behavox の連携により、PaLM 2 を使用した新しい不正検出ソリューションの設計と実装が実現しました。このソリューションは、次の重要な要素に基づいています。

• プロンプト エンジニアリングとチューニング: Google Cloud と Behavox は、ソリューションの精度を向上させるために、共同でさまざまなプロンプト エンジニアリングとチューニングの手法を設計、テストしました。
• 検索拡張生成（RAG）: RAG は、応答を作成する際に使用する特定のコンテンツとして、コンテキスト化された産業データを LLM に直接提供するための手法です。
• Google Cloud のスケーラビリティの高いサービス: Google Cloud が提供する LLM サービスは、Cloud Functions や Matching Engine などのさまざまなマネージド サービスで補完され、負荷の高いワークロードに対応できます。
• Behavox の専門知識: このソリューションは、Behavox 独自の専門知識と高品質なデータセットを活用しており、信頼性を確保するために複数のコンプライアンス専門家によって審査、準備されています。

ソリューションは、説明可能性などの他のビジネス要件も遵守しています。コンプライアンス環境では、監査目的でメッセージにフラグを立てる場合、多くの管理ポリシーと AI のニーズが存在します。さらに、PaLM 2 は 142 以上の言語をサポートする多言語の大規模言語モデルであるため、Behavox はメキシコ、コロンビア、日本、カナダ、英国、米国など複数の国の顧客をサポートしながら、グローバル規模で効果的なコンプライアンス ソリューションを提供しています。Google Cloud はまた、Behavox と協力してソリューションの有効性を評価しました。Behavox チームによって伝えられた事前の商用の結果は想定どおりであり、F1 スコアで測定されたいくつかのケースでは、市場で提供されている他の多くの LLM のパフォーマンスを約 20% ポイント上回っていました。

プロジェクトの成功は、Google と Behavox の緊密なコラボレーションによるところが大きいといえます。両社のエンジニアが協力してソリューションの設計、実装、テストを行いました。このコラボレーションにより、両社のチームは専門知識とベスト プラクティスを共有し、問題を迅速に特定して解決できるようになりました。

「Behavox では、AI を使用して複雑な課題を解決することに情熱を注いでいます。Google の AI エンジニアはその情熱を共有し、私たちが革新的でスケーラブルなソリューションを構築できるよう精力的に取り組んでくれました。彼らの専門知識と協力的な職場文化は、非常に貴重であり比類のないものです。Google Cloud と連携できたこの機会に大変感謝しています」と、Behavox の創設者で CEO の Erkin Adylov 氏は話しています。

今後のテスト

Google Cloud が提供する LLM サービスには、人間からのフィードバックを用いた強化学習（RLHF: Reinforcement Learning from Human Feedback）など、他の手法よりも LLM のパフォーマンスを向上させることができる多くの機能が含まれています。Google Cloud は Behavox と協力し、このような高度な機能をソリューションに取り入れて、今後も最高のパフォーマンスを維持できるようにしていきます。

効果的な連携: Behavox と Google Cloud

今日の目まぐるしい金融情勢において、最も重要なのが規制遵守です。世界中のすべての金融機関が、規制を遵守するためにコミュニケーション チャネルの監査を義務付けられています。しかし、現在のプロセスはロールベースで何千、何百万ものメッセージをフィルタリング、分析、分類しており、かつ手作業による監査が必要なため、時間がかかり、費用も高く、人為的ミスが発生しやすくなっています。また、現在のレガシー辞書システムは誤検出のアラートが多く発生するため、その対応が担当者にとって大きな負担となっています。Behavox と Google Cloud は共同で、PaLM の活用とともに Behavox の独自の専門知識とビジネス インテリジェンスを使用して、この厳格なプロセスを自動化する革新的なソリューションを構築しました。これにより、金融機関は既存のロールベースのシステムと比較して 98% の効率化を実現しています。

ソリューションの拡大

Behavox は、Vertex AI プラットフォームを活用して Google Cloud に大規模なクラウドネイティブのソリューションを構築するために、多数のクラウド マネージド サービスを利用することで Google Cloud Marketplace アプリを構築しました。Behavox のソリューションは、さまざまなソースから参照データを Cloud Storage バケットに取り込むことから始まり、Cloud Functions、Document AI、クラウド コンピューティング VM および独自のビジネス ロジックを使用してデータの解析と前処理を行い、PaLM エンべディング API と Vertex AI Matching Engine を活用してインデックスに登録し、生成されたエンべディングに最も近い用語を大規模に検索します。また、リアルタイムの API 推論では Google Cloud の Apigee API 管理を使用して、受け取ったリクエストを追跡、モニタリング、認証し、自動スケーリングする Cloud Functions に渡します。すると、Google LLM モデルをホストする Vertex AI 予測サービスが呼び出されます。Behavox は、実際のラベルテキストを保存するために、NoSQL サーバーレス データベース サービスとして Bigtable も使用しました。なお、同社では App Engine を使用して、プレゼンテーション層のアドオンでソリューションをラップしています。

-Google Cloud、AI / ML パートナー エンジニアリング担当ディレクター、AI センター オブ エクセレンス責任者 Ali Arsanjani 博士

-Google Cloud、AI / ML 担当カスタマー エンジニア Shade El-Hadik 博士