金融サービスにおける AI: 新しい世界でモデルリスク管理ガイダンスを適用する

※この投稿は米国時間 2023 年 6 月 15 日に、Google Cloud blog に投稿されたものの抄訳です。

AI と ML の進歩により、金融サービス分野においてもその導入が進んでいます。このテクノロジーの主な用途は、詐欺行為、マネー ロンダリング、他の金融犯罪や不正な金融取引、取引操作の検出など、重要なコンプライアンスおよびリスク機能をアシストすることです。これらは総称して「リスク AI / ML」と呼ばれます。これらのモデルの使用が増えるにつれて、モデルに関連するリスクの管理についての疑問も増えています。

特に、規制機関、金融機関、テクノロジー サービス プロバイダは、既存のモデルリスク管理（MRM）ガイダンス（これまで、金融サービス業界におけるモデルリスク管理に適用される規制制度となってきたもの）が AI / ML モデルにも当てはまるかどうかを調査してきました。もしそうなら、このガイダンスをどのように解釈し、新しいテクノロジーに適用すべきでしょうか。

Alliance for Innovative Regulation（AIR）の協力により作成された Google の新しいホワイト ペーパーは、その疑問に答えようとしています。その目的は、金融サービスにおけるリスクの検出と低減に使用されるモデルの性能、結果、コンプライアンスに関心をもつ政府機関、金融業界、リスクモデル ベンダー、その他の関係者の間で思考と対話を促すことです。消費者信用審査、ジェネレーティブ AI や大規模言語モデルを使用したモデルなど、金融サービスにおける他の AI / ML の活用に伴って発生し得る問題には言及していません。これらの問題は繰り返し取り組む方が良いでしょう。

このホワイト ペーパーは、「MRM（モデルリスク管理）ガイダンスは、その広範で原則に基づいたアプローチから、リスク AI / ML モデルを含む金融機関のモデルリスク管理の評価に適切なフレームワークを提供している」と論じています。既存のフレームワーク内であれば、すでにこのフレームワークを理解している金融機関の知識と運用能力を活かすことができます。まったく新しいアプローチを作る必要がなく、実装して運用を開始するまでにかかる時間を短縮することができます。それにもかかわらず、このホワイト ペーパーは、従来のモデルと比較して、AI / ML モデルには特有の特徴と特性（潜在的なダイナミズムやパターン認識能力など）があることを認めています。MRM ガイダンスをリスク AI / ML モデルに適用する方法を考慮するときは、このような特徴に注目する必要があります。

このホワイト ペーパーは、AI / ML モデル特有のそのような側面を考慮に入れて、リスク AI / ML モデルへの MRM ガイダンスの適用に関して、以下のように具体的な観察結果と推奨事項を提示しています。

• リスク評価: リスクを評価するときは、AI / ML モデルが従来のモデルより本質的にリスクが高いわけではない点を認識することが重要です。リスクごとに階層分けする評価では、対象となるビジネス アプリケーション、モデルの使用対象となるプロセスに加えて、モデルの複雑性と具体性を考慮する必要があります。それらの評価を支援するため、規制機関は、AI / ML 自体の使用によってモデルが高リスク階層に位置づけられるわけではないことを明確にし、一般的なユースケースに適用した場合の AI / ML モデルの具体性およびリスク評価に関する期待事項の設定に役立つガイダンスを公開する可能性があります。

• 安全性と健全性: リスク AI / ML モデルの性質は動的であるため、そのモデルの開発と実装全体を通じて得られる成果に焦点を当てた広範かつ継続的なテストの信頼性が、健全性に対する規制上の主要な期待事項となる必要があります。そのために、技術指標と関連するテスト ベンチマークの開発が推奨されます。モデルの「説明可能性」は、AI / ML モデルの特定のアウトプットを理解する目的では役立ちますが、モデルが全体として健全で、目的と適合しているかどうかをはっきりさせる目的ではあまり効果がないか、不十分である可能性があります。

• モデル ドキュメント: ドキュメントが十分かどうかの試金石となるのは、金融機関がモデルを使用、検証し、その設計、理論、論理を理解するには何が必要か、というものです。モデルコードのような独自の詳細を開示することは、モデルの十分性を検証する上で不必要かつ役に立たず、むしろ、モデルの作成者が、最高水準のテクノロジーを金融機関と共有するのを躊躇する要因となる可能性があります。

• 業界標準とベスト プラクティス: 規制機関は、グローバル スタンダードを、MRM ガイダンスへの準拠と健全な AI / ML リスク軽減手法の推定証拠として明示的に認識することにより、そのようなグローバル スタンダードの開発と、金融サービスおよび規制環境におけるその使用を支援する必要があります。さらに、規制機関は、業界のコラボレーションと、グローバル スタンダードに基づくトレーニングを促進する必要もあります。

ガバナンス コントロール: 規制機関は、リスク AI / ML モデルに関連するリスクを軽減するのに必須のツールとして、ガバナンス コントロール（段階的なロールアウトやサーキット ブレーカーなど）の使用を促進する必要があります。

審査官と業界のトレーニングおよびコラボレーションの重要性、AI / ML テクノロジーの発展と新しい標準の登場に合わせた MRM ガイダンスの継続的な改良に対する規制機関のオープン性など、その他の考慮事項に関するディスカッションを求めています。

Google の提言を実践すれば、いくつかの目標に近づくでしょう。規制機関、金融機関、テクノロジー プロバイダが連携し、金融システムの安全性と健全性を守るという共通の目的により大きく貢献することができます。同時に、この提言を実践してこの分野での取り組みを続ければ、業界において最先端のテクノロジー（マネー ロンダリング、不正な金融取引、詐欺行為などの難題に対処するテクノロジーなど）の導入が促されます。

ホワイト ペーパーの全文は、こちらでご確認ください。