AI を活用したサイバー犯罪が勢いを増している理由と、その対策

従来の稚拙な詐欺手法は淘汰され、攻撃はより巧妙な形へと進化しています。もはや、不自然な文章、ありふれた件名、疑わしいリンクといった明らかに不審な点だけを手掛かりに不正行為を見抜くことは難しくなっています。AI を活用する脅威アクターは、巧妙な詐欺手法やサイバー空間を利用した不正行為を駆使して私たちを欺こうとします。

サイバー犯罪者は、偵察を自動化し、精密に標的を絞った高度なフィッシング攻撃を仕掛けられるようになっています。彼らは AI を使用して、経営幹部の LinkedIn、最近のポッドキャスト出演、会社の提出書類などをスクレイピングし、極めて自然な文面のメールや音声のクローンを生成し、状況に応じて即座に適応できる、AI で強化された手法で攻撃を仕掛けます。

こうした攻撃は、規模と巧妙さの両面で急激に拡大しており、AI 生成コンテンツの高い真実性によって、防御側を苦しめています。

昨今の詐欺による経済的損失は依然として膨大です。FBI の報告によると、サイバー空間を利用した不正行為による被害額は 2025 年に 177 億ドルに達しています。この額は、2024 年から 29% 増加しており、2025 年に報告されたすべての金銭的損失の 85% 近くを占めています。

しかし、現代の不正行為がもたらす真の代償は、収益上の損失にとどまりません。詐欺犯罪の成功は、社会的信頼の崩壊へとつながります。仕事用のメール、個人のテキスト メッセージ、音声通話の一つひとつを疑いの目で見ていかなければならない状況は、従業員の心理的な負担となり、イノベーションを阻害し、人間同士のつながりを弱めることにつながります。

こうした詐欺行為が攻撃者に多大な利益をもたらす現状においては、不正行為に対する防御戦略を策定し、実践することが極めて重要となります。Google は不正行為への対策を非常に重視しており、クラウド、ブラウザ、モバイルのエコシステムにまたがる AI を活用した包括的なツールスイートを提供することで、不正行為に対する強固な防御体制を構築できるよう支援しています。

Google の不正行為対策機能 10 選

Google の不正行為対策機能は、脅威をリアルタイムで検出し、無力化できるため、企業と消費者の双方にとって有用です。多くの機能はデフォルトで有効になっていますが、不正行為に対する防御体制を強化するために、さらなる手段を講じることができます。

1.エージェント型ウェブの保護

reCAPTCHA の進化形である Google Cloud Fraud Defense をリリースしました。この包括的なプラットフォームは、bot、人間、エージェントが正当な利用主体であり、適切な権限を持っているかどうかを見極められるよう設計されています。さらに、Fraud Defense は Google のエコシステム保護と同等のスケールおよびシグナル（以下で説明する多くの機能からのシグナルを含む）を活用し、人間ユーザーと AI エージェント向けのエージェント特化型新機能をまもなくプレビュー提供します。これにより、アカウント作成やログインから、支払いやチェックアウトに至るまで、デジタル コマース ジャーニー全体の安全性を強化します。

2.Android オペレーティング システム

Android の最新のアップデートでは、デバイス上の AI を使用して盗難の試みを検出し、プライバシーを保護しながらリアルタイムで詐欺や不正行為を防止する画期的な機能が導入されました。また、スマートフォン上にプライベート スペースを作成して、プライベートのアプリを他人の目から守ることもできます。

3.Android Enterprise デバイス トラスト

Android Enterprise のデバイス トラストは、Android Management API を通じてデバイスのセキュリティ ステータスを継続的に簡単に確認できるようにすることで、古いセキュリティ パッチ、デバイス上のマルウェア、脆弱なロック画面のパスコードに起因するデータ侵害のリスクを軽減します。ゼロトラストの原則に基づいて構築されたこのソリューションは、デバイスが企業向けモバイル管理プロバイダに登録されているかどうかにかかわらず、機密データへのアクセスを許可する前に、デバイスの状態に関するリアルタイムの分析情報を企業に提供します。

4.Chrome

Google セーフ ブラウジングは、フィッシング、マルウェア、詐欺といったオンラインの脅威をリアルタイムで特定するのに役立ち、Chrome、検索、Android、Google 広告、Gmail などで利用できます。セーフ ブラウジングの成功を受け、ユーザーがオンラインで直面する脅威がますます巧妙化している状況に対応するために、Chrome で利用できるセーフ ブラウジング保護強化機能をリリースしました。

これは、フィッシング、ソーシャル エンジニアリング、詐欺行為などに使用される危険な URL を検出するために設計された、高度な AI モデルと ML モデルによって追加の保護機能を提供するものです。これらのモデルは、数百万件の実例に基づいて、正規のウェブサイトと悪意のあるウェブサイトを見分けるようトレーニングされています。

5.Google の電話アプリと Google メッセージ アプリ

Google の電話アプリでは、既知の迷惑電話が自動的にブロックされるため、着信音が鳴ることはありません。また、通話スクリーニングを使用すると、ユーザーに代わって電話に応答することができるため、不正行為の特定に役立ちます。ユーザーが電話に出た場合でも、詐欺検知によって常に保護されます。不審な会話パターンはオンデバイス AI によって特定され、リアルタイムでユーザーに警告します。

この処理はプライバシー保護のための一時的なものであり、通話内容が保存されたり、デバイス外に送信されたりすることはありません。さらに、Android OS全体としても、通話中のソーシャル エンジニアリングを阻止する機能が働きます。不明なアプリのインストールやセキュリティ設定の無効化といったリスクの高い操作をブロックするほか、画面が知らないうちに共有されている場合はユーザーに警告します。

Google メッセージのスパム対策は、不要なメッセージを自動的にフィルタする包括的なシステムです。スパム対策メカニズムを基盤とする「詐欺検知」は、より広範な不正行為を特定します。

重要なのは、詐欺検知の対象が会話型の詐欺であることです。会話型の詐欺は、無害に見えても、徐々にユーザーを誘導して機密情報を共有させ、送金させようとします。詐欺検知は、オンデバイス AI を使用して会話のパターンをリアルタイムで分析し、詐欺の兆候を探します。

この処理は非公開で行われるため、会話の内容が外部に漏れることはありません。これらのシステムは、一般的なマーケティングやプロモーション、既知の悪意のあるリンクなど、事前に了承を得ていないメッセージや一括送信メッセージを幅広く特定し、自動的にブロックするように設計されています。

Android の Key Verifier ツールは、なりすましや詐欺から Google メッセージのユーザーを保護することで、プライベートな会話に信頼性を加えます。信頼できる連絡先の QR コードをスキャンすることで、メッセージがエンドツーエンドで暗号化され、正しい相手とやり取りしていることを確認できます。

詐欺師の間で流行している手口の一つに、詐欺のテキスト メッセージを直接スマートフォンに送信したり、メッセージ アプリやソーシャル メディア サイトを介して送信したりするものがあります。このようなメッセージの多くは、金銭の要求や詐欺サイトへの誘導を意図したものです。「かこって検索」と「Google レンズ」に追加された新機能は、こうした詐欺の特定に役立ち、詐欺の兆候を見分け、被害を未然に防ぐことができます。

6.Android の通話中の詐欺防止機能（金融アプリ向け）

Android の金融アプリ向け通話中の詐欺防止機能は、連絡先に登録されていない番号から電話をかけてきた詐欺師の不正行為を防止します。具体的には、ユーザーが利用している金融アプリの画面を共有するよう誘導し、機密性の高い金融情報にアクセスしようとした場合に、ユーザーを保護します。この機能は、発信者が詐欺師である可能性を警告し、30 秒間操作を一時停止して「今すぐ行動しなければならない」というユーザーの焦りを和らげるとともに、詐欺の疑いがある通話を切断し、画面共有を即座に停止するよう提案します。

7.Google Play

Google は高度な AI を活用して、Google Play ストア上の悪意のあるアプリを能動的に特定し、ブロックしています。ユーザーが有害なアプリをインストールしようとすると、Google Play プロテクトがリアルタイムでそのアプリをスキャンし、デバイスを保護するためのアラートを通知します。さらに、Google Play プロテクトの強化された詐欺防止機能（パイロット）は、ユーザーがインターネットのサイドローディング ソース（ウェブブラウザ、メッセージ アプリ、ファイル マネージャーなど）からアプリをインストールしようとすると、金融詐欺で頻繁に悪用される、機密性の高い権限を要求する可能性があるアプリを分析し、自動的にインストールをブロックします。

8.Google ドライブ

迷惑メールの 99% をブロックする Gmail と同様に、Google ドライブのスパムビューではコンテンツが自動的にスパムビューに分類されるため、ユーザーが危険なファイルや不要なファイルを目にすることがなくなります。このビューを使用すると、ファイルを簡単に分類して確認できるため、スパムと見なすべきものを判断して、潜在的な不要なコンテンツや不適切なコンテンツから身を守ることができます。

9.パスワードとパスキー

最近の傾向として、ログインをできるだけ簡単にするために、パスワード自体を不要にする動きがあります。Google でも、「Google でログイン」や「パスキー」といった最新の方法を利用することを強く推奨しています。これらは Google パスワード マネージャーに保存してデバイス間で同期できます。パスキーはフィッシング攻撃に強く、デバイスのロック解除に使用する方法（指紋認証や顔認証など）で簡単にログインできます。パスワードは必要ありません。また、パスキーの利便性と安全性を Google アカウントと組み合わせることで、「Google でログイン」を使用して、お気に入りのウェブサイトやアプリにログインできるようになり、管理する必要があるアカウントの数を減らすことができます。

パスワードの利用を希望するユーザー向けには、2 段階認証プロセス（2SV）、Google 認証システム アプリ、Google パスワード マネージャーなどのツールを用意しています。これらは第 2 の防衛ラインとして機能し、パスワードだけでは不正な行為者が権限を取得できないようにします。

10.Google アカウントの復元

強固な本人確認を必須とする高度な保護機能プログラムにより、著名なユーザーや機密性の高い情報を扱うユーザーを標的とするオンライン攻撃を阻止し、アカウントの乗っ取りを防止します。また、クロスアカウント保護機能では、Google が不審なイベントに関するセキュリティ通知を、Google アカウントに連携されているアプリやサービスと共有できます。これにより、対応するサードパーティのアプリやサービスで Google が提供する不審イベントの検出機能を利用して、オンラインの安全性を高めることができます。

パスワードとパスキーのどちらを使用する場合でも、パスワードを忘れた場合やスマートフォンを紛失した際にアカウントにアクセスできるように、アカウントの復元オプションを確認しておくことが重要です。アカウント復元用の連絡先を設定しておくと、Google アカウントにログインできなくなった場合に、信頼できる友人や家族に助けてもらうことができます。これは、他の復元オプションが利用できない場合に、信頼できる人に助けを求めることができる、シンプルで安全な方法です。

上記に挙げた機能の中には、一部の国では試験運用段階のものもありますが、今後世界中に展開していく予定です。

閉鎖的な防御姿勢から集団防御へ

不正行為との戦いは非対称なものです。昨今は、攻撃者が AI による自動化のスピードや規模と心理操作の技巧を駆使して防御を突破しようとする一方で、防御側は、技術革新と人間の警戒心によってこうした課題に立ち向かっています。しかし、詐欺師たちの一歩先を行くには、新たな脅威を理解したうえで、能動的な対策を講じる必要があります。

銀行、通信事業者、オンライン プラットフォーム、法執行機関の間に存在する情報ギャップを悪用する、相互に結びついた巨大な犯罪経済に対抗するには、世界的な詐欺ネットワークを打ち破るための集団防御戦略が不可欠です。

防御側は、ある機関での不正行為の報告や危険信号がネットワーク全体への警告となるよう、リアルタイムで相互にデータを共有する仕組みを構築すべきです。Google は訴訟、調査、ユーザーの意識向上、高度なツールの開発に引き続き投資する一方、真に成果を上げるには、業界、法執行機関、政府が協力して不正行為防止のベスト プラクティスを法制化する必要があると考えています。

不正な行為者を排除するうえで鍵となる、以下の 2 つの重要な取り組みについてもご確認ください。

• Global Signal Exchange: 脅威インテリジェンスの戦略的な共有を促進し、犯罪組織の追跡と阻止を可能にします。
• Financial Services Information Sharing and Analysis Center（FS-ISAC）を通じた優先報告者プログラム: 不正なコンテンツの戦術的な排除を効率化します。

※この投稿は米国時間 2026 年 5 月 5 日に、Google Cloud blog に投稿されたものの抄訳です。

- CISO オフィス、エグゼクティブ トラスト リード、Marina Kaganovich

- CISO オフィス、金融サービス担当ディレクター、David Stone