AI で変わるサイバーセキュリティの新常識: 多層防御とキルチェーンをどう強化する？

AI が、サイバーセキュリティに対する考え方を含め、さまざまな業界や市民社会に大きな変化をもたらしていることは周知の事実です。すでにこのテクノロジーを攻撃の自動化の実験などに悪用している脅威アクターは、優位な立場にあるのでしょうか。もしそうならば、その状態はどのくらい続くのでしょうか。防御側も強力な AI ツールを開発していますが、AI を活用した攻撃に対して、常に企業が AI に基づく防御対策を強いられることになった場合、エンタープライズ ソフトウェアの所有のあり方がどう変わるかはまだわかっていません。

今回ご紹介するのは、Google Cloud の Anton Chuvakin と Timothy Peacock が、Google Cloud Security Podcast の最近のエピソードで、公共の利益のために活動する技術者兼作家の Bruce Schneier 氏に投げかけた質問の一部です。

Nathan E. Sanders 氏との共著である新刊『Rewiring Democracy: How AI will transform our politics, government, and citizenship』を出版したばかりの Schneier 氏は、AI と信頼、AI が政治権力を集中させているか分散させているか、さらには都市がゾーニングを行うために AI を使用すべきかどうかについての意見を共有してくれました。

以下は、この会話を編集したものです。

Anton Chuvakin: Google は、AI は大胆かつ責任を持って開発されるべきであると長年主張してきました。昨年、Google は Google DeepMind と Google Project Zero が開発した AI エージェントである Big Sleep を発表しました。これは、これまで知られていなかったソフトウェアの脆弱性を積極的に探し出すツールです。AI は最終的に、防御側と攻撃側のどちらにとって有利になると思いますか？

しかし短期的には、既存のレガシーコードが脆弱であるため、攻撃者の方が有利です。攻撃者は官僚的手続きや調達プロセスに縛られないため、防御者よりもアジャイルです。そのため、AI ツールを活用して自動化された攻撃や、非常に強力なスクリプト キディ（技術的に未熟な攻撃者）が増加しています。

防御に優れた AI ツールや戦術はまだ登場していませんが、この状況は変わるでしょう。私の長期的な見解はこうです。攻撃者はすでに最速で攻撃を仕掛けていますが、最終的に防御者が攻撃者に対抗できるようになるため、AI は防御者により大きなメリットをもたらすことになるでしょう。しかし、そこに至るまでの道のりは険しいものになると思われます。

Anton Chuvakin: 人々は、高速な攻撃を防御するための高価なプロセスを導入するよりも、侵害を甘んじて受け入れているのでしょうか？

Bruce Schneier 氏: これはセキュリティ上の問題ではなく、経済的な問題です。脆弱な状態の方が、安全対策をとるよりも安く済むというのは問題です。これは市場を通じて修正されていくでしょう。

防御者が自動化ツールをデプロイし、パッチで脆弱性を修正し、悪用を回避できるようになるには、多くの作業が必要です。たとえば、企業が大規模なソフトウェアを購入し、AI の指示に基づいて 1 日おきに修正しなければならない場合、ベンダーはそれを好まないでしょう。ソフトウェアの販売方法や、ソフトウェアの所有と変更のあり方を再考する必要が出てくると思います。

ゆくゆくは、防御とパッチ適用が攻撃側と同じように自動化されるようになり、システム自体が常にモニタリング、ハッキング、更新、パッチ適用を行う世界に移行するのではないかと私は考えています。

Anton Chuvakin: 人々は、ハッキングされる方が強固な防御をするよりも安上がりだと考えています。

Bruce Schneier 氏: そのとおりです。なぜなら、他人事としてとらえられているからです。長期的なことであり、企業は次の四半期の収益を重視しているからです。セキュリティ侵害から生じる真の費用を内部コストと考えれば、安上がりとは言えなくなるでしょう。現在は費用が社会全体に広く分散されているため、安上がりになっているのです。

後期資本主義は、こうした外部化された費用とリスクに満ちています。利益が一部に集中し、損失が広く分散されるようなシステムは、過大なリスクをはらんでいます。なぜなら、抜け目のないアクターは、自分は代償を払う必要がないと知ったうえで、平気でリスクをとるからです。

Anton Chuvakin: 多層防御は防御者にとって本当に優れたアプローチなのでしょうか？層が多いほど、AI を活用した攻撃が届くのを遅らせられるのでしょうか？

Bruce Schneier 氏: はい、多層防御やサイバー キル チェーンなどの攻撃プロセスに関する考え方はすべて、どこで対策を講じるべきかを教えてくれます。サイバー キル チェーンには 7 つのステップがあり、AI はそれぞれのステップを改善し、防御を強化する方法を提供してくれると思います。これによって攻撃者が勝つことはないかというと、答えはもちろん「ノー」です。しかし、私たちはまずこうした考え方で始める必要があります。

Tim Peacock: AI が社会に与える影響に人々が備えるために、何かアドバイスはありますか？

Bruce Schneier 氏: 積極的に関わってください。このテクノロジーは現実のものとなりつつあり、多くの変化をもたらすと思います。こうしたテクノロジーは常に変化しているので、日常的に関わっていないと、それが自分にどのような影響をもたらすのかを理解することはできません。3 か月前には不可能だったことが今では実現していることから、現在不可能なことも 3 か月後には可能になっているでしょう。

ですから、常に関心を持つようにしてください。何かを批判することは簡単ですが、それについて情報を入手すらしないというののは適当ではありません。十分な情報に基づいた意見を持つ必要があるからです。

Tim Peacock: AI は、私たちが目にする画像や動画などに対する社会的な信頼性にどのような影響を与えていると思いますか？

Bruce Schneier 氏: 私はそれについてよく考えます。さまざまな方面で影響が出ていると思います。ディープフェイクよりも、人を誘導するための AI の悪用を私は懸念しています。

AI は会話型なので、誘導されているかどうかを見分けるのは難しいですね。AI に旅行の予約を依頼した場合、AI が私にとって最善の選択をしてくれているのか、あるいはどこかの企業からキックバックを受けているのかはわかりません。AI による誘導はより巧妙化するため、そうした誘導を明らかにするのはさらに難しくなるでしょう。これによって信頼が大きく揺らぎます。

また、画像や写真の操作はこれまでも行われてきたことです。現在は、そうした操作が簡単になったというだけです。それがどのような影響をもたらすのかはわかりません。私にとって重要なのは、画像が信頼できるかどうかではなく、その提供元が信頼できるかどうかということです。全国メディアを信頼できるか、ソーシャル メディア上の友人を信頼できるかということです。ゆくゆくは、提供元が信頼を左右するようになると私は思っています。すでに私の生徒たちは、インターネットで目にするものに対して健全な懐疑心を持つようになっています。私は、新聞に載っていたからというだけで何かを信じてしまう高齢者が心配です。

まだわからないことは、こうした問題が AI によってどれほど悪化するのか、または悪化した問題によって私たちがすべてを疑うようになってしまうかということです。

※この投稿は米国時間 2026 年 2 月 12 日に、Google Cloud blog に投稿されたものの抄訳です。

- Google Cloud セキュリティ編集者、Seth Rosenblatt