Reddit、Web Risk を使用して、フィッシング、マルウェア、ソーシャル エンジニアリングからユーザーを保護

※この投稿は米国時間 2023 年 10 月 5 日に、Google Cloud blog に投稿されたものの抄訳です。

Reddit は、世界屈指の人気を誇るソーシャル メディア サイトの一つであり、ユーザーは、コミュニティ フォーラム（サブレディット）であらゆるトピックについて投稿し、つながることができます。日々何百万人ものユーザーが、日常的な話題から、取るに足らない話題や深刻な話題まで、さまざまなトピックについて議論しています。Reddit には、自分の関心のあることに没頭し、新しいことを学び、同じ興味を持つ人々とつながり、楽しい時間を過ごすための、誰でも利用できる場所があります。

Reddit のプラットフォームを支えているのは、信頼性、安全性、プライバシー、透明性であり、これらによって、快適でリアルなスペースを維持しています。Reddit は、有害なコンテンツを特定、削除、防止するために、コミュニティ、専門家チーム、自動システム、レポート システム、教育リソースを活用した、コンテンツの管理における独自の多層アプローチを採用しています。

Reddit は、有害コンテンツからユーザーを保護するために、フィッシング、マルウェア、ソーシャル エンジニアリングなどの悪質なリンクの特定に取り組んでいます。これらは、プラットフォーム上の何百万人ものユーザーに深刻な損害を与える可能性があります。また、現在の予防策に加えて、これらの悪質なリンクを可能な限り迅速に検出して修復するための最新ツールを導入する方法を常に模索しています。

Reddit が Web Risk を選択したのはこのためであり、Reddit に投稿されたリンクと Web Risk が提供する安全ではない URL の広範なデータベースを相互参照できるシステムを開発しました。Web Risk は、セーフ ブラウジングに関して 15 年以上の実績があり、日々数十億ものウェブページをスキャンしています。Reddit のシステムを Web Risk と統合することは、提供された Docker イメージを使用して、当社が確認した URL で API 呼び出しを行うだけという簡単なものでした。これにより、Web Risk が提供する悪質な URL に関する包括的な最新のリストに基づいて、リンクが悪質かどうかをリアルタイムで判断できるようになりました。

Web Risk Update API の優れた柔軟性とスピードにより、ユーザーのプライバシーを保護しながら、Reddit 内のコメント（毎秒 130 件以上）や新規投稿（毎秒 20 件以上）で共有される安全ではない URL をリアルタイムで特定できます。URL の部分的なハッシュ一致にはローカルのデータベース検索を使用し、確認一致には Web Risk API に送信されるコンテキスト フリー URL を使用しています。

さらに、Evaluate API を使用して保護を強化しており、EXTREMELY_HIGH から SAFE までのリスクスコアを定義することで、レビューが必要な投稿をコミュニティの管理メンバーに送信するなど、繊細なアクションを実行する際に役立てています。このプロセスは、バックグラウンドで常に稼働しており、Reddit 上で共有される何百万もの URL をスキャン（毎秒 20 件以上）することで、ユーザーの安全を守っています。このプロセスについて Reddit のコミュニティが意識することはありません。また、Reddit の管理者にとっては優れた時間節約ツールとなっています。

Web Risk を導入して以来、有害な URL を含む何万件もの投稿を削除できました。また、Reddit のプラットフォームで公開された場合にユーザーに損害を与える可能性があった、何万件もの悪質なリンクをプロアクティブに特定できました。

これは、Reddit が健全なコミュニティを維持するために実施している数多くの取り組みの一例です。今後も Reddit のプラットフォームを誰もが安全に利用できるよう、保護を強化できる分野を継続的に模索していきます。

-Reddit、プリンシパル セキュリティ エンジニア Spencer Koch 氏