득세하는 AI 사이버 사기: 위협의 본질과 이에 맞서는 우리의 자세

해당 블로그의 원문은 2026년 5월 5일 Google Cloud 블로그(영문)에 게재되었습니다. 

서툴고 어설픈 사기의 시대는 끝났습니다. 이제는 문법 오류, 판에 박힌 제목, 수상한 링크와 같은 명백한 위험 신호에만 의존할 수 없습니다. AI를 등에 업은 위협 행위자들은 매우 정교한 기만술과 사이버 사기를 앞세워 우리를 위협하고 있습니다.

사이버 범죄자들은 이제 정찰 과정을 자동화하고 외과 수술과 같은 정밀도로 고도화된 피싱 공격을 수행할 수 있습니다. 그들은 AI를 사용해 경영진의 LinkedIn 프로필, 최근 팟캐스트 출연 영상, 기업 공시 자료 등을 긁어모아 완벽한 문장의 이메일이나 음성 복제(Voice clone)를 제작합니다. 그런 다음 상황에 따라 즉각적으로 적응할 수 있는 AI 기반 전술로 사기 행각을 벌입니다.

이러한 공격은 규모와 정교함 면에서 급증하고 있으며, 실제처럼 믿을 수밖에 없는 '합성된 진실성'을 무기로 방어자들을 곤경에 빠뜨리고 있습니다.

현대적인 사기로 인한 재무적 비용은 여전히 막대한 수준입니다. FBI 보고에 따르면, 2025년 사이버 기반 사기 피해액은 177억 달러에 달하며, 이는 2024년 대비 29% 증가한 수치이자 2025년 보고된 전체 금융 손실의 약 85%를 차지합니다.

하지만 현대적 사기가 초래하는 진정한 비용은 기업의 수익성 악화보다 훨씬 파괴적입니다. 사기꾼들이 성공할 때마다 사회적 신뢰는 무너집니다. 모든 업무용 이메일, 개인적인 문자, 그리고 음성 통화를 의심의 눈초리로 바라봐야 하는 상황은 우리에게 심리적인 비용을 강요하며, 이는 결국 혁신을 가로막고 인간 관계를 약화시킵니다.

이러한 사기 행위가 매우 수익성이 높다는 점을 고려할 때, 조직이 사기 방어 전략을 수립하고 구현하는 것은 매우 중요합니다. 구글은 사기 근절을 위해 최선을 다하고 있으며, 클라우드, 브라우저 및 모바일 생태계 전반을 아우르는 AI 기반 도구 세트를 제공하여 조직이 견고한 사기 방어 체계를 구축할 수 있도록 지원합니다.

구글의 10가지 사기 대응 역량

기업과 소비자 모두를 위해, 구글의 사기 방지 역량은 위협을 실시간으로 탐지하고 무력화하는 데 도움을 줍니다. 많은 기능이 기본적으로 활성화되어 있지만, 사기 방어 태세를 더욱 강화하기 위해 취할 수 있는 추가적인 단계들이 있습니다.

1. 에이전트 기반 웹 환경 보안

우리는 reCAPTCHA의 차세대 진화형인 Google Cloud Fraud Defense를 출시했습니다. 이 포괄적인 플랫폼은 봇, 사람, 그리고 에이전트의 정당성과 권한 여부를 식별하도록 설계되었습니다. 아래에서 설명할 여러 역량의 신호를 포함해 구글 자체 생태계를 보호하는 것과 동일한 규모 및 신호를 사용하는 Fraud Defense는 조만간 사용자 및 AI 에이전트를 위한 에이전트 특화 기능을 프리뷰(Preview)로 제공할 예정입니다. 이를 통해 계정 생성 및 로그인부터 결제 및 체크아웃에 이르기까지 디지털 커머스 여정 전반의 보안을 강화할 수 있습니다.

2. 안드로이드(Android) 운영 체제

안드로이드의 최신 업데이트는 온디바이스(On-device) AI를 사용하여 도난 시도를 감지하고, 개인 정보를 보호하면서 실시간으로 스팸 및 사기 보호를 제공하는 혁신적인 기능을 도입했습니다. 또한, 스마트폰 내에 별도의 사적인 공간을 만들어 민감한 앱을 타인의 시선으로부터 보호할 수 있도록 도와줍니다.

3. 안드로이드 엔터프라이즈 기기 신뢰

안드로이드 매니지먼트(Management) API를 통해 기기의 보안 상태를 지속적으로 쉽게 확인할 수 있도록 함으로써, 안드로이드 엔터프라이즈의 Device Trust는 보안 패치 미적용, 기기 내 멀웨어, 취약한 잠금 화면 비밀번호 등으로 인한 데이터 유출 위험을 줄이는 데 도움을 줍니다. 제로 트러스트 원칙을 기반으로 구축된 이 솔루션은 기기가 엔터프라이즈 모빌리티 관리 제공업체(EMM)에 등록되어 있는지 여부와 관계없이 민감한 데이터에 대한 접근 권한을 부여하기 전 기기의 상태에 대한 실시간 통찰력을 비즈니스에 제공합니다.

1. 크롬 (Chrome)

Google Safe Browsing은 피싱, 멀웨어, 사기 및 기타 온라인 위협을 실시간으로 식별하는 데 도움을 줍니다. 이 기능은 Chrome, 검색, Android, Google Ads, Gmail 등에서 사용되고 있습니다. Safe Browsing의 성공에 이어, 우리는 사용자들이 온라인에서 직면하는 점점 더 정교해지는 위협에 더 잘 대응하기 위해 Chrome에 향상된 안전 브라우징(Enhanced Safe Browsing)을 출시했습니다.

'향상된 보호 모드(Enhanced Protection)'를 활성화하면 추가적으로 받게 되는 보호 기능의 상당 부분은 피싱, 사회공학, 사기 기법에 사용되는 위험한 URL을 탐지하도록 설계된 고급 AI 및 머신러닝 모델에서 비롯됩니다. 이러한 모델들은 수백만 개의 실제 사례를 기반으로 정상 웹사이트와 악성 웹사이트를 구분하도록 훈련되었습니다.

1. 구글 전화 및 구글 메시지 앱

Phone by Google 앱은 알려진 스팸 전화를 자동으로 차단하여 아예 벨이 울리지 않게 하며, '통화 화면(Call Screen)' 기능은 사용자를 대신해 전화를 받아 사기꾼인지 식별할 수 있습니다. 전화를 받더라도 보호는 계속됩니다. 온디바이스(On-device) AI를 사용하여 의심스러운 대화 패턴에 대해 실시간 경고를 제공하는 사기 탐지(Scam Detection) 기능이 작동하기 때문입니다.

사용자의 프라이버시를 보호하기 위해 이러한 처리는 일시적으로(ephemeral) 이루어집니다. 즉, 어떠한 통화 내용도 저장되거나 기기 외부로 유출되지 않습니다. 또한, Android는 출처를 알 수 없는 앱 설치나 보안 설정 비활성화와 같은 고위험 작업을 차단하여 통화 중 발생하는 사회공학적 공격을 차단하는 데 도움을 주며, 사용자가 모르는 사이에 화면이 공유되고 있을 경우 경고를 보냅니다.

Google 메시지 앱의 스팸 보호(Spam protection)는 원치 않는 메시지를 자동으로 필터링하는 보다 광범위한 시스템입니다. 이러한 스팸 보호 메커니즘을 기반으로, '사기 탐지(Scam Detection)'는 더 넓은 범위의 사기 행위를 식별합니다.

중요한 점은, 사기 탐지 기능이 겉보기에는 무해해 보이지만 천천히 사용자를 조종하여 민감한 정보를 공유하거나 자금을 송금하도록 유도하는 '대화형 사기(Conversational scams)'를 특별히 표적으로 삼는다는 것입니다. 이 기술은 온디바이스 AI를 사용하여 실시간으로 대화 패턴을 분석하고 사기의 징후를 찾아냅니다.

이러한 처리는 비공개로 진행되어 대화 내용이 오직 사용자 본인에게만 비공개로 유지됩니다. 이 시스템은 일반적인 마케팅, 프로모션 및 알려진 악성 링크를 포함하여 광범위한 원치 않는 메시지나 대량 메시지를 식별하고 자동으로 차단하도록 설계되었습니다.

안드로이드의 Key Verifier 도구는 사칭범과 사기꾼으로부터 Google 메시지 사용자를 보호함으로써 개인적인 대화에 신뢰를 한 층 더해줍니다. 신뢰할 수 있는 연락처의 QR 코드를 스캔할 수 있게 함으로써, 종단간 암호화(E2EE)된 메시지가 상대방의 실제 본인과 안전하게 공유되고 있다는 확신을 더해줍니다.

사기꾼들 사이에서 유행하는 수법 중 하나는 휴대전화로 직접 전화하거나 메시지 앱 및 소셜 미디어 사이트를 통해 사기성 문자 메시지를 보내는 것입니다. 이러한 메시지는 종종 돈을 요구하거나 갈취하며 사기 사이트로 연결되는 링크를 포함합니다. 이러한 사기를 식별하는 데 도움을 주기 위해, 우리는 이제 서클 투 서치(Circle to Search) 및 렌즈(Lens)에 새로운 기능을 추가했습니다. 이를 통해 사기의 전형적인 징후를 파악하여 기만당하는 일을 방지할 수 있습니다.

6. 금융 앱을 위한 안드로이드 통화 중 사기 방지

금융 앱을 위한 안드로이드의 통화 중 사기 방지 기능은 연락처에 저장되지 않은 번호로 전화를 건 사기꾼이 참여 금융 앱을 사용하는 동안 화면 공유를 유도하여 민감한 금융 정보에 접근하려 할 때 사용자를 보호합니다. 이 기능은 사용자에게 발신자가 사기꾼일 수 있다는 경고를 보내고, 30초 동안 동작을 일시 중지시켜 사기꾼이 조성하는 긴박감을 차단하며, 즉시 통화를 종료하고 화면 공유를 중단할 수 있는 옵션을 제공합니다.

7. 구글 플레이 (Google Play)

구글은 고도화된 AI를 활용해 플레이 스토어에서 악성 앱을 선제적으로 식별하고 거부합니다. 사용자가 유해한 앱을 설치하려고 하면, Google Play Protect가 실시간으로 앱을 스캔하고 기기를 보호하기 위한 알림을 제공합니다. 더 나아가, Google Play Protect의 향상된 사기 방지 파일럿은 사용자가 인터넷 사이드 로딩 소스(웹 브라우저, 메시지 앱 또는 파일 관리자)를 통해 앱을 설치하려 할 때, 금융 사기에 자주 악용되는 민감한 권한을 사용하는 앱을 분석하고 설치를 자동으로 차단합니다.

8. 구글 드라이브 (Google Drive)

스팸 메시지의 99%를 차단하는 Gmail과 마찬가지로, 구글 드라이브의 스팸함(Spam view)은 콘텐츠를 자동으로 스팸함으로 분류하여 위험하거나 원치 않는 파일을 보지 않도록 보호합니다. 이 기능을 통해 파일을 더 쉽게 분리하고 검토할 수 있으며, 어떤 파일을 스팸으로 간주할지 결정하여 원치 않거나 유해한 콘텐츠로부터 안전하게 보호받을 수 있습니다.

9. 비밀번호 및 패스키

최근의 추세는 로그인을 최대한 간편하게 유지하면서 비밀번호를 완전히 벗어나는 것입니다. 따라서 우리는 구글로 로그인 및 패스키**와 같은 현대적인 방법을 사용할 것을 강력히 권장합니다. 패스키는 구글 비밀번호 관리자를 통해 기기 간에 저장 및 동기화할 수 있습니다. 패스키는 피싱에 강하며, 비밀번호 없이 기기 잠금 해제 방식(지문 또는 얼굴 인식 등)만으로 간편하게 로그인할 수 있습니다. 패스키의 편리함과 안전함을 구글 계정과 결합하면, '구글로 로그인'을 사용하여 자주 이용하는 웹사이트와 앱에 로그인할 수 있어 관리해야 하는 계정의 수를 줄일 수 있습니다.

비밀번호 사용을 선호하는 분들을 위해 우리는 2단계 인증(2SV), Google OTP(Authenticator) 앱, 그리고 구글 비밀번호 관리자와 같은 도구를 제공합니다. 이는 비밀번호만으로는 악의적인 행위자가 권한을 얻을 수 없도록 하는 두 번째 방어선을 제공합니다.

10. 구글 계정 복구

강화된 본인 확인을 요구하여 타겟형 온라인 공격으로부터 고가치 정보 및 사용자를 보호하는 고급 보호 프로그램(Advanced Protection Program)을 통해 계정 탈취를 방지하십시오. 또한 교차 계정 보호(Cross Account Protection)를 통해 구글은 사용자가 구글 계정에 연결한 앱 및 서비스와 의심스러운 사건에 대한 보안 알림을 공유할 수 있습니다. 이를 통해 참여 중인 타사 앱 및 서비스는 구글의 의심스러운 사건 탐지 기능을 활용하여 사용자를 온라인에서 더 안전하게 보호할 수 있습니다.

비밀번호를 사용하든 패스키를 사용하든 관계없이, 비밀번호를 잊어버리거나 휴대전화를 분실했을 때를 대비해 계정 복구 옵션을 검토하십시오. 구글 계정 사용이 차단되었을 때 도움을 줄 신뢰할 수 있는 친구나 가족을 선택할 수 있는 복구 연락처(Recovery Contacts) 설정을 고려해 보십시오. 이는 다른 복구 옵션을 사용할 수 없을 때 신뢰하는 사람들에게 도움을 요청할 수 있는 간단하고 안전한 방법입니다.

이러한 기능 중 일부는 특정 국가에서 아직 파일럿 단계에 있지만, 점차 전 세계로 확대 출시할 예정입니다.

요새 방어에서 집단 방어로

사기와의 싸움은 비대칭적입니다. 이제 우리는 공격자들이 AI 자동화의 속도와 규모를 심리적 조작의 정교함과 결합하여 방어선을 돌파하는 모습을 목격하고 있습니다. 방어자들은 기술적 혁신과 인간의 경계심을 통해 이 도전에 맞서고 있으며, 사기꾼보다 한발 앞서 나가기 위해서는 신종 위협을 이해하고 선제적으로 대응책을 개발해야 합니다.

글로벌 사기 네트워크는 은행, 통신사, 온라인 플랫폼, 수사 기관 사이의 정보 격차를 먹고 자라는 거대하고 상호 연결된 범죄 경제입니다. 따라서 이들을 물리치기 위해서는 집단적인 방어 전략이 필수적입니다.

방어자들은 상호적이고 실시간인 데이터 공유 체계를 구축하여, 한 기관의 오남용 보고나 위험 신호가 전체 네트워크의 경보가 되도록 해야 합니다. 우리는 소송, 연구, 사용자 인식 개선 및 고급 도구에 계속 투자하고 있지만, 실질적인 변화를 일으키기 위해서는 업계, 수사 기관, 정부가 협력하여 사기 방지 모범 사례를 법제화해야 한다고 믿습니다.

악의적인 행위자를 저지하는 핵심 동력으로 설계된 다음 두 가지 주요 이니셔티브를 확인해 보시기 바랍니다.

• Global Signal Exchange: 범죄 조직을 추적하고 차단하기 위해 위협 인텔리전스의 전략적 공유를 촉진할 수 있습니다.
• Priority Flagger Program: 금융 서비스 정보 공유 및 분석 센터(FS-ISAC)를 통한 이 프로그램을 통해 사기성 콘텐츠에 대한 전술적 조치를 간소화할 수 있습니다.