딥페이크 사칭 사기가 새로운 사기 물결을 몰고오고 있습니다.

Sep 02, 2023

컴퓨터로 생성된 어린이의 목소리는 너무 현실적이어서 부모를 속일 수 있습니다. 얼굴 ID로 보호되는 시스템에 침투할 수 있는 소셜 미디어의 사진으로 만든 마스크. 공상과학 소설에나 나오는 것처럼 들리지만, 이러한 기술은 이미 일반 소비자를 노리는 범죄자들에게 사용되고 있습니다.

사기 기술의 확산은 규제 당국, 경찰, 금융 업계 고위직에 있는 사람들을 놀라게 했습니다. 특히 인공지능이 사기 행위에 '과속'을 일으키고 있다고 지난 6월 미국 연방거래위원회 리나 칸(Lina Khan) 위원장이 경고하면서 법 집행 기관의 경계를 강화할 것을 촉구했습니다.

AI가 공개되어 인터넷에 연결된 모든 사람이 사용할 수 있게 되기 전에도 세계는 금융 사기의 폭발적인 증가를 막기 위해 고군분투하고 있었습니다. 미국에서만 탐지 및 예방에 대한 기록적인 투자에도 불구하고 지난해 소비자는 약 88억 달러의 손실을 입었습니다. 이는 2021년보다 44% 증가한 수치입니다. Wells Fargo & Co.와 Deutsche Bank AG를 포함한 주요 은행의 금융 범죄 전문가들은 곧 다가올 사기 붐이 업계가 직면한 가장 큰 위협 중 하나라고 말합니다. 금융 업계는 사기 퇴치 비용을 지불하는 것 외에도 화상을 입은 고객의 신뢰를 잃을 위험이 있습니다. 호주 최대 은행인 호주 연방 은행(Commonwealth Bank of Australia)에서 사기 관리 책임자인 제임스 로버츠(James Roberts)는 “이것은 군비 경쟁입니다.”라고 말합니다. “우리가 이기고 있다고 말하는 것은 무리일 것입니다.”

사기의 역사는 확실히 무역과 사업의 역사만큼 오래되었습니다. 가장 먼저 알려진 사례 중 하나는 2,000여 년 전 그리스 해상 상인이 보험금을 사기 위해 배를 침몰시키려 했던 사건입니다. 신문 기록 보관소를 뒤돌아 보면 속기 쉬운 사람들의 돈을 떼어내려는 수많은 시도를 발견하게 될 것입니다. 그러나 더 넓은 경제와 마찬가지로 사기라는 암울한 경제에서는 불안정한 혁신이 주기적으로 폭발합니다. 새로운 기술은 사기 비용을 낮추고 범죄자가 준비되지 않은 표식을 더 많이 획득할 수 있게 해줍니다. 이메일은 전 세계의 모든 컴퓨터 사용자에게 잃어버린 재산을 구하는 데 도움이 필요한 어려운 왕자들을 소개했습니다. 암호화폐는 소셜 미디어를 통해 바이러스로 퍼진 Ponzi 사기의 꽃을 피웠습니다.

AI의 폭발적인 증가는 새로운 도구뿐만 아니라 삶을 변화시키는 재정적 손실 가능성도 제공합니다. 그리고 기술이 더욱 정교해지고 새로워진다는 것은 잘 믿는 사람뿐만 아니라 모든 사람이 잠재적인 피해자가 된다는 것을 의미합니다. 코로나19로 인한 봉쇄로 인해 전 세계적으로 온라인 뱅킹 도입이 가속화되었으며, 은행 지점에서의 대면 상호작용은 휴대폰과 노트북으로 대체되었습니다. 이는 금융 회사와 고객에게 비용 절감과 속도 향상뿐만 아니라 사기꾼에게 기회를 제공하는 이점을 가져왔습니다.

새로운 기술 중 일부는 현재의 기성 기술이 수행할 수 있는 수준을 넘어서며, 다양한 사기꾼이나 국가 행위자를 상대할 때 이를 구별하는 것이 항상 쉬운 것은 아닙니다. Microsoft Corp의 사이버 보안 정책 및 보호 총괄 관리자인 Amy Hogan-Burney는 “사이버 범죄와 관련하여 훨씬 더 정교해지기 시작했습니다.”라고 말했습니다.

전 세계적으로 사기를 포함한 사이버 범죄 비용은 올해 8조 달러에 달할 것으로 예상되며 이는 세계 3위의 경제 대국인 일본의 경제 생산량을 능가합니다. 연구원인 Cybersecurity Ventures에 따르면 2025년에는 그 규모가 10조 5천억 달러에 이를 것이며 이는 10년 만에 3배 이상 증가한 것입니다.

시드니 교외의 레드펀(Redfern)에서 500명이 넘는 로버츠 팀 중 일부는 AI가 전투를 어떻게 재구성하고 있는지 직접 듣기 위해 단점을 도청하면서 하루를 보냅니다. 사랑하는 사람에게 가짜 돈을 요구하는 것은 새로운 것이 아닙니다. 하지만 이제 부모들은 AI로 자녀의 목소리를 복제해 실제 목소리와 구별할 수 없게 한다는 전화를 받습니다. 사회 공학 사기라고 알려진 이러한 수법은 적중률이 가장 높고 사기꾼에게 가장 빠른 수익을 안겨주는 경향이 있습니다.

사람의 목소리를 복제하는 것이 점점 쉬워지고 있습니다. 사기꾼이 누군가의 소셜 미디어나 음성 메일 메시지의 오디오 클립에서 짧은 샘플(최대 30초)을 다운로드하면 온라인에서 쉽게 사용할 수 있는 AI 음성 합성 도구를 사용하여 필요한 콘텐츠를 만들 수 있습니다.