'사람들은 사기를 당할까봐 걱정하지 않는다'

Clark Hoefnagels의 할머니는 작년에 $27,000(£21,000)에서 사기를 당했을 때 이에 대해 뭔가 조치를 취해야 한다는 강박감을 느꼈습니다.

“내 가족이 취약한 것 같았고 그들을 보호하기 위해 뭔가를 해야 한다고 느꼈습니다.”라고 그는 말합니다.

“우리 가족을 위해 기술과 관련된 모든 일을 처리해야 한다는 책임감이 생겼습니다.”

그의 노력의 일환으로 캐나다 온타리오에 거주하는 Mr Hoefnagels는 그의 할머니가 인기 있는 AI 챗봇인 ChatGPT를 통해 받은 사기 또는 "피싱" 이메일을 실행했습니다.

그는 그것이 사기로 인식될지 궁금했고, 즉시 그렇게 했습니다.

Clark Hoefnagels는 사기 이메일을 찾아내는 AI 기반 도구를 만들었습니다.

이 세균에서 아이디어가 탄생했고 이후 Catch라는 사업으로 성장했습니다. 사기 이메일을 찾아내도록 훈련된 AI 시스템입니다.

현재 Google Gmail과 호환되는 Catch는 수신 이메일을 검사하여 사기로 간주되거나 그럴 가능성이 있는 이메일을 강조 표시합니다.

ChatGPT, Google Gemini, Claude 및 Microsoft Copilot과 같은 AI 도구는 생성 AI라고도 합니다. 새로운 콘텐츠를 창출할 수 있기 때문입니다.

처음에는 질문, 요청 또는 대화 시작에 대한 응답으로 문자 답장을 보냈습니다. 그러나 생성적 AI 앱은 이제 점점 더 사진과 그림, 음성 콘텐츠를 만들고, 음악을 작곡하고, 문서를 만들 수 있게 되었습니다.

각계각층과 업계의 사람들이 점점 더 이러한 AI를 사용하여 업무를 향상시키고 있습니다. 안타깝게도 사기꾼도 마찬가지입니다.

실제로 다크웹에는 FraudGPT라는 제품이 판매되고 있는데, 이를 통해 범죄자는 은행 관련 피싱 이메일을 만드는 등 다양한 사기를 조장하는 콘텐츠를 만들거나, 개인 정보를 훔치도록 설계된 사기 웹페이지를 맞춤 제작할 수 있습니다.

더 걱정스러운 것은 음성 복제를 사용하는 것입니다. 사랑하는 사람이 재정적 도움이 필요하다는 것을 친척에게 확신시키거나 어떤 경우에는 개인이 납치되어 몸값을 지불해야 한다고 설득하는 데 사용될 수 있습니다.

점점 커지는 AI 사기 문제의 규모에 대해 꽤 놀라운 통계가 나와 있습니다.

은행 시스템을 속이는 데 사용되는 AI 도구에 대한 보고는 2022년에 84% 증가했으며, 이는 사기 방지 기관인 Cifas의 최신 수치에 해당합니다.

미국의 상황도 비슷하다. 이번 달 보고서 에서는 AI가 “사이버 범죄의 정교함을 크게 증가시켰다”고 밝혔다.

연구에 따르면 사기꾼들이 AI를 점점 더 많이 활용하고 있는 것으로 나타났습니다.

이렇게 증가하는 글로벌 위협을 고려하면 Mr Hoefnagels의 Catch 제품이 대중에게 인기를 끌 것이라고 상상할 수 있습니다. 안타깝게도 그런 일은 일어나지 않았습니다.

“사람들은 그것을 원하지 않습니다.”라고 그는 말합니다. “우리는 사람들이 사기를 당한 후에도 사기에 대해 걱정하지 않는다는 것을 알게 되었습니다.

“우리는 15,000달러를 잃은 한 남자와 이야기를 나눴고 그에게 이메일을 받았을 것이라고 말했지만 그는 관심이 없었습니다. 사람들은 어떤 수준의 보호에도 관심이 없습니다.”

Hoefnagels씨는 이 특정 남자가 그런 일이 다시 일어날 것이라고는 생각하지 못했다고 덧붙였습니다.

사기를 걱정하는 집단은 노인들이라고 그는 말한다. 그러나 그는 보호 수단을 구입하기보다는 매우 낮은 기술의 전술, 즉 아이들이 단순히 어떤 것에도 대답하거나 답장하지 말라고 말하는 방식으로 그들의 두려움을 진정시키는 경우가 더 많다고 말합니다.

Hoefnagels 씨는 이러한 접근 방식을 완전히 이해하고 있다고 말했습니다. "할머니에게 일어난 일 이후 우리는 기본적으로 '연락처에 없는 전화는 받지 말고, 더 이상 이메일을 보내지 마세요'라고 말했습니다."

Catch가 직면한 무관심으로 인해 Hoefnagel 씨는 자신의 선택은 기존 금융 상품에 적합한 파트너를 찾거나 사업을 중단하는 것이라고 말했습니다.

개인은 사기에 대해 맹목적으로 반응할 수 있고, 특히 AI를 사용하는 사기꾼이 점점 더 늘어나고 있지만, 은행은 그럴 여유가 없습니다.

1월에 실시된 글로벌 조사에 따르면 금융 회사의 3분의 2는 이제 AI 기반 사기를 "점점 커지는 위협" 으로 보고 있습니다.

한편, 지난해 12월 영국의 별도 연구에서는 " 사기꾼들이 사기 및 대규모 사기 행위에 AI를 채택하는 것은 시간 문제일 뿐 "이라고 밝혔습니다.

다행히도 은행들은 이제 이에 맞서 싸우기 위해 AI를 점점 더 많이 활용하고 있습니다.

노르웨이 스타트업인 Strise가 제작한 AI 기반 소프트웨어는 2019년부터 유럽 은행들이 사기 거래와 돈세탁을 발견하도록 돕고 있습니다. 이 소프트웨어는 매일 수백만 개의 데이터 포인트를 자동으로 신속하게 탐색하여 숨겨진 위험을 드러냅니다.

Strise의 공동 창업자인 Marit Rødevand는 “함께 뭉쳐야 할 퍼즐 조각이 많이 있는데 AI 소프트웨어를 사용하면 검사를 자동화할 수 있습니다.”라고 말합니다.

"이것은 매우 복잡한 비즈니스이며 규정 준수 팀은 최근 몇 년 동안 인력을 대폭 늘렸지만 AI는 이 정보를 매우 빠르게 연결하는 데 도움이 됩니다."

Ms Rødevand는 범죄자보다 한 발 앞서 나가는 것이 중요하다고 덧붙입니다. “범죄자는 입법이나 규정 준수에 신경 쓸 필요가 없습니다. 또한 은행은 데이터 공유에도 능숙하지만, 은행은 규제 때문에 공유할 수 없기 때문에 범죄자들이 더 빨리 새로운 기술에 뛰어들 수 있습니다.”

Marit Rødevand는 자신과 같은 기업이 사이버 범죄자보다 앞서 나가기 위해 싸워야 한다고 말합니다.

은행이 사기에 맞서 싸우는 데 도움이 되는 AI 소프트웨어를 만드는 또 다른 기술 회사인 피처스페이스(Featurespace)는 평범하지 않은 것을 발견했다고 말합니다.

영미권 기업의 CEO인 Martina King은 “우리는 사기꾼의 행동을 추적하는 것이 아니라 실제 고객의 행동을 추적하고 있습니다.”라고 말합니다.

“우리는 좋은 노멀이 어떤 모습인지에 대한 통계 프로필을 구축합니다. 은행이 보유한 데이터를 기반으로 무언가가 정상적인 행동인지, 변칙적이고 비정상적인 행동인지 확인할 수 있습니다.”

이 회사는 현재 HSBC, NatWest, TSB 등의 은행과 협력하고 있으며 27개국에서 계약을 맺고 있다고 밝혔습니다.

온타리오로 돌아온 Hoefnagels 씨는 처음에는 점점 더 커지는 사기 위험을 이해하지 못하는 대중이 많아져서 좌절했지만 이제는 사람들이 자신에게 그런 일이 일어날 것이라고 생각하지 않는다는 사실을 이해했다고 말했습니다.

"이로 인해 개인에게 더 공감하게 되었고, [대신에] 기업과 정부에 더 많은 압력을 가하게 되었습니다."