“월 90$ 구독이면 컴맹도 해커된다”…AI 사이버 범죄 기승

피싱·딥페이크·음성 복제를 통해 사이버범죄는 더 빠르고, 더 싸고, 더 대규모로 만들어지고 있다. AI로 범죄의 규모는 커졌고, 더욱 정교해졌다고 미국 경제지 월스트리트저널(WSJ)이 최근 보도했다. 범죄자들은 AI를 이용해 소셜미디어 등을 분석, 인생의 큰 변화를 겪고 있는 사람들을 찾아내는 등 표적 선정 능력도 향상됐다.

WSJ에 따르면, 당신의 노후 자금을 빼앗거나 기업의 기밀을 캐내려는 사이버 범죄자들은 점점 더 똑똑하고 강력해지고 있다. AI의 급속한 발전 덕분이다.

 

AI는 온라인 광고를 개인 맞춤형으로 보여준다. 이와 비슷하게, 악의적인 행위자들 역시 AI를 활용해 개인 정보를 수집하고 이를 바탕으로 대규모이면서도 맞춤형 사기를 빠르게 만들어낸다. 

앤스로픽, 오픈AI, 구글 등 AI 기업들은, 범죄자들이 자사 기술을 악용하고 있다고 밝혔다. 이들 범죄자는 AI기업들을 이용해 △정교한 피싱 공격을 수행하고, △악성코드를 제작하며, △다양한 사이버 공격을 감행하고 있다는 것. 전문가들은 이와 유사한 AI 도구가, 기업 임원의 음성과 영상을 딥페이크로 만들어 직원들을 속이는 데도 활용되고 있다고 말한다. 기업과 정부 기관은 머지않아 인간의 개입 없이도 네트워크 취약점을 찾아내고 공격을 계획·실행하는 법을 학습하는 ‘AI 에이전트 군단’에 직면할 가능성이 있다고 WSJ는 진단했다. 

AI는 사이버 범죄자들의 효율성을 높여 범죄를 대규모로 확장할 수 있게 한다. AI 에이전트 ‘클로드’를 개발한 앤스로픽은 AI가 공격의 속도, 범위, 자동화를 크게 증폭시킨다고 말한다.

비영리 기술 싱크탱크인 ‘데이터와 사회’의 연구책임자 앨리스 마윅은 “진짜 변화는 범위와 규모”라며 “사기는 더 커지고, 더 표적화되고, 더 설득력 있어졌다”고 말한다. 카네기멜런대에서 대형언어모델의 사이버 공격·방어 활용을 연구하는 브라이언 싱어 박사과정 연구원에 따르면, 현재 전 세계 스팸과 피싱 메시지의 절반에서 3/4이 AI로 생성되고 있다.

피싱 공격은 갈수록 더 그럴듯해지고 있다. 예컨대 특정 기업의 내부 커뮤니케이션을 학습한 AI는, 임원의 말투를 그대로 흉내 내거나 공개 데이터를 활용해 시사 이슈를 언급하는 수천 통의 ‘회사 스타일’ 메시지를 자동으로 작성할 수 있다.

AI는 문법과 표현을 매끄럽게 다듬어, 과거에는 어색한 언어 때문에 들통났던 해외 사기범들의 약점을 보완해준다. 또한, 딥페이크와 음성 복제를 통해 타인이라고 사칭하고, 동일한 가짜 인물로 여러 사람을 동시에 노릴 수도 있다. 구글 위협 인텔리전스 그룹의 수석 분석가 존 헐트퀴스트는 이를 “규모의 신뢰성(credibility at scale)”이라고 표현한다.

범죄자들은 취약한 표적을 찾는 능력도 강화했다. AI를 활용해 소셜미디어를 스캔함으로써 이혼, 가족 사망, 실직 등 인생의 큰 변화를 겪는 사람들을 찾아낸다. 그리고, 이들을 연애 사기·투자 사기·구직 사기의 표적으로 삼는다.

AI는 사이버범죄의 진입 장벽을 낮췄다. 다크웹에는 기술 지식이 거의 없는 사람도 월 90달러(약 12만 9402 원) 정도만 내면, 범죄용 AI 도구를 임대하거나 구매할 수 있는 시장이 형성돼 있다고 WSJ는 전했다.

카네기멜런대 소프트웨어·사회 시스템 학과장 니콜라스 크리스틴은 “개발자들은 공격 플랫폼을 구독 형태로 판매하며, 요금제와 고객 지원까지 제공한다”고 말한다. 웜지피티(WormGPT), 프러드지피티T(FraudGPT), 다크지피티(DarkGPT) 같은 이름의 도구들은 악성코드 제작과 피싱 캠페인에 사용된다. 일부는 해킹 튜토리얼까지 제공한다. 사이버보안 기업 다크트레이스의 보안·AI 전략 부사장 마거릿 커닝햄은 “코딩을 할 줄 몰라도 된다. 도구를 어디서 구하는지만 알면 된다”고 말한다.

최근에는 ‘바이브 코딩(vibe-coding)’ 또는 ‘바이브 해킹’이라 불리는 흐름도 나타났다. 이는 다크웹에서 도구를 사는 대신, AI를 이용해 직접 악성 프로그램을 만드는 방식이다. 앤스로픽은 기술 역량이 거의 없는 범죄자들이 클로드를 이용해 랜섬웨어를 만들려던 사례를 여러 차례 차단했다고 밝혔다.

AI는 범죄 조직을 어떻게 바꾸고 있는가? AI 등장 이전에도 사이버 범죄는 일종의 ‘분업 시장’처럼 운영됐다. △접근 브로커는 기업 네트워크 침입 권한을 팔고, △침투팀은 데이터를 탈취하며, △‘랜섬웨어 서비스형(RaaS)’ 운영자는 악성코드를 배포하고 협상을 담당해 수익을 나눴다.

AI가 바꾼 것은 이 생태계의 속도, 규모, 접근성이다. 과거에는 인간의 기술이 필요했던 작업들이 자동화되면서, 조직은 △인력을 줄이고 △위험을 낮추며 △수익성을 극대화할 수 있게 됐다. 크리스틴 교수는 “AI는 숙련 노동 없이도 처리량을 늘리는 또 하나의 산업화 단계”라고 설명한다.

AI는 스스로 사이버 공격을 수행할 수 있는가? 짧은 답은 “아직은 아니다”라고 WSJ는 밝혔다. 전문가들은 이를 완전 자율주행차 개발에 비유한다. 95%는 달성됐지만, 언제 어디서나 완전히 자율적으로 움직이는 마지막 단계는 아직 남아 있다는 것이다.

카네기멜런대 연구팀은 올해 앤스로픽의 지원을 받아, AI를 이용해 악명 높은 ‘에퀴팩스(Equifax)’ 정보 유출 사고를 실험실에서 재현했다. 미국의 소비자 신용평가사 에퀴팩스는,  2017년 해킹 사건으로 미국 성인의 절반이 넘는 1억 4300만 명의 신용정보가 한 번에 유출돼 미 연방거래위원회(FTC)에 최대 7억 달러(약 1조 81억 4000만 원)의 합의금을 지급키로 한 바 있다. 이를 이끈 싱어는 “매우 큰 도약”이라고 평가한다.

실험실에서는 AI가 스스로 공격을 계획하고 실행할 수 있음이 입증됐지만, 현실 세계에서는 아직 그 단계에 이르지 않았다는 게 대체적 견해라고 WSJ는 설명했다. 다만 앤스로픽은 최근 클로드가 거의 자율적으로 공격을 수행한 사례가 있었다고 밝혀, AI가 자율성에 점점 가까워지고 있음을 시사했다. 싱어는 “2~3년 안에 사이버 보안은 AI 대 AI의 싸움이 될 것”이라며 “인간은 속도를 따라갈 수 없게 될 것”이라고 말했다.

방어 방식도 바뀌어야 할까? 해커들이 AI를 악용하는 만큼, 같은 기술이 방어에도 활용될 수 있다고 AI 기업들은 말한다. 새로운 ‘AI 군비 경쟁’이 시작된 셈이다.

앤스로픽과 오픈AI는 소프트웨어 코드를 상시 점검하며 취약점을 찾는 자율형 AI 모델을 개발 중이다. 변경 승인에는 여전히 인간이 필요하다. 최근 스탠퍼드대 연구진이 만든 AI 봇은 네트워크 보안 취약점 탐지에서 일부 인간 테스터보다 뛰어난 성과를 냈다. 그럼에도 모든 침해를 막을 수는 없기 때문에, 공격을 받아도 기능을 유지할 수 있는 ‘복원력 있는 네트워크’를 구축해야 한다고 구글의 헐트퀴스트는 강조한다.

일상적으로 이메일과 문서를 다루는 직장인이나 개인 사용자에게는 여전히, 기본적인 보안 습관이 최선의 방어라고 WSJ는 강조했다. 의심스러운 첨부파일은 발신자를 별도로 확인하기 전까지 열지 말고, 다중 인증을 사용해야 한다. 상사나 가족이 돈 이체를 요구하는 음성·이메일·영상 메시지를 받았다면, 반드시 직접 확인해야 한다. 마윅은 “생성형 AI가 가짜를 너무 그럴듯하게 만들기 때문에, 의심 자체가 최고의 방어 수단”이라고 WSJ에 말한다.

권세인 기자