몇초면 사진 합성·목소리 조작… 범죄 수단 된 딥페이크 기술[AI의 역습]

(4)·끝 디지털범죄 급증
생성형AI로 이미지 편집 쉬워져
관련 성범죄 피해 작년 16.8% ↑
가족 목소리 조작한 보이스피싱
선거철 가짜 영상들도 넘쳐나
경찰, AI 활용해 맞대응 '안간힘'
서버 해외 우회땐 수사 한계

#. 공무원 A씨는 자신도 모르는 사이 직장 상사의 연인이 돼 있었다. 상사 메신저 프로필에 자신과 상사가 포옹하는 모습의 사진이 올라오면서 주변 사람들은 그렇게 인식했다. 그러나 두 사람은 사적으로 교제하는 사이가 아니다. 당연히 이 같은 사진을 찍은 적도 없다. 알고 보니, 상사가 회사 조직도에 있던 A씨 사진을 내려받아 인공지능(AI)으로 만든 가짜였다.

생성형 AI가 급속도로 발전하면서 A씨와 같은 딥페이크·보이스피싱 범죄 피해가 늘고 있다. 자녀 울음소리를 조작해 금품 협박하거나 선거에서 다른 후보를 비방하기 위해 영상을 합성하는 사례도 빈번하다. 정부가 최근 AI 기반 대응망을 넓히는 것도 이런 추세를 감안했다.

29일 성평등가족부에 따르면 지난해 중앙디지털성범죄피해자지원센터(중앙디성센터)가 접수한 디지털 성범죄 피해는 1만7629건으로 전년 1만6833건 대비 4.7% 증가했다. 이 중 딥페이크 등 합성·편집 피해는 2024년 1384건에서 지난해 1616건으로 16.8% 늘어났다.

딥페이크 생성이 쉬워지고 피해 규모가 확대되자 센터는 지난 1일 'AI 기반 온라인 성착취 선제적 대응 시스템'을 도입했다. AI로 SNS와 채팅앱·오픈채팅방에 게시된 성착취 정보를 24시간 자동 수집해 상담·신고·삭제지원으로 연계하는 방식이다. 또 AI 딥페이크 탐지 솔루션을 적용해 피해자가 인지하지 못한 합성물까지 사전 차단 중이다.

선거 영역에서도 딥페이크 대응이 본격화되고 있다. 후보자의 얼굴·몸짓·목소리를 합성한 영상과 더불어 AI 음성을 덧씌운 로고송도 속출하고 있기 때문이다. 앞서 중앙선거관리위원회는 딥페이크 영상 삭제 요청은 2024년 총선 388건에서 2025년 대선 1만510건으로 급증했다고 밝힌 바 있다. 이에 선관위는 오는 6월 지방선거에서 행정안전부와 국립과학수사연구원이 공동 개발한 'AI 딥페이크 탐지 분석 모델'을 활용할 예정이다.

보이스피싱 범죄 역시 AI와 접목돼 정교해지고 있다. 경찰청 추산 지난해 보이스피싱 피해액은 사상 최초 1조원을 넘겼다. 최근 AI로 아이의 울음소리나 목소리를 조작해 "자녀를 납치했다"고 속인 뒤 부모에게 송금을 요구하는 수법까지 등장했다. 이에 통신사와 경찰의 합동 대응이 강화되는 추세다. KT의 경우 자체 AI 모델로 피싱 의심번호를 자동 선별해 경찰에 제공하고, 경찰은 이를 긴급 차단하는 체계를 갖췄다. 올해 KT망 기준 총 9822건의 피싱 의심번호가 탐지돼 차단 조치됐으며, 전체 피싱 피해 신고는 시행 전·후 6주 기준 1만496건에서 7843건으로 약 2700건(25%) 감소했다. LG유플러스도 지난해 보이스피싱 조직이 운영하는 악성 앱 서버 800개에 접속한 이용자 3만3000명 정보를 경찰에 전달했다.

경찰은 대규모 연구개발(R&D)을 통해 AI 범죄 대응 역량 강화에 나서고 있다. 올해 경찰청 R&D 예산은 682억1200만원 규모로, 딥페이크 탐지와 피싱 범죄 추적 기술 고도화, AI 모델 포렌식 등에 투입된다. 다크웹·가상자산을 활용한 마약 거래 등 신종 범죄에 대한 수사 기술도 개발할 계획이다. AI 범죄가 국경을 넘어 확산되면서 국제공조의 중요성이 커지고 있다. 중앙디성센터에 따르면 삭제지원 과정에서 수집된 불법 유해 사이트 2만6658개 중 70.8%가 미국 호스팅 기반으로 운영됐다. 센터는 미국 실종학대아동방지센터(NCMEC), 영국 인터넷감시재단(IWF) 등과 협력해 국외 유포 피해영상물을 삭제 중이다.

다만 해외 서버를 경유한 유포 구조상 단일 국가 대응만으로는 한계가 있다. 특히 불법 사이트 운영자들이 콘텐츠전송네트워크(CDN)를 이용해 실제 서버 위치를 숨기는 사례가 늘면서 추적과 삭제, 가해자 특정이 지연되는 문제도 있다.

경찰 관계자는 "국가 간 공조 절차와 플랫폼 협조에 시간이 걸리는 데다 통신비밀보호법과 개인정보보호법에 따른 절차적 제약이 존재해 수사가 쉽지 않다"고 전했다.

[e-mail] 박성현 최승한 기자