(서울=뉴스1) 배지윤 기자 = AI(인공지능) 기반 합성기술이 급속도로 발전하면서 단 몇 분만에 육안으로 식별이 불가능한 딥페이크가 심각한 사회문제로 대두되고 있다.
특히 내년 전국동시지방선거를 앞두고 딥페이크의 정치적 악용이 선거 공정성을 심각하게 훼손할 수 있다는 우려가 제기되고 있다.
22일 디지털 범죄 대응 전문기업 라바웨이브는 2026년 전국동시지방선거를 앞두고 딥페이크 기술의 정치적 악용 가능성에 대해 경고하며 선거의 공정성이 심각하게 훼손될 수 있다고 우려를 표했다.
실제 지난해는 딥페이크 범죄가 급증한 해로 기록됐다. 청소년들이 지인(학생), 교원 및 연예인 등 타인의 얼굴을 음란물과 합성한 영상물 또는 이미지를 불특정 다수에게 판매하거나 유포하는 등 디지털 성범죄 피해가 폭발적으로 증가했고 이러한 범죄가 음성화, 조직화되면서 피해 규모를 가늠하기 어려운 상황이 되었다.
그러나 딥페이크의 악용은 여기서 멈추지 않고 전국 지방의회 의원들의 사진을 딥페이크 영상물 등으로 제작해 유포를 빌미로 금전을 요구하는 사태까지 발생하면서 범죄의 양상이 정치권으로 확대됐다. 탄핵정국 당시에는 대통령 부부의 딥페이크 영상물이 무차별적으로 대중에게 공개되기도 했다.
특히 올해 과학기술정보통신위원회 국정감사장에서 현역 국회의원과 과학기술부장관의 딥페이크 영상물이 상영됐다. 이에 내년 전국지방선거에서 가짜뉴스가 포함된 딥페이크 영상물 등으로 인한 선거의 공정성 심각하게 훼손할 수 있다는 우려를 증폭시켰다.
문제는 딥페이크 영상이 유권자들의 인식에 미치는 영향이 즉각적이고 광범위하다는 점이다. 한 번 유포된 허위 정보는 빠르게 확산되며, 나중에 사실이 아니라고 밝혀지더라도 이미 형성된 부정적 이미지를 되돌리기는 극히 어렵기 때문이다.
현재 AI 산업 발전을 위해 규제를 최소화하면서 딥페이크 등 AI 악용을 막는 AI기본법 시행을 앞두고 있지만, AI를 개발하거나 이용해 제품·서비스를 제공하는 사업자가 아닌 개인은 규제대상에서 제외돼 있다.
게다가 현행 법체계에서는 딥페이크 영상이 유포된 이후에나 몀예훼손·허위사실공표·선거법 위반 등으로 처벌이 가능한데, 선거라는 특수한 상황에서 선거일정이 종료된 이후에 범인이 검거되어 처벌을 받더라도 이미 왜곡된 선거결과는 되돌릴 수 없다.
이와 관련해 라바웨이브 관계자는 "지방선거와 같이 후보자 수가 많고 선거구가 전국에 분산되어 있는 상황에서 후보자에 대한 영상물이나 이미지를 실시간으로 모니터링하고 허위 또는 비방의 딥페이크 생성물이 발견되면 즉각 대응 및 조치를 할 수 있어야 한다"고 진단했다.
이어 "모니터링은 수작업으로 불가능하고 '라바스캐너'와 같은 자동화된 AI 기반 모니터링 시스템을 통해 대규모 감시와 대응을 통해 선거의 공정성에도 기여할 것으로 기대한다"고 덧붙였다.
※ 저작권자 ⓒ 뉴스1코리아, 무단전재-재배포 금지