규제 빈틈 속 활개치는 딥페이크 범죄…8월까지 누적 심의 건수 작년 연간 추월
올해 1~8월 딥페이크 성범죄물 심의 1만7000건 돌파
8개월 만에 작년 연간 건수 추월
해외 불법 사이트 등에 집중
[파이낸셜뉴스] 올해 1~8월 인공지능(AI)을 활용해 제작된 딥페이크 성범죄물에 대한 누적 심의 건수가 지난해 연간 규모를 넘어선 것으로 나타났다. 특히 해외 불법 사이트 등을 대상으로 한 심의가 대부분을 차지하면서 불법 영상물의 유통 차단과 피해자 보호를 위한 대응 강화가 요구되고 있다.
17일 국회 과학기술정보방송통신위원회 소속 이연희 더불어민주당 의원이 방송미디어통신심의위원회에서 제출받은 자료에 따르면 올해 1~8월 딥페이크 성범죄물 심의 건수는 1만7378건으로 집계됐다. 지난해 전체 심의 건수인 1만5808건을 이미 10% 가량 웃도는 수준이다.
딥페이크 성범죄물 심의는 지난 2021년 1913건에서 2024년에는 2만3109건까지 급증했다. 지난해(1만5808건) 일시적으로 감소했지만, 올해 들어 다시 빠른 증가세를 보이고 있다.
심의 대상은 해외 불법·음란 사이트와 개인 간 파일공유(P2P) 사이트 등에 집중됐다. 올해 심의 건수 가운데 이들 사이트를 포함한 '기타' 유형이 1만7116건으로 전체의 약 98.5%를 차지했다. 엑스(X·옛 트위터)는 138건, 텔레그램은 124건으로 집계됐다.
이에 해외 플랫폼을 통한 불법 영상물 유통에 대한 대응이 주요 과제로 떠오른다. 고광헌 방송미디어통신심의위원장은 지난 12일 국정감사에서 불법 촬영물과 딥페이크 성범죄 영상물의 확산을 막기 위해 해외 플랫폼의 불법 정보 삭제·차단 실효성을 높이겠다는 입장을 밝혔다.
이 의원은 "딥페이크 성범죄물 심의 건수가 지난해 연간 실적을 넘어선 만큼 관련 현황과 대응 체계를 면밀히 점검해야 한다"며 "피해 확산 방지와 피해자 보호를 위한 실효성 있는 대응이 필요하다"고 말했다.
[email protected] 김현지 기자
