평범한 가족사진이 순식간에 누드로…SNS 습격한 '누디피케이션' 주의보
[파이낸셜뉴스] 인공지능(AI) 기술이 급속도로 발전하면서 SNS에 올린 평범한 아동·청소년의 일상 사진이 딥페이크 성착취물 제작에 무차별적으로 악용되고 있다는 강력한 경고가 나왔다.
4일(현지시간) 가디언과 데일리메일 등 현지 언론에 따르면, 영국 국가범죄청(NCA)과 인터넷감시재단(IWF)은 AI 기술과 아동 이미지를 결합한 성착취물 범죄가 폭발적으로 증가함에 따라 부모와 보호자를 위한 새로운 '온라인 안전 지침'을 공표했다.
인터넷감시재단(IWF)의 통계는 충격적이다. 재단 분석가들이 지난해 확인한 AI 생성 아동 성착취 영상 및 이미지는 총 3440건에 달했다. 이는 불과 1년 전인 2024년 단 13건에 불과했던 것과 비교하면 수백 배 이상 폭증한 수치다. 또 다른 조사에서는 실제 아동의 모습과 구별하기 힘들 정도로 정교하게 제작된 AI 아동 성착취물 범죄가 해마다 두 자릿수 이상 증가하고 있는 것으로 나타났다.
범죄자들은 주로 SNS나 인터넷에 전체 공개로 올라온 아이들의 일상 사진을 무단 수집한 뒤, 옷을 벗기는 이른바 '누디피케이션(Nudification)' AI 툴을 악용하고 있다.
실제 피해 사례도 잇따르고 있다. 영국의 아동 상담기관인 '차일드라인'에는 한 15세 소녀가 낯선 이로부터 자신의 인스타그램 사진과 침실 배경을 그대로 합성한 가짜 나체 사진 유포 협박을 받았다는 신고가 접수됐다. 최근에는 학교 홈페이지에 게시된 학생들의 단체 사진을 AI로 조작한 뒤 이를 온라인에 퍼뜨리겠다며 학교 측을 직접 협박한 사건까지 발생해 영국 사회에 큰 충격을 안겼다.
이처럼 아동을 타깃으로 한 온라인 범죄가 심각해지자 영국 정부 역시 강력한 규제 칼날을 빼 들었다. 키어 스타머 영국 총리는 최근 16세 미만 아동의 SNS 접근을 원천 금지하는 방안을 검토·발표하는 등 국가 차원의 아동 온라인 보호 대책을 대폭 강화하고 있다.
팀 라이트 NCA 관계자는 "상당수 부모가 자녀의 귀여운 일상이나 가족사진이 성범죄자들의 표적이 될 수 있다는 사실을 전혀 인지하지 못하고 있다"며 인식 전환의 시급성을 강조했다.
댄 섹스턴 IWF 최고기술책임자(CTO) 역시 "부모들에게 아이 사진을 인터넷에 올리지 말라고 권고하는 것이 매우 조심스럽고 불편한 일이지만, 현재로서는 이 외에 다른 대안이 없다"며 "일반적인 방법으로는 온라인에 한 번 올라간 이미지의 무단 복제와 조작을 완벽히 막을 방어벽이 존재하지 않기 때문"이라고 경고했다.
두 기관은 범죄 피해를 원천 차단하기 △SNS 계정 즉시 '비공개' 전환 △기존 게시물 및 동의서 재점검 △주변 지인들과의 명확한 기준 설정 등 부모들이 즉시 실천해야 할 실무 지침을 제시했다.
moon@fnnews.com 문영진 기자
기자 정보
