경제 일반경제

AI로 디지털 성착취물 삭제 지원 9.7배 늘었다

정상균 기자

파이낸셜뉴스

성평등부, AI기반 24시간 탐지 도입
올 4월부터 9만6000여건 삭제 지원
내년 시스템 고도화, 대상 늘리기로

[파이낸셜뉴스] 인공지능(AI) 기반의 아동·청소년 온라인 성착취 탐지·신고 시스템 도입으로 불법촬영물 등 삭제 처리 속도가 크게 높아졌다.

10일 성평등가족부는 AI 기반의 아동·청소년 온라인 성착취 탐지·신고 시스템을 도입한 결과, 종사자 1인당 하루 평균 아동·청소년 성착취물 삭제 요청 처리 건수가 기존보다 9.7배 증가했다고 밝혔다.

성평등부에 따르면 지난 4월 본격 운영해 6개월 간 아동·청소년 성착취물 9만6000여건의 삭제를 지원했다. 앞서 지난해에는 종사자가 수작업으로 모니터링·분석해 아동·청소년 성착취물 4만5000여건의 삭제를 지원했다.

이는 종사자 1명이 하루에 평균 202건의 아동청소년 성착취물에 대한 삭제 요청을 처리한 것으로, AI 시스템 도입 전 일 평균 처리건수(20.8건) 대비 약 9.7배 증가한 수치이다.

이 시스템은 AI를 활용해 온라인상의 성착취물과 유인정보를 24시간 자동으로 탐지·분석한다. 사회관계망서비스(SNS)와 랜덤채팅앱 등에서 아동·청소년 성착취물과 유인정보를 자동으로 수집해 분석한다. 이후 담당자의 검토를 토대로 유포 현황 모니터링과 삭제 요청 등이 진행된다.
성평등부와 한국여성인권진흥원은 AI 탐지체계를 고도화하고, 중앙디지털성범죄피해자지원센터의 기술을 지역 현장까지 확대해 디지털성범죄 피해자 지원을 강화한다는 방침이다.

아울러 성평등부는 과학기술정보통신부와 협업해 내년까지 대규모 데이터를 학습한 AI 모델을 활용해 탐지·판별 정확도를 높이고, 탐지 대상 플랫폼을 대폭 확대할 계획이다.

원민경 성평등부 장관은 "앞으로도 AI 등의 최신 기술을 현장에 적극 도입해 대응 속도와 정확도를 높이고 보다 촘촘한 지원체계를 구축해 피해자의 신속한 일상 회복을 위해 최선을 다하겠다"고 말했다.