[단독]서울시, '그루밍 탐지' AI 앱 만든다…통신사와 협업, 자동 설치 추진

AI 온라인 그루밍 자동감시 SOS 앱 예고 딥페이크 검출 'AI 서울 안심 아이' 개발도

[서울=뉴시스] 권창회 기자 = 서울 중구 서울시청 전경. 2023.07.17. [e-mail]

[서울=뉴시스] 박대로 기자 = 아동과 청소년을 상대로 한 그루밍 성범죄가 증가하는 가운데 서울시가 인공지능으로 이를 탐지하는 기술을 개발한다.

'그루밍'(환심형 성범죄)이란 성착취 등을 목적으로 유대관계를 쌓는 행위를 가리킨다.

10일 서울시에 따르면 시는 올해부터 '인공지능(AI) 온라인 그루밍 자동감시 SOS 앱'을 개발해 보급한다. 보급 대상은 온라인 이용 아동과 청소년, 부모다.

청소년이 많이 이용하는 SNS, 오픈채팅방 등에서 성범죄로 유인하는 대화가 감지될 경우 AI가 위험성을 알리고 동시에 이를 부모에게 통보한다.

시는 주요 통신사와 협업해 내년부터 앱 자동 설치를 추진하는 것으로 파악됐다.

이 밖에 시는 딥페이크(인공 지능 조작 영상)를 자동 검출하는 'AI 서울 안심 아이(Seoul Safe Eye)'를 개발한다. 이 기술을 활용하면 본인 사진 온라인 유포 여부를 확인할 수 있고 딥페이크 피해 영상물을 검색할 수 있다.

아울러 시는 디지털 성범죄 피해 영상물 'AI 자동 신고 시스템'을 개발한다. 인공지능이 피해 영상물을 검색한 뒤 결과 보고서를 작성하고 자동으로 삭제 신고까지 하는 기술이다.

시는 "인공지능 기술을 활용해 최근 급속 확산되고 있는 딥페이크 등 디지털 성범죄에 선제적으로 대응하고 시민 불안감을 해소하겠다"고 밝혔다.

☞공감언론 뉴시스 [e-mail] <저작권자ⓒ 공감언론 뉴시스통신사. 무단전재-재배포 금지.>