IT 인터넷/SNS

네이버, 디지털 성범죄 확산 방지 캠페인 진행

박소현 기자

파이낸셜뉴스

입력 2020.07.24 11:24

수정 2020.07.24 11:24

관련종목▶

네이버 제공
네이버 제공

[파이낸셜뉴스] 네이버가 디지털 성범죄 피해 예방을 위해 관련 검색어를 입력하면 2차 피해를 막기 위한 피해자 지원 정보를 우선적으로 노출한다고 24일 밝혔다.

특히 네이버는 또 디지털 성범죄 확산 방지를 위한 캠페인을 진행하면서 ‘일반인 몰래카메라’, ‘일반인 불법 촬영물’ 등과 같은 키워드까지 캠페인 노출 범위를 확대해 성범죄 2차, 3차 피해를 막기 위한 노력에 앞장선다는 방침을 세웠다.

이미 네이버는 서비스 초기부터 ‘네이버 운영원칙’에서 불법게시물 제한과 관련한 내용을 명시한 이후 플랫폼 상에서의 음란, 불법 콘텐츠 및 아동, 청소년을 대상으로 한 음란물 유통 방지를 위해 노력을 지속했다.

지난 2018년부터는 이용자가 이해하기 쉽도록 약관을 명확하게 변경하고 ‘사회적 약자 학대를 묘사한 게시물’ 등 불법 게시물의 종류를 보다 구체적으로 명기해 불법 게시물 제한 정책을 강화했다.

이와 관련, 네이버는 모니터링 전담팀과 신고센터를 운영하며 상시모니터링을 통해 적발된 게시물과 신고된 게시물에 대한 조치를 진행하고 있다.

게시물, 댓글 등 이용자가 업로드 하는 모든 영역에서 클릭 한 번만으로 게시물 신고를 진행할 수 있고 네이버는 접수된 신고에 대해 즉각적으로 모니터링하고 불법성을 판단한 뒤 처리한다.


네이버는 해당 게시물을 업로드한 이용자의 ‘게시물 업로드 권한’을 제한하고 수위에 따라서 '영구 이용 제한'과 같은 강징계를 취하는 등, 추가적인 불법 게시물의 발생 가능성을 사전 차단한다.

네이버는 또 기술적으로 자체 개발한 AI기반 음란 게시물 필터링 시스템 엑스아이(X-eye)를 통해 게시물이 업로드 되는 단계에서 선제적으로 음란 게시물을 차단하고 있다.

이용자가 게시물을 업로드하면 게시물에 포함된 사진, 동영상이 별도의 ‘엑스아이’ 서버를 통해 실시간으로 검수되고 음란물로 판별된 게시물은 즉시 삭제되는 구조다. 조치된 음란물은 다시 엑스아이의 학습 데이터로 사용되면서 엑스아이는 자체적으로 음란 게시물 판별 정확도를 업그레이드 한다.
현재 엑스아이의 정확도는 약 99%에 달한다고 네이버 측은 설명했다.

아울러 네이버의 그룹형 SNS '밴드'에서는 지난 2015년부터 음란 게시물에 대한 정책을 한층 강화해 ‘원 스트라이크 아웃’ 정책을 갖추고 있다.
아동청소년음란물을 포함한 디지털 성범죄 관련 콘텐츠에 대해서는 게시물을 직접 업로드한 이용자가 아니더라도 음란물의 공유, 매매를 요청한 이용자에 대해서도 서비스 사용 권한을 영구정지하고 있다.



gogosing@fnnews.com 박소현 기자

fnSurvey