‘메타버스 그루밍 막는다’..제페토 신고기능 강화

그루밍 방지 기술 도입..이용자 보호 적극 나서

[파이낸셜뉴스] 네이버제트가 메타버스(3차원 가상세계) 플랫폼 ‘제페토’의 신고 기능을 더욱 강화했다. ‘안티 그루밍’ 기술을 도입하는 한편 안전 공식 캐릭터 ‘소테리아’를 통해 이용자를 적극 보호한다는 목표다.

25일 업계에 따르면 네이버제트는 아동청소년을 성적 착취와 학대로부터 보호하기 위해 기술 및 프로그램을 개발하는 비영리단체 쏜(Thorn)과 협력, 그루밍 대화를 스캔하는 ‘안티 그루밍’ 기술을 채팅에 도입했다. 그루밍의 초기 지표를 빠르게 탐지해 전담팀에서 해당 계정에 대한 엄정 조치도 하고 있다. 또 자동화 탐지와 전문 모더레이터를 통한 아동청소년 성착취물을 감지 및 제거하기 위해 전문 기술과 인력을 총동원하고 있다.

제페토 신고 기능 화면. 네이버제트 제공

네이버제트는 이달 초 제페토 신고 메뉴도 새롭게 업데이트된 커뮤니티 가이드라인에 따라 명확하고 직관적으로 개선했다.

‘미성년자의 안전’, ‘괴롭힘 및 따돌림’, ‘혐오 행위’ 등 신고 옵션을 더욱 확장한 것.

네이버제트는 제페토 안에서 신속하게 신고할 수 있도록 신고 메뉴 상단에 ‘미성년자의 안전’, ‘자살 및 자해’ 등 중대한 위반 행위를 배치했다. 이와 함께 사이버 범죄 수사 의뢰, 저작권 위반 신고, 자살 및 자해방지 등에 대한 정보를 담은 고객센터 게시물 링크를 제공하며, 신고와 동시에 ‘유저 차단하기’ 기능도 함께 넣었다.

제페토는 신고한 이용자와 신고 당한 이용자 모두에게 커뮤니티 가이드라인 위반 사항에 대해 자세하게 설명하고 있다.

이는 제재를 받은 이용자들이 신고 사항에 대해 상세히 안내받으면 가이드라인 재위반 비율이 감소한다는 연구를 기반으로 한 조치다.

네이버제트 노준영 안전 전문팀(Trust and Safety team) 리드는 “앞으로도 안전한 메타버스 환경을 조성하기 위해 유해 콘텐츠를 보다 정확하게 판단, 추적하는 기술을 고도화하고, 지속적으로 모니터링하겠다”며 “신고된 콘텐츠, 유저에 대한 유의미한 피드백을 공유해 투명성과 책임을 이어 나갈 것이며, 이용자 보호를 최우선으로 삼고 글로벌 단체와 협업하며 앞으로도 제페토의 다양한 노력을 공유하겠다”고 밝혔다.

네이버제트는 △온라인 아동 청소년 보호를 위한 국제 네트워크 기관 ‘인호프’ △글로벌 성착취물 근절 기업연합체 ‘테크코얼리션’ △아동청소년 안전교육 자문기관 ‘커넥트 세이프리’ △글로벌 커뮤니티를 지원하는 안전전문가로 구성된 ‘TSPA(인터넷 온라인 안전전문가협회)’ 등 다양한 글로벌 단체들과 협업하고 있다.

[e-mail] 김미희 기자