네이버, 실시간 음란이미지 필터링 한다..정확도 99.5%

2017년 선보인 음란물 필터링기술 ‘엑스아이’ 업뎃

네이버 AI랩과 클로바의 선행이미지 인식기술 접목

[파이낸셜뉴스] 네이버는 음란 이미지가 네이버 서비스에 등록될 경우, 실시간 감지해 검색 노출을 막아주는 ‘엑스아이(X-eye) 2.0’을 7월부터 적용한다고 29일 밝혔다. 이는 지난 2017년 처음 선보인 ‘엑스아이’ 업데이트 버전이다.

엑스아이는 네이버에 축적된 이미지 400만장을 형태별로 분류하면서 인공지능(AI) 기반 머신러닝(기계학습)을 거쳐 만들어졌다. 기존에는 이미지 모니터링 담당자들이 조치를 취할 때까지 유해물이 노출됐었다. 하지만 음란물 필터링 AI 시스템 ‘엑스아이’를 도입한 후 98.1% 상당의 높은 적중률로 유해한 사진 및 동영상을 실시간 걸러내고 있다.

오는 7월부터 적용되는 엑스아이 2.0은 네이버 AI랩 및 클로바가 진행한 선행 이미지 인식 기술 연구결과가 활용되어 더욱 고도화되었다. △속도, 정확도가 더욱 높아진 고성능 이미지인식 모델 ‘렉스넷’ △AI 모델 학습 시 데이터 부족을 위해 사용되는 데이터증강기법 ‘컷믹스’ △더욱 안정적으로 모델을 학습하고 인식 정확도를 향상시키는 최적화 기법 등 다양한 AI 기술이 적용됐다.

이를 통해 엑스아이 2.0은 ‘정상/음란/성인/선정’ 4가지 등급으로 음란물을 분류, 99.5% 상당의 정확도를 갖췄다. ​

네이버의 음란물 필터링 기술 ‘엑스아이 2.0' 참고 이미지. 네이버 제공

유봉석 네이버 서비스운영총괄은 “건전한 인터넷 이용 환경 조성을 위해서 음란물, 성인물은 물론 불법촬영물과 혐오 등 사회적 변화에 맞춰 다양한 유해 콘텐츠 차단을 위해 지속적으로 노력하고 있다”며 “추후 엑스아이 오픈API 기술을 공개해 스타트업과 사업자 등 다양한 영역에서 활용할 수 있도록 준비할 예정”이라고 전했다.

정석근 네이버 클로바 CIC 대표도 “네이버 클로바에서 진행 중인 다양한 선행 연구 결과물이 서비스나 비즈니스를 넘어 사회문제 해결에 기여하게 됐다”며 “앞으로도 자체개발한 고도화된 AI 기술이 실생활에 도움이 되도록 협업하겠다”라고 밝혔다.

[e-mail] 김미희 기자