IT 정보통신

"연예댓글 폐지" 카카오…'차별·혐오' 댓글도 AI로 걸러낸다

뉴스1

입력 2020.02.26 16:39

수정 2020.02.26 16:39

(위에서부터 차례로) 검색어 입력후 '실검' 폐지 전 화면과 폐지 후 화면(캡처)© 뉴스1
(위에서부터 차례로) 검색어 입력후 '실검' 폐지 전 화면과 폐지 후 화면(캡처)© 뉴스1

(서울=뉴스1) 권혁준 기자 = 지난해 연예기사의 댓글 폐지를 결정하고 최근 실시간 검색어를 없앤 카카오가 악성댓글을 근절하기 위해 정책을 한층 강화했다.

카카오는 자사의 포털 사이트 다음과 카카오톡 '#'탭의 뉴스댓글 서비스와 운영 정책을 개편한다고 26일 밝혔다.

우선 악성 댓글 신고와 제재 정책을 강화한다. 카카오는 지난 2017년부터 인공지능(AI)을 통해 모든 댓글의 욕설과 비속어를 필터링하는 '욕설 음표 치환 기능'을 적용하고 있는데, 이번 개편을 통해 욕설과 비속어 뿐 아니라 차별·혐오에 대해서도 신고할 수 있도록 했다. 욕설이나 비속어를 쓰지 않더라도 타인에게 불쾌감을 주거나 개인의 인격과 명예를 침해할 수 있다는 점을 감안한 것이다.



또 이용자가 신고한 악성 댓글이 문제가 있다고 확인되면 해당 댓글을 삭제할 뿐 아니라 작성자에 대한 제재도 진행함으로써 악성 댓글 작성을 예방한다. 신고한 댓글이 삭제되면 신고자에게 그 결과를 알려주는 '신고 알림' 기능도 도입해 이용자들의 선한 영향력을 행사하기 위한 지속적 참여를 유도한다.

댓글 서비스에 대한 이용자 권리 보호를 위한 기능도 도입했다. 이에 따라 댓글 영역 자체의 노출을 관리할 수 있는 '접기' 기능이 생겼다. 댓글 영역 상단의 ON/OFF 버튼에서 OFF를 선택하면 댓글 영역 전체가 사라지며, 다시 ON을 누르면 댓글을 확인할 수 있다

아울러 보고 싶지 않은 댓글이나 해당 댓글 작성자를 앞으로 나에게 보이지 않게 하는 '덮어두기' 기능도 생긴다. 이용자가 많이 덮어둔 댓글과 사용자에 대한 데이터는 AI로 분석해 지속적인 댓글 서비스 개선에 활용할 예정이다.

여민수-조수용 카카오 공동대표는 "이번 개편은 다수 이용자들의 선한 의지와 영향력이 서비스에 반영될 수 있게 함으로써 커뮤니케이션 생태계를 이용자들이 직접 만들어 갈 수 있게 한 것" 이라며 "이용자의 권리와 인격을 보호하고 사회적 책임을 다하기 위해 약속한 조치들을 지속적으로 실행해 나가겠다"고 밝혔다.

한편 카카오는 지난해 가수 겸 배우 설리의 사망을 계기로 사회적 책임을 다하기 위한 서비스 개편을 다짐했다.
이에 따라 지난해 10월 연예 뉴스 댓글 폐지를 시작으로 최근에는 인물 관련 검색어 개편과 함께 실시간 이슈 검색어 서비스를 종료했다.

카카오는 혐오·폭력성 콘텐츠에 대한 자율규제 기준과 이행 방안에 대한 논의도 시작할 계획이다.
외부 전문가와 이용자들과의 소통을 바탕으로 플랫폼 자율 규제에 대한 정책을 고도화 한다는 방침이다.