[이태원 참사] 빅테크, SNS 모니터링 직원 멘탈 케어 총력

유튜브, 네이버, 인스타그램..AI와 전담인력이 모니터링 중

검토 인력이 트라우마에 시달리지 않도록 전문 상담 지원

[파이낸셜뉴스] 전 세계 이용자 대상으로 서비스하는 빅테크 기업들이 임직원 멘탈 케어에 나섰다. ‘이태원 압사 참사’ 이후 유튜브, 네이버, 인스타그램 등은 인공지능(AI)은 물론 전담 인력이 소셜네트워크서비스(SNS) 및 동영상 플랫폼에서 실시간 유통되고 있는 참사 현장 관련 게시물을 모니터링하고 있기 때문이다. 즉 참혹한 영상 등을 사전에 검열하고 있는 담당 인력이 트라우마에 시달리지 않도록 전방위로 지원해주는 게 핵심이다.

1일 서울 용산구 지하철 이태원역 1번 출구 앞에 마련된 ‘핼러윈 인파’압사 사고 희생자 추모 공간에 시민들이 두고 간 꽃과 사진 등 추모 물품들이 놓여있다. 사진=박범준 기자

2일 관련 업계에 따르면 전 세계 이용자가 20억 명이 넘는 유튜브는 커뮤니티 가이드를 위반하는 콘텐츠를 삭제하기 위해 머신러닝(기계학습) 기술과 고도로 훈련된 인력들이 함께 전력투구하고 있다.

구글 머신러닝 기술은 유해한 콘텐츠를 적극 탐지해 알린다. 과거 내부 가이드에 따라 유해한 것으로 판단되어 삭제된 콘텐츠와 비슷한 경우에는 자동으로 삭제한다. 지속적인 기술 투자를 통해 유해한 콘텐츠가 담당 인력에게 노출되는 빈도를 줄이는 효과도 있다. 또 담당 인력들은 콘텐츠 검토를 위해 하루에 5시간 이상 소비하지 않도록 하고 있으며, 예정되어 있는 휴식 외에도 필요에 따라 언제든 휴식을 취할 수 있다.

담당 인력들은 자격을 갖춘 정신 건강 전문가로부터 대면 또는 온라인으로 상담을 받을 수 있으며, 24시간 연중무휴 이용할 수 있는 ‘헬프 라인’을 포함해 구글 근로자 지원 프로그램(EAP, Employee Assistance Program)을 통해 추가 지원도 받을 수 있다.

네이버도 인공지능(AI) 기반 악성댓글 차단프로그램 ‘AI클린봇’을 방송톡과 네이버TV 댓글 등 게시판형 댓글과 네이버 밴드 같은 자체 서비스에 적용, 욕설 등의 발언을 필터링 하고 있다. 사진이나 영상 등은 신고절차에 따라 사생활 침해나 명예훼손 등 게시물 운영정책에 위배되면 게시중단 등 관련 조치를 취하고 있다.

또 모니터링 인력들에게 외상 후 스트레스 장애(PTSD) 방지를 위한 가이드 e메일을 발송하고, 전문 상담사가 멘탈케어를 위한 상담 서비스를 제공한다. 네이버는 근로자건강센터와 협력해 오는 2023년부터 직무 스트레스 경감을 위한 상담 및 케어 프로그램도 지원할 예정이다.

인스타그램 역시 머신러닝 등 AI 기술 조치와 더불어 전문 인력으로 구성된 콘텐츠 관리팀이 모니터링을 한다. 이들은 정책 위반 게시물을 신속 삭제해 이용자에게 최대한 노출되지 않도록 노력 중이다.

즉 이용자 신고에 의한 게시물 검토 뿐 아니라 기술을 활용해 커뮤니티 가이드라인을 위반하는 게시물을 선제적으로 찾아낸 후 콘텐츠 관리팀에 신고하는 형태다.

해당 관리팀은 게시물을 검토하고 적절한 조치를 취하고 있다.

한편 개인정보보호위원회와 한국인터넷진흥원(KISA)은 이태원 참사 관련 개인정보 침해상황을 11월 한 달간 집중 모니터링하고 있다.

또 정부는 유가족과 부상자를 비롯해 시민이 국가트라우마센터와 서울시 정신건강복지센터를 통해 심리상담과 치료를 받을 수 있도록 지원할 방침이다.

[e-mail] 김미희 기자