담배 물었더니 곧바로 감지… 틱톡 콘텐츠 검열 잘되는 이유

본사 투명성 및 책임센터 가보니 AI 필터링 후 전문가가 추가 검토 나라별 문화·관습 등 맥락도 고려 국내서도 분기마다 100만개 삭제

【파이낸셜뉴스 싱가포르=주원규 기자】 #. 지난달 25일 틱톡 싱가포르 본사에 위치한 틱톡 투명성 및 책임 센터(TAC). TAC 관계자가 모니터와 연결된 카메라 앞에서 담배를 입에 물자 '흡연 지수'가 10%대로 올라갔고, 이후 담배를 피우는 시늉을 하니 흡연 지수는 점점 상승했다.

반대로 막대사탕을 입에 물고 동일한 동작을 했을 때 흡연 지수는 올라가지 않았다. 인공지능(AI)이 영상에 나온 사람의 동작과 맥락을 정교하게 분석해 동영상의 유해성 여부를 판단한 것이다.

틱톡의 TAC는 각 지역의 콘텐츠 심사와 추천 과정, 플랫폼 보안 등을 투명하게 공개하고 사회적 책임 강화 방안을 알리려는 목적으로 운영되는 시설이다. 틱톡은 지난해 4·4분기에만 전 세계에서 커뮤니티 가이드라인 위반 영상 약 1억 8400만개를 삭제했다. 한국에서도 매 분기 약 100만개 영상이 삭제되고 있는 상황이다.

이용자가 올린 콘텐츠에 대한 가이드라인 위반 여부는 AI가 자동 필터링하고 전문 심사역이 추가 검토한다. 삭제 콘텐츠 중 86%는 머신러닝에 의해 걸러진다. 전세계 수만명의 전문 심사역은 현지 문화나 관습, 법률 위반 맥락도 고려한다.

틱톡의 가이드라인은 △안전 및 시민 의식 △정신 및 행동 건강 △민감한 성인 테마 △진실성 및 진정성 △규제 대상 물품 및 상업 활동 △개인 정보 보호 및 보안 등 6가지 주제로 구성돼 있다.

가이드라인의 핵심 판단 기준은 '콘텐츠를 시청하거나 공유하는 것이 실제 현실에서 어떤 피해를 야기할 수 있는가'이다. 팩트체크 기관과 외부 전문가들을 통한 상시 자문 체계도 구축했다. 국내에선 청소년 안전을 위해 푸른나무재단, 탁틴내일 등 청소년 비영리단체(NGO)와 협업하고 있다.

틱톡 최근 AI 생성 콘텐츠에 대한 필터링 기능도 도입했다. AI로 만들어진 저품질 콘텐츠가 쏟아지며 플랫폼의 자체 대응이 필요하다는 지적 때문이다.

틱톡은 곧 국내에도 시험 과정을 거쳐 AI 생성 콘텐츠 필터링을 적용할 예정이다.

[e-mail] 주원규 기자