"1분기 8600만개 AI 허위 계정 삭제"...틱톡, AI 스팸 대응 강화

[파이낸셜뉴스] 틱톡이 인공지능(AI) 스팸 대응 강화 및 AI 리터러시 증진을 통해 이용자들이 AI 생성 콘텐츠(AIGC)를 안전하고 책임감 있게 소비하고 창작할 수 있도록 지원하는 방안을 확대한다고 15일 밝혔다.

이번 지원책의 주요 내용은 전문가 협력을 통한 AI 리터러시 교육 확대, AI 콘텐츠 투명성 기술 및 업계 협력 강화, AI 생성 스팸 계정 등 플랫폼 신뢰도를 저해하는 요소들에 대한 대응 시스템 개선 등이다.

틱톡은 AI 리터러시를 강화하기 위해 신규 교육 리소스와 전문가 협력 프로그램을 진행한다. 미디어 리터러시 전문기관인 미국 미디어교육전국연합회(NAMLE) 및 생성형 AI 전문가와 협력해 이용자들이 AI 도구와 AIGC를 안전하고 책임감 있게 활용할 수 있도록 안내하는 가이드를 공동 마련했다.

또 이용자가 AI 관련 용어를 검색할 때, AIGC를 식별하는 실용적인 방법을 배울 수 있는 새로운 인앱 허브도 선보일 예정이다.

AI 리터러시 강화를 위한 투자도 이어간다. 틱톡은 디지털 안전 연합체 '노필터(No Filtr)', 교육 자선 단체 '라즈베리 파이 재단(Raspberry Pi Foundation)' 등 전문 기관의 틱톡 콘텐츠 제작을 지원하는 프로그램을 진행 중이다. 틱톡은 지금까지 400만달러 이상을 투자했으며 향후에도 관련 지원을 지속 확대해 나갈 계획이다.

이용자들이 AIGC를 투명하게 인지할 수 있도록 돕는 기술 파트너십도 강화한다. 틱톡은 2024년 업계 최초로 AIGC의 출처 정보를 확인하는 글로벌 표준 기술인 C2PA 콘텐츠 인증 기술을 도입한 바 있으며, 이번에 C2PA 운영위원회에 공식 합류했다.

틱톡은 C2PA 인증 기술, 크리에이터 라벨링 도구, 보이지 않는 워터마킹 기술 등을 활용해 현재까지 30억건 이상의 영상에 AI 라벨을 적용했다. 또한 AI로 생성된 영상에 대한 보이지 않는 워터마킹 적용 범위도 지속 확대하고 있다.

아울러 AI를 악용해 대량으로 생성되는 저품질 AI 생성 스팸 콘텐츠에 대한 대응 시스템도 개선한다. 틱톡은 올해 1·4분기에만 8600만 개 이상의 허위 계정을 삭제하는 등 스팸 대응에 힘써왔다. 향후에는 공공의 신뢰나 안전, 보건에 영향을 미칠 수 있는 주제인 정치·시사, 금융, 의료 정보 등 분야에서 AI 생성 스팸 콘텐츠를 대량 게시하는 계정을 보다 효과적으로 식별하고 조치할 수 있도록 탐지 시스템을 고도화할 계획이다.

톰 C. 바르게세(Tom C. Varghese) 틱톡 공공정책 AI 리드는 "틱톡은 이용자들이 AI를 경험하는 과정에서 충분한 맥락을 파악하고, 안심하며, 자신의 경험을 직접 관리할 수 있어야 한다고 믿는다"라며 "앞으로도 이용자들이 AI 생성 콘텐츠를 구분하고 제작 과정을 이해하며, 관련 도구를 창의적이고 책임감 있게 사용할 수 있도록 기술, 파트너십, 교육 리소스에 지속적으로 투자할 것"이라고 밝혔다.

wongood@fnnews.com 주원규 기자