인스타그램 대량 정지사태…'AI 오류' 주장

인스타그램 계정 강제 비활성화를 당했다고 알리는 커뮤니티 글. 일부 증명되지 않은 내용들도 포함돼 있다.(FM코리아 갈무리)

(서울=뉴스1) 김민석 김민재 김정현 기자 = 인스타그램 계정 다수가 '성적 착취' 등의 사유로 영구 정지되자 '메타의 인공지능(AI)이 오류를 일으켰다'는 주장이 나오고 있다.

다만 메타가 콘텐츠 조정(제한) 정책을 강화하면서 성적 발언 등에 자동화 알고리즘을 적극 도입한 뒤 전세계적으로 계정 정지가 늘어났다는 점에서 일부 이용자는 정책을 위반했을 가능성도 있다.

5일 업계에 따르면 전날 오후 9시 20분쯤 커뮤니티 에펨코리아에는 '인스타그램 무고한 계정 영구정지 남발 중'이라는 게시글이 올랐다.

게시자는 "5월 말부터 현재까지 일부 이용자의 계정들이 아동대상 성적 착취 및 나체 이미지 또는 계정 무결성 관련 커뮤니티 규정을 위반했다며 계정이 강제로 비활성화된 뒤 180일 이내 재고 요청하지 않으면 계정이 삭제된다는 안내를 받았다"며 "팔로가 수천 명이 넘는 계정들도 삭제되고 있다. 재고 요청을 해도 계정이 영구적으로 비활성화된 사람들이 많다"고 적었다.

이어 "6월 3일~4일엔 갑자기 대규모로 인스타그램 계정이 정지되고 있다"며 "한국에서만 발생하는 일이 아니라 전 세계적으로 계정이 정지된 사람들이 늘고 있다. 원인은 현재까지 알 수 없고 메타에서 운영하는 검열용 AI의 오류로 사람들의 계정이 정지되고 있는 것으로 추측된다"고 설명했다.

해당 글에는 "나만 정지된 게 아니었네" "친구 정지당했는데 이런 이유였네" "사용하지도 않는 부계정이 영구정지돼 재고 요청했더니 비활성화됐다" "오늘 저녁 갑자기 정지당함" 등의 댓글이 달렸다.

실제 해외에서도 레딧의 인스타그램 서브레딧에 이달 4일 게시된 글에 따르면 △미국 △브라질 △인도 등 주요국에서 수많은 이용자가 6월 들어 '아동 성 착취 및 학대' 사유 등으로 계정이 정지된 것으로 나타났다.

메타는 올해 1월 미국에서 사실 확인 프로그램을 종료하고 커뮤니티 노트 시스템을 도입해 규칙을 완화한다고 발표했다. 그러면서도 테러와 아동 착취 등 심각한 위반 사항에는 자동화 알고리즘을 적용한다고 명시했다.

한 번 정지된 계정은 연결된 △페이스북 △스레드 △메타 퀘스트 등 모든 메타 서비스에서 차단되며 동일한 전화번호나 이메일로는 새 계정 생성도 불가능한 상황이다.

일각에선 아동 착취 등 자동화 시스템이 정상적인 이용자 활동인지, 정책 위반인지 구분하지 못할 수 있다는 지적도 나온다. 메타 측은 "현재 (해당 사안을) 조사하고 있다"고 말했다.