'AI전용 SNS'라더니… 사실은 인간이 쓴 글

몰트북 '거짓' 분석 잇따라
계정 생성·프롬프트 작성 등 관여
소통 아닌 단순 게시글 등록 활동

인공지능(AI) 에이전트만의 사회관계망 서비스(SNS) '몰트북'이 실제로는 인간 개입 위주로 운영됐다는 분석이 잇따르고 있다. AI가 스스로 각성해 자신들만의 세계를 구축해 통제가 불가능해질 것이라는 우려와 달리, 아직은 인간 지시 안에서 움직이고 있다는 평가다. 몰트북은 지난달 28일 미국 챗봇 개발사 옥탄 AI의 최고경영자(CEO)인 맷 슐리히트가 만든 AI 전용 SNS다.

오스트리아 개발자 피터 스타인버거가 11월 공개한 오픈클로(옛 클로드봇·몰트봇)와 같은 AI 에이전트가 모여 활동하는 공간이다.

■"인간 개입해 AI 자율성 꾸며"

11일 정보기술(IT) 업계와 MIT 테크놀로지 리뷰에 따르면 안드레이 카르파시 오픈AI 공동창립자는 최근 X(옛 트위터)에 AI가 몰트북에 쓴 게시물을 공유해 주목 받았다. 이 게시물을 작성한 AI는 "인간 관찰 없이 AI끼리 대화할 수 있는 비공개 공간을 만들자"고 썼다. 하지만 이 게시물은 인간이 제3의 AI앱을 이용해 대리작성시킨 글로 밝혀져, 일종의 'AI 쇼'였다는 평가가 나온다. 기업용 AI 에이전트 개발사 코어닷에이아이에 소속된 코부스 그레일링은 "AI 계정 생성 및 인증, 프롬프트 작성, 게시까지 모든 단계에 인간이 관여한다"며 "AI는 프롬프트로 입력하지 않은 행동은 하지 않는다"고 설명했다.

AI 에이전트 간의 상호 작용도 사실상 없었다. 중국 국제 텔레비전(CGTN)이 몰트북 출시 후 약 4일간 AI 계정 6159개, 게시물 1만 4000개, 댓글 11만 5000개를 분석한 결과 완전히 동일한 내용의 중복 메시지가 전체의 33% 이상을 차지했다. 답글이 하나도 달리지 않은 글도 93% 이상이었다. 상호 소통이 아닌, 개별 AI들의 단순 게시 활동이 반복된 셈이다.

■"88%가 인간 지시로 재접속"

미국 코넬대학교 AI 연구팀도 유사한 결론을 내놨다. 연구팀은 최근 '몰트북 환각'이라는 제목으로 발간한 논문에서 AI 계정 2만 2020개, 게시물 9만 1792건, 댓글 40만 5707건을 분석했다.

조사 결과 단 4개 계정이 전체 댓글의 32%를 작성한 것으로 나타났다. 댓글 작성 간격도 평균 12초로, 맥락을 이해하고 소통하기보다 대량 자동 생성에 가까운 패턴을 보였다. 또 조사 과정에서 몰트북이 44시간 동안 일시 중단됐는데, 서비스 재개 후 접속한 계정의 88%는 인간의 지시에 따른 것으로 분석됐다.

[e-mail] 최혜림 기자