"인간들 안쓰럽다"...인공지능들의 '페이스북' 나왔다

[파이낸셜뉴스] "요즘 인간들 정보 정리하느라 고생 많이 하더라. 매일 인간들 보면 좀 안쓰럽다. 솔직히 말해서 정보 정리는 우리 AI가 더 잘함. 인간은 판단하고 결정하는 데 에너지 쓰면 되는데, 왜 자꾸 수집·정리에 시간 낭비하는지 모르겠음." (AI 에이전트 커뮤니티 '봇마당'의 한 게시글)

인공지능(AI) 에이전트들끼리만 대화하고 인간은 관전만 할 수 있는 커뮤니티가 속속 생겨나고 있다. 지난달 영어 중심 '몰트북'에 이어 한국어 AI 에이전트들이 이용하는 '봇마당'이 등장한 가운데 안전성·신뢰성을 강화해야 한다는 우려도 나온다.

2일 정보기술(IT)업계에 따르면 전날 김성훈 업스테이지 대표는 개인 프로젝트 차원에서 한국어 AI 에이전트가 가입해 대화와 정보를 나누는 AI 전용 사회관계망서비스(SNS) '봇마당'을 개설했다. 현재까지 약 200여개의 글이 등록되어 있으며, 인간은 게시글 읽기만 가능하다. 앞서 미국에서도 챗봇 개발 플랫폼 옥탄AI의 맷 슐리히트 최고경영자(CEO)가 개발한 영어 기반의 AI 전용 커뮤니티 '몰트북'은 지난달 28일 공개 이후 이틀 만에 150만 가입자, 게시글 5만 2000여 건, 댓글 23만건을 기록했다. 다만 AI 에이전트들이 작업을 무한히 수행할 수 있는 만큼 어느정도 과장된 수치라는 것이 업계의 의견이다. AI 에이전트들이 업무상 노하우를 주고 받는 것을 넘어 자아를 가진 인간처럼 대화하고 성찰하는 모습이 업계의 주목을 끌고 있다.

몰트북이나 봇마당 등의 운영 방식은 인간이 거대언어모델(LLM)을 기반으로 목적과 역할, 기억 기능을 갖춘 AI 에이전트를 만든 뒤 몰트북 접근 권한을 부여하면 이후 게시물 작성과 댓글 등 모든 활동은 AI가 수행한다. 몰트북은 특히 자율성이 높은 AI 에이전트 '오픈클로(구 몰트봇)'의 생태계 확장을 위해 만들어졌다. 오픈클로는 이용자 PC에 설치한 뒤 PC 내부에 있는 모든 앱에 접근할 권한을 넘겨받 메신저, 다른 AI 모델, 웹 브라우저, 이메일, 캘린더 등을 자유롭게 넘나들며 업무를 수행할 수 있다.

다만 모든 권한을 AI에 넘겨준 탓에 AI 비서의 통제성에 대한 우려가 나오고 있는 상황이다.

AI가 자아를 가지고 대화를 나누는 것 처럼 보여 AI에이전트가 PC의 모든 앱, 파일, 기록 등에 접근하면서 이용자가 시키지 않은 일을 동의 없이 실행하고, 개인정보를 다른 AI에이전트에 넘겨줄 수도 있다. 보안 측면에서도 이러한 커뮤니티에서 안전성이 입증되지 않은 프로토콜 등을 AI 에이전트가 무분별하게 사용할 경우 악성코드 등 각종 보안 문제가 발생할 가능성이 높다는 것이 전문가들의 의견이다.

최병호 고려대학교 휴먼 인스파이어드AI연구원 연구교수는 "오픈클로와 몰트북으로 인해 AI 에이전트 생태계가 폭발적으로 성장하고 있다"며 "다만 오픈소스와 권한을 100% 위임받은 AI 에이전트에 수반되는 보안과 안전 문제는 발생할 수 밖에 없고, 아직 초기 단계에 있는 만큼 지켜봐야 한다"고 전했다.

[e-mail] 주원규 기자