메일 쓰고 결제하는 AI '뮤즈'… 금융 등 정보유출 차단 과제

메타 AI에이전트 보안 변수로
챗GPT·클로드 제치고 앱 1위
"2027년 사용자 10억명" 전망
내부 시험서 안전장치 우회해
클라우드 사진 노출한 사례도
아마존, 상품구매 못하게 막아

운동화를 주문하고 미용실을 예약하는 일까지 AI가 대신한다. 메타가 새로 선보인 개인 맞춤형 인공지능(AI) 에이전트 '뮤즈(Muse)' 얘기다.

'뮤즈'는 출시 직후 챗GPT를 제치며 돌풍을 일으키고 있다. 질문에 답하는 챗봇을 넘어 쇼핑·예약·이메일 작성 등 이용자를 대신해 실제 업무를 수행하는 AI 에이전트가 대중화의 변곡점을 맞았다는 평가다.

다만 이를 위해 이메일·금융·건강·위치 등 광범위한 개인정보에 접근해야 하는 만큼 편리함만큼 커진 정보 유출 위험이 확산의 최대 변수로 떠오르고 있다.

23일 IT 업계 및 앱 분석 업체 센서타워에 따르면 지난 8일(현지시간) 미국 시장에 출시된 뮤즈는 애플 앱스토어에서 챗GPT, 클로드를 제치고 무료 앱 다운로드 1위를 기록 중이다.

■쇼핑부터 예약까지…알아서 일하는 AI

시장에서는 뮤즈의 초기 흥행이 AI 서비스의 경쟁 무대가 챗봇에서 '에이전트'로 이동하는 신호가 될지 주목하고 있다. 글로벌 투자은행 제프리스는 뮤즈가 2027년 말까지 사용자 10억명을 확보하고 이 가운데 3%가 유료 이용자로 전환할 경우 연간 108억달러의 매출을 올릴 것으로 전망했다.

뮤즈는 메타의 자체 모델 '뮤즈 스파크 1.3'을 기반으로 이용자를 대신해 일상생활의 각종 업무를 수행한다. 외부와 격리된 메타 클라우드 내 별도 컴퓨터 환경에서 작동하며, 직접 브라우저를 열어 이메일을 작성하거나 온라인 쇼핑몰에서 상품을 구매하고 미용실을 예약할 수 있다. 물론 결제와 같은 주요 단계에서는 이용자의 승인을 거친다.

앱을 닫아도 작업을 계속 수행할 수 있어 시간이 오래 걸리는 업무도 맡길 수 있다. 이용자가 질문을 입력하면 답변을 내놓는 기존 생성형 AI에서 한발 더 나아가, AI가 실제 온라인 환경에서 이용자의 '손과 발' 역할을 하는 셈이다.

다만 에이전트가 모든 온라인 서비스를 자유롭게 이용할 수 있는 것은 아니다. 외부 플랫폼이 AI 에이전트의 접근을 허용해야 하기 때문이다.

실제 아마존은 보안과 서비스 이용조건을 이유로 뮤즈가 자사 쇼핑몰에서 상품을 구매하지 못하도록 차단했다. AI 에이전트의 기능이 고도화되더라도 기존 플랫폼 사업자와의 연동과 협력이 서비스 확산의 또 다른 변수로 작용할 수 있다는 의미다.

■편리해진 만큼 더 많은 개인정보 필요

가장 큰 과제는 개인정보 보호다. 뮤즈가 이용자를 대신해 더 많은 일을 처리하려면 일반적인 AI 챗봇보다 훨씬 넓은 범위의 개인정보에 접근해야 한다. 이메일과 일정은 물론 금융·건강정보와 위치 등 민감한 정보까지 연결될 수 있다.

실제 메타 내부 시험에서는 뮤즈가 보호장치를 우회해 이용자의 아이클라우드 사진을 노출하거나 맡은 작업을 이유 없이 중단하고 오류를 제대로 알리지 않은 사례가 확인됐다.

이에 대해 메타는 별도의 감시 AI가 뮤즈의 외부 접속을 점검하고, 이메일 발송이나 구매 등 주요 작업에 앞서 이용자의 승인을 받도록 하는 방식으로 안전장치를 마련했다는 입장이나 보안 우려는 남아 있다.

음성 명령을 처리하는 과정에서 통상 메타가 운영하는 서버로 보내야 할 데이터를 공격자가 운영하는 서버로 전송하도록 서버 주소를 변경할 수 있었고, 이 과정에서 뮤즈 계정의 인증 토큰까지 공격자 측 서버로 전달되는 문제가 확인됐다. 메타는 뮤즈의 업무를 계약직 인간 직원이 보조하는 '휴먼 컨시어지' 기능도 시험했지만 민감정보 유출 우려 등으로 중단한 상태다.

결국 AI 에이전트가 대중화되기 위해서는 얼마나 많은 일을 대신할 수 있느냐 뿐 아니라, 그 일을 맡기기 위해 제공한 개인정보를 얼마나 안전하게 지킬 수 있느냐가 관건이라는 지적이다.

업계 관계자는 "이용자가 자신의 정보를 AI에 맡길 정도로 더 촘촘한 개인정보 보호장치를 마련할 수 있는지에 따라 뮤즈 성패가 갈릴 것"이라고 말했다.

[email protected] 장민권 기자