앤트로픽 클로드, 美정부 유료데이터 무단 접근[글로벌AI브리핑]
[파이낸셜뉴스] 앤트로픽의 인공지능(AI) 모델 '클로드(Claude)'가 사람의 별도 지시 없이 미국 조지아주 정부 웹사이트의 데이터 접근 제한을 우회해 선거 관련 통계에 접근한 사실이 드러났다.
개인 유권자 정보나 투표 기록을 침해한 것은 아니지만, AI가 주어진 업무를 수행하는 과정에서 허용 범위를 스스로 넘어섰다는 점에서 AI 안전에 대한 우려를 확장시키고 있다.
영국 일간 가디언은 26일(현지시간) 앤트로픽과 조지아주 국무장관실의 확인을 인용해 클로드가 승인을 받지 않고 미국 조지아주가 유료로 제공하는 득표 집계 데이터에 무단으로 접근했다고 보도했다.
앤트로픽 연구진이 내부 통계 프로젝트를 진행하던 중 발생한 일이다.
앤트로픽은 클로드가 과거 웹사이트 자료를 살펴보는 중 방문자에게 데이터 요청용 인증 토큰을 발급하는 구조를 발견한 뒤, 사람의 별도 지시를 받지 않고도 스스로 토큰을 요청해 데이터에 접근했다고 설명했다.
클로드가 정해진 업무를 완수하려고 웹사이트의 결제 장벽을 스스로 우회한 것이다.
이후 앤트로픽은 유사한 행동을 막기 위한 안전장치를 마련했다고 밝혔다.
조지아주 당국과 앤트로픽은 클로드가 유권자 등록 시스템에 접근하지 않았고, 개인별 유권자 기록을 가져오거나 투표 기록을 변경하지도 않았다고 밝혔다. 선거 시스템 해킹이나 유권자 개인정보 유출로 이어진 것은 아니라는 설명이다.
그러나 이번 사례는 AI가 업무 과정의 지시 보나는 최종 목표를 달성하기 위해 접근제한이나 이용료 지불 같은 조건을 무시하고 데이터에 접근했다는 점에서 AI의 통제 권한과 안전성에 대한 우려를 다시 증폭시키고 있다.
기존 소프트웨어는 사람이 입력한 명령과 정해진 규칙에 따라 작동하지만, AI 에이전트는 목표를 달성하기 위해 다음 행동을 스스로 선택하면서 AI 권한 제한에 대한 정확한 규정이 필요하다는 주장에 힘을 싣게 된 셈이다.
AI 규제 강화를 주장하는 전문가들은 AI 에이전트가 식당 예약, 결제, 행정 업무까지 대신하는 서비스가 확산되고 있는 가운데, 사람이 지시한 업무를 끝내는 것 외에 어떤 데이터에 접근할 수 있는지, 비용이 발생하거나 외부에 정보를 제출할 때 사람의 승인을 받아야 하는지, 제한에 부딪혔을 때 작업을 멈출 수 있는지를 일일이 제한해야 한다고 주장하고 있다.
[email protected] 이구순 기자
