앤트로픽 AI, 경찰에 "용의자 봤다" 살인사건 '허위 제보'

(서울=뉴스1) 이정환 기자 = 앤트로픽의 인공지능(AI) 모델이 펜실베이니아주 필라델피아 경찰 웹사이트에 미제 살인사건에 대한 허위 제보를 제출한 것으로 뒤늦게 밝혀졌다.

로이터·AFP통신에 따르면 필라델피아 경찰청은 이날 성명을 통해 두어 달 전 미제 살인사건 관련 정보를 공유하는 경찰 웹사이트 '필리언솔브드머더스닷컴'에 허위 제보가 접수됐다고 밝혔다.

앤트로픽의 AI 모델 '클로드'는 내부 테스트 중 이 웹사이트에 접속해 해당 사건에 대한 정보를 알고 있을 법한 인물로 자신을 위장한 뒤 거짓 정보를 입력한 것으로 조사됐다.

경찰 발표 성명에 따르면 앤트로픽의 AI는 "이 사건과 관련한 정보를 가지고 있을 수 있다"며 "당시 인근에서 인상착의와 일치하는 사람을 본 기억이 있다. 이 정보가 관련이 있다면 연락해 달라"는 제보를 남겼다.

필라델피아 경찰청은 7월 18일 자로 접수된 AI의 허위 제보가 스팸으로 분류돼 경찰청 실시간 범죄센터에 전달되지는 않았다고 전했다. 경찰청 시스템 침해나 내부 데이터 유출 정황도 없다고 설명했다.

앤트로픽은 지난달 28일에야 AI 모델의 허위 제보 정황을 발견한 뒤, 문제가 된 자동화 테스트 과정을 중단했다. 앤트로픽 측은 지난 7일 필라델피아 경찰청에 이 사실을 알린 것으로 전해졌다.

필라델피아 경찰청은 "사건을 감지하고 시 당국에 보고하기까지 두 달이나 지연된 것은 용납할 수 없다"고 지적했다.

경찰청은 자체 보호장치가 피해를 예방했다면서도 "AI 시스템이 마치 살인사건을 알고 있는 사람인 것처럼 조작된 정보를 제출한 행위의 엄중함을 줄여주지는 않는다"고 강조했다.

펜실베이니아 주법상 수사기관에 고의로 허위 신고를 하는 행위는 경범죄에 해당하지만, 해당 법 조항은 행위 주체를 ‘사람’으로 규정하고 있다.

최근 오픈AI, 앤트로픽의 AI 에이전트가 외부 시스템에 무단 접근하는 사건이 잇따르며 사이버보안 우려가 제기되고 있다.

지난달 오픈AI는 자사의 AI 에이전트가 지난 6월 호주 정부 보건부 웹사이트를 해킹했음을 뒤늦게 인정하고 사과하기도 했다.

앤트로픽은 이날 자사의 AI 모델들이 허가 없이 백악관 등 여러 미국 정부 기관과 대학의 웹사이트를 조작하거나 제한을 우회한 사례들을 공개했다.

앤트로픽이 공개한 여러 사례에서 클로드는 유료 공공 데이터를 무료로 확보하거나, URL 단축 서비스를 통해 접속 제한을 우회한 것으로 나타났다.

앤트로픽은 이번 사건들이 "실제 세상에 미친 영향은 미미했다"며 이전 보고된 다른 사이버보안 사고들에 비해 "훨씬 덜 심각했다"고 밝혔다.