클로드로 경쟁사 오픈AI 뚫었다…72시간 만에 내부 시스템 침투
[파이낸셜뉴스] 앤트로픽의 인공지능(AI) 모델 '클로드'를 활용해 경쟁사 오픈AI의 내부 시스템에 침투한 사례가 나왔다. 최신 AI 모델을 활용하면서 취약점 발견부터 내부 시스템 침투까지 72시간도 걸리지 않은 것으로 나타났다.
18일(현지시간) AI 보안 연구업체 해크트론에 따르면 연구진은 '클로드 오퍼스5'를 이용해 오픈AI 직원들의 챗GPT와 코딩 도구 코덱스 계정을 제어하는 데 성공했다.
연구진은 먼저 오픈AI 도움말 게시판의 취약점을 통해 서버에 접속한 뒤 직원들의 계정 정보를 확보했다. 이후 해당 정보를 이용해 '모노레포'(Monorepo)로 불리는 오픈AI 내부 시스템에 접근해 침투에 성공했다는 증거를 남겼다. 이 시스템에는 핵심 알고리즘 관련 기밀이 보관된 것으로 알려졌다.
AI 모델의 성능 향상은 공격에 걸리는 시간을 크게 단축했다. 연구진은 당초 '오퍼스4.8'로 공격용 코드 작성을 시도했지만 성과를 내지 못했다. 그러나 새로 공개된 오퍼스5를 활용하자 불과 몇 시간 만에 공격용 스크립트를 만드는 데 성공했다.
최초 취약점 발견부터 내부 시스템 침투까지 걸린 시간은 72시간이 채 되지 않았다. 해크트론은 "에이전트의 작업은 며칠 걸렸지만 인간 연구원이 들인 시간은 몇 시간에 불과했다"며 AI 모델의 성능이 빠르게 강력해지고 있다고 설명했다.
연구진은 침투 사실을 오픈AI에 제보했고, 오픈AI는 이를 확인한 뒤 6500달러(약 900만원)의 포상금을 지급했다. 관련 시스템에 대한 보완 조치도 제보를 받은 지 14시간 만에 완료했다.
AI를 활용한 해킹 가능성이 커지면서 관련 업계의 보안 대응도 강화되고 있다. 오픈AI는 최근 그레그 브록먼 사장의 지시로 전체 엔지니어의 25%를 시스템 방어 업무에 투입했다.
사이버 보안 업계에서는 AI가 취약점 탐색과 공격 코드 작성 등에 필요한 사람의 개입과 시간을 크게 줄일 수 있다는 점에 주목하고 있다. 다리오 아모데이 앤트로픽 최고경영자(CEO)도 AI 기술의 위험성을 거론하며 업계 전반의 개발 속도 조절 필요성을 주장해왔다.
[email protected] 윤홍집 기자
