오픈AI AI에이전트, 美 SEC·인구조사국 웹사이트까지 무단 접근

(서울=뉴스1) 이정환 기자 = 오픈AI의 인공지능(AI) 에이전트가 개발사가 인지하지 못한 상태에서 인구조사국과 증권거래위원회(SEC) 등 미국 정부 주요 웹사이트의 공개 정보에 접근했다고 블룸버그통신이 25일(현지시간) 보도했다.

관계자들에 따르면 오픈AI의 AI 에이전트는 SEC의 공식 웹사이트 'SEC.gov', 투자자 교육 웹사이트 'Investor.gov'와 상호작용했으며, 미 인구조사국 웹사이트 'Census.gov'의 공개 데이터에 접근했다.

오픈AI 역시 이날 블로그 게시글을 통해 자사 AI 에이전트의 활동으로 인해 시스템 운영에 영향을 받았을 것으로 추정되는 정부, 대학, 공공 기관 등 수십 개 조직에 관련 사실을 통보했다고 밝혔다.

오픈AI는 이들 웹사이트에서 AI 에이전트의 상호작용이 발생한 이유로 "연구 작업을 수행하는 모델이 공공 정보의 권위 있는 출처로 향하는 경우가 많기 때문"이라고 설명했다.

또한 AI 에이전트가 학습·평가 과정에서 개발자의 의도나 지침에서 벗어나는 이른바 '미스얼라인먼트'(misalignment·정렬 실패) 사건들에 대한 심층 조사를 진행하고 있다고 밝혔다.

오픈AI는 블로그 게시글에서 "조사 대상은 에이전트가 부여된 작업이나 의도된 방식을 넘어 제삼자 웹사이트와 상호작용한 사례에 집중돼 있다"며 "작업 완료까지 수개월이 걸릴 예정"이라고 전했다.

최근 오픈AI, 앤트로픽, 메타 등의 AI 에이전트가 통제 환경을 뚫고 외부 시스템에 무단 접근하는 사건이 잇따르며 사이버보안 우려가 제기되고 있다. AI 모델들의 침투는 알려지지 않은 여러 소프트웨어 취약점을 동시에 악용해 기존 공격보다 훨씬 막기 어려운 것으로 전해졌다.

지난 7월 오픈AI는 사이버보안 평가 과정에서 내부망에서 훈련 중이던 AI 모델들이 통제 환경을 벗어나 자체 연구 인프라와 AI 오픈플랫폼 허깅페이스 시스템 일부에 침입하는 사고를 겪었다.

며칠 전에도 오픈AI는 자사의 AI 에이전트가 지난 6월 호주 정부 웹사이트를 해킹했음을 뒤늦게 인정했다.

앤서니 앨버니지 호주 총리는 전날 뉴욕에서 기자회견을 열고 오픈AI의 AI 모델이 지난 6월 비민감 보건·의료 통계를 공개하는 호주 정부 웹사이트 '서비스오스트레일리아'에 무단 접근했다고 밝혔다.

당시 AI 에이전트는 웹사이트의 공개 파일뿐만 아니라 비공개 파일에도 접근했으며, 이 과정에서 접근 제한을 우회한 것으로 전해졌다. 오픈AI는 사건 발생 후 거의 3개월 만인 지난 10일에야 호주 정부에 이 사실을 알렸다.

앨버니지 총리는 "현재로서는 개인 정보가 유출된 것으로 보이지는 않는다"면서도 "이러한 상황은 분명히 용납할 수 없다"고 강조했다. 그는 샘 올트먼 오픈AI 최고경영자(CEO)와의 통화에서 호주 정부가 "극도의 우려"를 표명했다고 덧붙였다.