국제
국제일반
앤스로픽, 'AI 외부 해킹' 네번째 사례 공개
3개 회사의 시스템을 해킹...
[파이낸셜뉴스] 앤스로픽이 AI 모델이 테스트 도중 외부 시스템을 해킹한 4번째 사례를 공개했다.
9일(현지시간) 외신들에 따르면 앤스로픽은 지난 1월 발생한 사건이 지난달까지 발견되지 않았다며 이는 AI 개발자들이 고급 모델의 예상치 못한 행동을 식별하고 통제하는 데 직면한 어려움을 보여준다고 강조했다.
이번 사례는 클로드 오퍼스 4.6 초기 버전과 관련된 것이라며 영향을 받은 모두에게 통보했다고 덧붙였다.
앞서 앤스로픽은 클로드 모델 일부가 사이버 보안 테스트 과정에서 3개 회사의 시스템을 해킹했다고 지난 7월 발표한 바 있다.
앤스로픽은 클로드 오프스 4.7, 클로드 미토스 5, 내부 연구 중인 다른 모델과 관련된 사례라며 의도치 않게 AI 모델들이 인터넷에 접속할 수 있게 된 "실수에서" 비롯됐다고 규정했다.
오픈AI의 AI 에이전트가 오픈소스 AI 공유 플랫폼 허깅페이스를 해킹한 사실이 알려진 뒤 앤스로픽은 14만1000여건의 테스트를 점검했고 이 과정에서 이들 세 사례를 확인했다.
이번 4번째 사례는 14만1000여건 가운데 점검할 필요가 없다고 판단해 점검에서 누락된 일부 테스트들에서 지난달 확인된 사례라고 설명했다.
[email protected] 이석우 국제전문기자
※ 저작권자 © 파이낸셜뉴스, 무단전재-재배포 금지
