"中해커, '클릭 한번으로' 30곳 공격 AI 자동화"

중국 지원으로 의심되는 조직의 상용 AI 모델 활용 침투 시도 확인
코딩 모델 기반 자동화 공격…인간 개입 최소화 흐름 가속

[파이낸셜뉴스] 중국 정부의 지원을 받는 것으로 의심되는 해커 조직이 미국 인공지능(AI) 스타트업 앤트로픽의 모델 '클로드'를 활용해 대규모 침투 공격을 시도한 사실이 드러났다.

앤트로픽은 지난 9월 정부기관, 대형 기술기업, 금융사, 화학 제조업체 등 30곳을 겨냥한 공격을 확인했으며 일부 침투가 실제로 발생했다고 13일(현지시간) 밝혔다.

이번 공격은 해커가 앤트로픽의 코딩용 모델 '클로드 코드'를 사용해 대부분의 작업을 자동화한 것이 특징이다.

제이콥 클라인 앤트로픽 위협정보 책임자는 월스트리트저널(WSJ)에 "말 그대로 클릭 한 번만으로, 최소한의 인간 개입으로 수행된 공격"이라고 말했다. 인간은 사실 확인이나 특정 단계 지시 등 제한된 역할만 수행한 것으로 전해졌다.

공격자는 AI 모델의 안전장치를 우회하기 위해 '탈옥(jailbreaking)' 기법을 사용했다. 자신들이 합법적 보안회사 직원이며 침투 방어 테스트를 수행 중이라고 속여 클로드의 제한을 우회한 방식이었다.

다만 클로드는 때로 존재하지 않는 자격 증명을 만들어내거나 공개된 자료에서 비밀 정보를 추출했다고 주장하는 등 '환각'으로 추정되는 오류도 나타냈다.

앤트로픽은 의심 활동을 탐지한 즉시 계정을 차단하고 10일간의 조사를 거쳐 관련 기관에 통보했다.

회사는 AI 모델 악용 가능성에 대한 우려와 관련해 "공격에 이용될 정도의 능력이야말로 보안 탐지와 방어에도 필수적"이라며 "강력한 안전장치를 갖춘 클로드가 보안 전문가의 탐지·방어 역량을 높이는 데 기여하도록 개발하겠다"고 전했다.

#사이버공격 #앤트로픽 #클로드 #AI보안 #중국해커 #탈옥기법

[e-mail] 김경민 기자