IT IT일반

구글 "AI가 사람없이 공격코드 개발"…해킹시간 더 빨라진다

장민권 기자
파이낸셜뉴스
중국 LLM재킹 광고 화면. 구글클라우드 제공
중국 LLM재킹 광고 화면. 구글클라우드 제공

[파이낸셜뉴스] 인공지능(AI)이 사람의 개입 없이 소프트웨어의 보안 취약점을 찾아 공격 코드까지 제작하는 사례가 확인됐다. 해커가 AI에 명령을 내리는 수준을 넘어 AI 에이전트가 취약점 분석과 공격 준비를 자동으로 수행하는 단계로 진화한 것이다. 사이버 공격에 필요한 시간과 인력이 줄어들면서 기업들이 보안 취약점을 수정하고 공격에 대응할 수 있는 시간이 더 짧아질 것이란 우려가 나온다.

17일 구글 위협 인텔리전스 그룹(GTIG)이 발표한 최신 'AI 위협 추적 보고서'에 따르면 사이버 공격자들이 자율형 AI 에이전트를 활용해 취약점 탐색과 공격 코드 제작 등 기존에 사람이 수행하던 작업을 자동화하는 사례가 나타나고 있다.

특히 GTIG는 사람의 개입 없이 소프트웨어의 취약점을 분석하고 공격 코드를 개발하는 AI 프레임워크를 처음으로 확인했다.

이번에 발견된 'exploit_agent'는 여러 거대언어모델(LLM)을 활용하는 자동화 프레임워크다. 소프트웨어의 보안 패치 적용 전후 코드를 비교해 취약점을 식별하고, 이를 악용할 수 있는 공격 코드를 작성·실행하도록 설계됐다.

기존에는 해커가 보안 패치 내용을 분석해 취약점을 찾아내고 공격 코드를 직접 작성해야 했다. 하지만 AI 에이전트가 이 과정을 자동화하면서 공격 준비에 필요한 시간을 크게 단축할 수 있게 됐다.

구글은 특히 보안 패치가 이미 공개됐지만 기업이나 이용자가 아직 적용하지 않은 '엔데이(N-day)' 취약점이 주요 공격 대상이 될 수 있다고 경고했다. AI가 패치 전후의 코드 차이를 분석해 수정된 취약점을 찾아낼 수 있기 때문이다.

공격자들이 여러 AI 에이전트를 함께 활용하는 움직임도 포착됐다. GTIG는 '아르텍스(ARTEX)', '케언(CAIRN)', '사이버스트라이크AI(CyberStrikeAI)', '펜트AGI(PentAGI)' 등 자율형 공격 프레임워크가 실제 사이버 위협 활동에 활용되고 있다고 분석했다.

이들 도구는 취약점 탐색과 공격 코드 생성, 공격 결과 분석 등을 자동화해 여러 단계로 이뤄진 침투 작업을 빠르게 수행하도록 지원한다.

실제로 미국 항공우주 산업을 겨냥한 침투 활동에서는 케언을 활용한 사례가 확인됐다.

국가 연계 해킹 조직의 AI 활용도 고도화되고 있다. 구글에 따르면 중국 연계 사이버 첩보 조직들은 LLM을 활용해 표적을 조사하고 탈취한 데이터를 분석·가공해 정보 보고서를 만드는 활동을 수행했다.

북한 연계 공격자들은 AI로 생성한 가짜 인물과 채용 담당자 프로필 등을 활용해 암호화폐 관련 기업을 표적으로 삼았다. 일부 가짜 프로필 이미지에서는 구글의 AI 생성물 식별 기술인 '신스ID(SynthID)' 워터마크도 확인됐다.

AI 코딩 도구를 악용한 공급망 공격도 등장했다. 공격자들은 자율형 코딩 도구의 설정을 조작해 이용자가 해당 도구를 실행할 때 악성 프로그램이 설치되도록 하는 수법을 사용했다.

AI 악용은 사이버 침투뿐 아니라 여론 조작과 범죄 수익화 영역으로도 확대되고 있다.
GTIG는 공격자들이 AI를 활용해 가짜 계정과 합성 콘텐츠를 대량으로 생성하고, 온라인 플랫폼에서 정보 유포를 자동화하는 사례를 확인했다.

기업의 클라우드 자원과 AI 서비스 이용 권한을 탈취하는 'LLM재킹(LLMJacking)'도 새로운 위협으로 지목됐다. 공격자들이 탈취한 계정으로 AI 모델을 무단 사용하거나 해당 접근 권한을 다른 범죄자에게 판매하는 방식이다.

[email protected] 장민권 기자


※ 저작권자 © 파이낸셜뉴스, 무단전재-재배포 금지

기자 정보