서로 공격·방어해가며 약점 보완.. SKT·업스테이지 '보안AI' 맞손

독자 AI 사이버보안 협의체 출범

'국가대표 인공지능(AI)' 개발에 참여 중인 SK텔레콤과 업스테이지가 해킹 공격을 탐지하고 소프트웨어 취약점을 분석하는 보안 AI 개발에 나선다. 국내 주요 보안기업들이 실제 해킹 대응 과정에서 축적한 데이터를 AI에 학습시키고, 두 회사의 AI 모델이 서로 공격하며 취약점을 찾아내는 방식이다. 최근 AI가 사이버공격에 악용되는 사례가 늘어나는 가운데 국내 독자 AI 모델을 사이버보안 현장에 본격 활용하려는 시도다.

SK텔레콤은 업스테이지 등 총 11개 기관과 '독자 AI 사이버보안 협의체'를 출범하고 AI 정보보호 기술 협력을 위한 업무협약을 체결했다고 8일 밝혔다. 전날 열린 협약식에는 SK텔레콤과 업스테이지를 비롯해 SK쉴더스·시큐아이·안랩·라온시큐어·지니언스·파이오링크 등 보안기업 6개사와 고려대·숭실대·부산대 등 대학 3개교가 참여했다.

협력의 중심은 국가대표 AI 개발 프로젝트인 '독자 AI 파운데이션 모델(독파모)' 사업 3단계에 진출한 SK텔레콤의 'A.X K' 시리즈와 업스테이지의 '솔라(Solar)'다. 보안기업들이 제공하는 실제 위협정보와 대응 데이터를 학습시켜 사이버공격 방어력을 강화할 계획이다.

SK텔레콤은 차기 모델 'A.X K3'에 보안 데이터를 학습시키는 한편, 전 국민 대상 '모두의 AI' 서비스의 안전한 운영에 필요한 데이터도 보강한다. 업스테이지는 대용량 코드와 장기간의 보안 로그를 한 번에 분석할 수 있는 차기 솔라 모델에 취약점 탐지·분석 데이터를 집중적으로 학습시킬 예정이다.

참여 기업들이 보유한 보안 데이터도 활용된다. SK쉴더스는 통합 보안관제 플랫폼 '시큐디움'을 통해 하루 170억건 규모의 위협 이벤트를 분석하고 있으며, 안랩은 2.5페타바이트(PB) 이상의 보안 데이터와 악성코드 탐지 기술을 보유하고 있다. 시큐아이의 방화벽 기술, 라온시큐어의 모의침투 기술, 지니언스의 보안 솔루션 운영 데이터, 파이오링크의 공격 검증 기술 등도 모델 개발과 검증에 활용한다.

이렇게 학습한 AI는 아직 보안 패치가 나오지 않은 '제로데이' 취약점 분석과 실시간 보안관제 등 참여 기업의 제품·서비스에 적용할 계획이다.

안전성 검증에는 두 모델이 서로 공격하고 평가하는 '상호 레드티밍'을 도입한다. 한쪽 AI가 상대 모델의 안전장치를 우회하는 공격을 시도하면 다른 AI가 이를 방어하는 방식이다. 이 과정에서 발견된 취약 사례를 양쪽 모델의 학습에 활용해 안전성을 높일 계획이다.

대학들은 제3자 입장에서 검증을 맡는다. 고려대는 AI의 실행 파일 분석 능력과 공격 방어력을, 숭실대는 보안 성능 평가 기준과 안전장치 우회 공격 대응력을 점검한다. 부산대는 차기 모델과 경량 모델의 성능·안전성을 검증한다.

[email protected] 윤홍집 기자