"해킹AI, 민생 인프라 위협… 보안 생태계 3~5년내 자립해야" [AI 월드 2026]

민간 보안협의체 '캐노피' 초대 위원장
AI 시대 위험 요소는 공격·방어 비대칭
학교·병원 등 행정 시스템이 가장 취약
기업 협력 확대 자율방어 역량 키워야

"인공지능(AI) 시대의 보안은 감당할 수 있는 소수만 누리는 특권이 돼서는 안 된다."

박세준 티오리 대표(사진)는 6일 파이낸셜뉴스와의 인터뷰에서 "공격은 이미 모두에게 평등하게 도달하는데, 방어 역량은 여전히 그것을 구축할 수 있는 곳에만 도달한다"며 AI 시대 사이버 보안의 자립적 생태계가 필요한 이유를 이같이 설명했다. 박 대표는 오는 9일 파이낸셜뉴스와 과학기술정보통신부가 공동 주최하는 'AI월드 2026'에서 AI 시대의 보안과 자립적 생태계를 주제로 강연에 나선다.

■AI가 낮춘 해킹 문턱… "소버린 보안 필요"

박 대표는 AI 시대 가장 위험한 지점으로 공격과 방어의 비대칭을 꼽았다. AI가 공격 비용과 진입장벽을 낮추면서 전문 인력과 예산이 부족한 곳부터 위협에 노출될 수 있다는 진단이다. 그는 "공격 기술이 대중화됐을 때 가장 먼저 무너지는 곳은 대기업이 아니라 병원, 학교, 지방 기반 시설, 수많은 행정 시스템이 공통으로 사용하는 오픈소스와 프레임워크 같은 민생 인프라"라며 "덜 중요해서 방치된 것이 아니라 지킬 여력이 없어서 방치돼 온 곳"이라고 지적했다.

AI는 전문가의 영역이던 취약점 분석과 공격 코드 생성을 자동화하고 공격에 걸리는 시간을 수개월에서 수 시간 또는 며칠로 단축하고 있다. 하나의 AI 해킹 에이전트로 수백·수천개 시스템을 동시에 공격하는 것도 가능해졌다.

박 대표는 이에 대응하기 위해 '보안 자립'이 필요하다고 강조했다. 모든 기술을 국내에서 개발하는 자급자족이 아니라 외부 환경이 바뀌더라도 스스로 방어를 지속할 수 있는 역량을 확보해야 한다는 의미다. 그는 "국가와 산업 차원에서는 남의 로드맵에 안전을 맡기지 않는 소버린 보안 역량이 필요하다"며 "개별 조직 차원에서는 1년에 한두 번 외부 점검을 기다리는 대신 스스로 상시 검증할 수 있는 자율 방어 역량이 필요하다"고 말했다.

박 대표는 이를 위한 민간 AI 보안 협의체 '프로젝트 캐노피'의 초대 위원장을 맡았다. 캐노피는 지난 6월 미국 앤스로픽의 AI 모델 '미토스' 수출 통제로 글로벌 AI 보안 협의체 '프로젝트 글래스윙'이 표류한 것을 계기로 출범했다. 현재 국내 41개 기업과 기관이 참여하고 있다.

캐노피는 대한민국 전자정부 표준프레임워크를 전수 조사해 1300여개 후보 가운데 990건의 구조적 취약점을 식별하고 300건 이상을 패치했다. 공동으로 사용하는 오픈소스와 프레임워크의 취약점도 상시 점검한다. 박 대표는 "캐노피로 이익을 보는 것은 참여 기업이 아니라 그 프레임워크 위에 올라간 수많은 기관과 국민"이라며 "정부의 지시나 특정 기업의 선의가 아니라 민간의 자발적 연대로 굴러가는 것이 자립적 생태계의 모습"이라고 말했다.

■"함께 쓰는 기술 함께 지켜야"… 민간 연대로 방어

박 대표는 자립적 보안 생태계 구축을 위해 가장 필요한 요소로 기업 간 협력을 꼽았다. 그는 "함께 쓰는 것을 함께 지키는 구조가 없다"며 "취약점을 찾아내면 책임과 비용을 떠안는데, 잘 찾는 쪽이 손해를 보는 구조에서는 협력이 생겨날 수 없다"고 잘라 말했다.

또 정부는 선의의 보안 연구자가 취약점을 신고하는 과정에서 불이익을 받지 않도록 면책 제도를 마련하고, 공공 소프트웨어의 상시 점검과 패치 전파를 담당할 책임 주체와 유지보수 예산을 지정해야 한다고 제언했다.

박 대표는 이러한 보안 자립의 관점이 정부가 추진하는 소버린 AI에도 적용돼야 한다고 봤다. 국산 파운데이션 모델 확보 자체보다 핵심 데이터의 통제권과 학습 파이프라인, 국내 환경에 맞는 평가 기준과 이를 스스로 검증할 보안 역량을 함께 확보해야 한다는 설명이다.

박 대표는 "결국 소버린 AI는 '무엇을 가졌는가'가 아니라 무엇을 스스로 검증하고 통제할 수 있는가의 문제다. 모델은 빌릴 수 있어도 우리 시스템을 우리가 검증하는 능력은 빌릴 수 없다"며 "앞으로 3~5년 안에 그 능력을 확보하는 것이 자립적 생태계의 핵심"이라고 말했다.

[email protected] 최혜림 기자