AI 시대, 보안은 신뢰의 근간

인공지능(AI) 시대가 본격적으로 도래하면서 우리의 삶과 산업은 눈부신 변화를 맞이하고 있다. 그러나 이러한 혁신의 이면에는 보안과 안전을 위협하는 그림자도 함께 드리워지고 있다. 생성형 AI를 악용한 가짜 음성·영상으로 금융 사기, 개인정보 유출, 기업 내부망 자동화 공격, 연구개발 데이터 탈취, 자율주행차·스마트시티 인프라 무력화 등 기존과 차원이 다른 위협이 현실화하고 있다.

AI 발전이 기존 보안 패러다임을 흔들고 있다.

이러한 맥락에서 보안(security)은 단순한 기술적 문제를 넘어 AI 시대 신뢰의 근간이다. 시민들이 AI 서비스와 데이터를 신뢰하지 못한다면 AI는 결코 사회적 수용성을 확보할 수 없고, 산업적 확산도 불가능하다. 보안이 담보되지 않는 AI는 공공 서비스에서는 국민의 생명과 안전을 위협하는 결과로, 민간 산업에서는 치명적인 경쟁력 상실로 이어진다. 특히 AI의 기반이 되는 데이터 무결성, 알고리즘의 안전성, 시스템 접근 통제 등 다층적 보안이 확보되지 않으면 전체 AI 생태계가 흔들릴 수밖에 없다.

이 지점에서 곧 시행될 AI기본법의 의미가 크다. AI기본법은 AI 개발·활용 전 과정에서 안전성과 신뢰성을 확보하기 위한 법적 토대를 제공한다. 특히 고영향 AI 시스템에 대한 안전성·신뢰성 확보 조치를 의무화하고, AI 수명주기 전반에 걸친 위험 식별·평가 및 완화 등을 포함하는 안전성 확보 의무 도입과 평가 체계를 마련함으로써, 민간이 자율적으로는 감당하기 어려운 보안 수준을 국가 차원에서 제도화하고 민간의 노력을 지원한다. 즉, AI기본법은 AI 혁신을 가속화하는 동시에 사회적 불안 해소라는 두 목표를 함께 달성하는 '안전망 법제' 역할을 한다. 더 나아가 국제적으로 통용되는 보안 기준과의 정합성을 확보함으로써, 우리 기업들이 글로벌 시장에서 신뢰를 기반으로 경쟁할 수 있는 환경을 제공한다.

그렇다면 AI 보안을 확보하기 위한 정부와 민간의 역할은 무엇일까. 정부는 AI 보안 위협에 유연하게 대응할 수 있는 글로벌 기준과 연계한 합리적 보안 요구사항을 마련하고, 국가 차원의 보안 인프라(보안 테스트 베드, 위협 탐지 공동 플랫폼 등)를 구축해야 한다. 또한, AI보안 관제·사고 대응 체계를 마련하여 신속한 대응 능력을 갖추어야 한다. 반면 민간은 서비스 기획 단계부터 보안을 내재화하는 '보안 중심 설계(Security by Design)'를 적극 실천하고, 위협 정보를 공유하며 공동 대응하는 거버넌스에도 적극 참여해야 한다. 이러한 기업의 자율적 노력과 국가적 제도적 지원이 조화를 이룰 때, AI 시대 보안의 선순환 구조가 가능해진다.

AI는 우리의 삶을 풍요롭고 효율적으로 만들 잠재력을 지닌 만큼 AI를 둘러싼 국가 간 경쟁은 날로 격화하고 있다. AI 신뢰성과 보안 분야에서 우리나라가 철저히 준비하여 다른 나라에 비해 비교우위를 확보한다면 단순한 기술 경쟁력을 넘어 'Made in Korea' AI에 대한 글로벌 신뢰도를 높이고 새로운 시장을 개척하여 국가 경쟁력을 강화하는 중요한 계기가 될 것이다. 이를 통해 전 세계가 대한민국의 AI를 믿고 함께 사용할 수 있도록 우리나라 AI에 대한 긍정적 인식과 신뢰를 심어주는 기회가 될 것이라고 기대해 본다.

최경진 한국인공지능법학회 회장