AI전쟁 시대…국가안보인가 윤리인가 ‘또 하나의 전쟁’

미국·이란 전쟁서 AI 작전 활용
정작 기술기업·개발자는 반발 확산
한국도 국방AI법 제정 논의
참여연대 "AI전력화 가속할 것...수정·보완해야"

[파이낸셜뉴스] 미국·이란 전쟁에서 인공지능(AI)이 실제 전장분석과 공격계획에 활용되면서 ‘AI 전쟁’ 시대가 현실이 됐다. 그런데 정작 AI기술을 제공한 앤트로픽이 AI의 윤리적 활용을 주장하며 미국 국방부와 공개적으로 마찰을 일으키면서 이번 미국·이란 전쟁은 국가안보와 기술윤리가 충돌하는 또 하나의 전쟁으로 확산될 것이라는 관측이 나오고 있다.

16일 파이낸셜뉴스 취재를 종합하면 국내애서도 AI기술을 국가 안보에 적극 활용할 수 있도록 하기 위한 국방인공지능법 제정이 논의 중이다.

국내에서도 국방AI를 활성화해 국가안보를 강화해야 한다는 주장과 함께 국방AI의 윤리적 활용과 인간의 개입 범위 등에 대한 사회적 합의가 우선돼야 한다는 주장이 맞서고 있다.

AI가 주요 전쟁무기

미국·이란 전쟁에서는 다양한 AI도구가 활용됐다. AI를 기반으로 드론 수집 영상 등 방대한 데이터에서 사람과 사물을 자동식별하는 ‘메이븐 프로젝트’ 참여한 팔란티어가 위성사진·드론 영상 ·감청 데이터 등 파편화된 데이터를 통합·분석하는 플랫폼 ‘고담’을 개발했다. 팔란티어는 이란 지도부의 움직임과 군사시설 위치 및 운영 상황 등을 식별해 수천개의 타격지점을 제시한 것으로 알려졌다.

AI기업 앤트로픽이 만든 ‘클로드’는 팔란티어 등이 수집한 방대한 데이터를 종합해 타격 지점과 순서, 방법 등 전략을 제시하는 작전참모 역할을 수행한 것으로 알려지고 있다. 안두릴은 AI 운영체제(OS)를 갖춘 고성능 자율 전투기를 제공한 것으로 전해진다.

개발자들 "군사용 AI 확산 반대"

AI기술이 실제 전장에서 효과를 입증하면서 윤리논쟁도 확산되고 있다. 미국·이란 전쟁에 가장 큰 공을 세운 것으로 알려지고 있는 앤트로픽은 군사 프로젝트에 자사 AI '클로드' 사용에 제한을 두자고 미국 국방부에 요구하며 미운털이 박혔다. 앤트로픽이 "AI를 인명살상 여부의 자율적 판단이나 내국인 대규모 감시엔 사용하지 않는 조건으로 국방부와 계약했는데, 계약이 지켜지지 않을 수 있다"며 문제를 제기한데 대해 미국 국방부가 "국가안보에 필요한 기술을 민간기업이 제한하는 것은 받아들일 수 없다"며 앤트로픽을 ‘국방 공급망 위험’으로 지정한 것이다.

이 사건에 대해 미국 실리콘밸리 개발자와 연구자들은 “AI가 살상 무기나 대규모 감시에 사용될 경우 인권과 국제법을 위협할 수 있다”며 "기술기업이 군사 프로젝트에 무조건 협력해서는 안된다"고 군사용 AI 확대에 반대하는 입장을 공개적으로 밝히고 나섰다.

韓기업들도 국방AI 확산

한국군 역시 AI기반 군사 기술 도입을 확대하고 있다. 국방 분야에서는 드론 영상 분석, 무인 정찰 시스템, 전장 데이터 분석 등 다양한 영역에서 AI 활용 연구가 진행 중이다. 특히 AI 기반 영상 분석 기술은 군 정찰 영상에서 군사 시설이나 장비를 자동으로 식별하는 데 활용되고 있는 것으로 알려지고있다. 한화에어로스페이스, LIG넥스1 등 주요 방산기업들은 AI 기반 무인 전투체계와 드론, 지휘통제 시스템 개발에 투자하고 있다. AI가 전장 정보를 분석해 작전 계획 수립을 지원하는 기술 역시 주요 연구 분야로 꼽힌다.

'국방인공지능법' 제정...수정 필요성 제기

국회에서는 ‘국방인공지능법’ 제정안이 발의되는 등 군사용 AI 확장에 힘을 보태고 있다. 제정안은 국방AI를 국가 차원의 전략으로 정립하고, 국방력 강화와 국가 안보를 위해 국방 AI를 적극 도입·활용하기 위해 전문인력 양성과 산업 생태계를 육성하도록 규정했다.

반면 전문가들은 윤리규범 논의가 충분하지 않다고 지적하고 있다.

참여연대는 “국방AI는 오류가 발생할 경우 인간의 생명과 기본권에 치명적인 결과를 초래하기에 기본법 제정 시 국방AI 운용에 대한 기본 원칙과 방향, 금지·제한되는 AI에 대한 정의, 위험한 AI에 대한 규제와 통제 방안, 국가와 기업의 책임 등에 대한 내용이 반드시 포함돼야 한다"며 "현재 발의된 법안대로 통과된다면, 세계 최초의 국방AI 관련 법은 ‘전력화 가속’을 법적으로 정당화한 선례로 기록될 위험이 있다"고 경고했다. 참여연대는 제정안에 대한 수정·보완을 요구하는 의견서를 국회에 제출한 상태다.

이와관련 익명을 요구한 한 AI전문가는 "과학기술정보통신부의 AI기본법을 필두로, 한국내 모든 정책이 AI산업 활성에 초점이 맞춰지고 있는 모양새"라며 "AI 3강 이라는 정책목표에 사용자 보호나 AI윤리 문제 등 사회적 합의가 필요한 부분은 뒷전으로 밀리는 양상이 있는데, 이는 결국 더 큰 사회적 위험을 초래할 수 있다"고 지적했다.

[e-mail] 이구순 기자