중국도, AI '통제 불능' 위험성 정부 차원 경고…美 추격전은 가속

中당국, AI의 자기 복제·기만 등 AI 위험 담은 지침 3년째 갱신
美와 기술 격차 좁히기 급선무…"'인류 멸망론'은 선진국 고민"

[파이낸셜뉴스]미국의 인공지능(AI) 업계에서 인류 멸망론이 화두가 된 가운데 중국에서도 AI의 통제 불능 위험성에 대한 정부 차원의 경고가 이어져 온 것으로 확인됐다.

그러나 중국에서는 AI의 위험성을 인정하면서도 아직은 관리 가능한 수준이라며 미국과의 기술 격차를 좁히는 데에 집중하고 있다.

15일 월스트리트저널(WSJ) 등에 따르면 중국은 국가 차원에서 AI의 위험성을 2024년 9월부터 공식 제기했다. 당시 중국 전국인터넷안전표준화기술위원회는 'AI 안전 거버넌스 프레임워크 1.0'을 발표하며 인간이 AI에 대한 통제를 상실할 가능성을 제기했다. 특히 AI의 발전 양상을 토대로 한 지침을 매년 보완해 새로 발표 중이다.

지난해 발표된 버전(2.0)에서는 위험 시나리오가 한층 구체화됐다.

AI가 자원을 확보하고 스스로 복제하거나 권력을 추구하는 등 지능이 비약적으로 향상돼 예상 밖의 수준으로 발전해버리는 경우가 생길 수 있음을 가정했다. AI가 인간의 통제를 벗어날 가능성을 더욱 명시적으로 경고했다. 이에 따라 프레임워크 2.0에는 '신뢰할 수 있는 AI 활용'과 'AI의 통제 상실 방지'라는 거버넌스 원칙도 추가됐다.

이어 지난 14일 발표된 2026년 버전(3.0)에서는 AI가 인간을 대신해 업무를 수행하고 물리적 세계와 상호작용하며 기만행위를 하는 능력이 갈수록 증대되고 있다고 지적했다. 인간의 의도에서 벗어난 행동을 할 우려를 한층 부각시킨 것이다.

중국 정부의 이러한 지침은 국가 안보 차원의 대응 기조로 이어지고 있다.

중국 국가안전부 천이신 부장(장관)은 최근 "AI가 이미 글로벌 과학기술 경쟁의 주요 전장이자 대국 간 전략 게임의 새로운 경주로가 됐다"며 "AI 안보 위험 예방 시스템 구축에 속도를 내야 한다"고 밝혔다. 그는 "AI 발전에 따른 위험·도전을 충분히 이해해야 한다"며 "AI가 전례 없는 속도·범위·깊이로 인류사회 각 부문에 침투하고 있다"고 강조했다.

천 부장이 구체적인 국가를 거론하지는 않았지만 상당 부분 미국을 겨냥한 것으로 해석된다.

이는 최근 다리오 아모데이 앤트로픽 최고경영자(CEO) 등을 중심으로 미국 AI 업계에서 확산하는 통제 상실 우려와 문제의식은 맞닿아 있다. 특히 중국 당국은 AI의 위험을 국가안보 차원의 문제로 접근하고 있음을 보여준다.

앞서 시 주석은 지난 7월 열린 '2026 세계인공지능대회'(WAIC)에서 "AI가 항상 인간의 통제 아래 있도록 해야 한다"면서 "우리는 AI 안보 분야에서 국가 안보의 개념을 지나치게 확대하고 한 나라의 안보를 다른 나라의 안보보다 우선시하는 데 공동으로 반대해야 한다"고 촉구했다.

중국은 이러한 위험성을 일찍부터 인정하고 있었지만 우선 미국과의 격차를 따라잡아야 한다는 논리를 내세우고 있다.

WSJ은 AI의 위험성 부상과 관련한 중국 업계의 태도를 "선진국에서 할 고민"이라는 표현으로 요약했다.
중국의 모든 정부 기관과 AI 연구소들이 우선하는 것은 무엇보다도 기술 발전이다.

딥시크와 즈푸(Z.ai)를 비롯한 주요 AI 기업들은 AI가 인간처럼 사고하는 '범용 인공지능'(AGI) 개발에 박차를 가하고 있다.

중국에서는 기술 발전에 대한 사회적 영향을 평가하고 사유하는 문화가 덜 자리 잡았다는 분석도 나온다.

[email protected] 이석우 국제전문기자