[사설] AI 속도조절론, 통제 따르되 개발은 그대로 진행을

AI가 인간 통제 벗어날 우려 인식
국제 협력으로 통제규범 만들 필요

다리오 아모데이 앤스로픽 최고경영자(CEO)를 비롯한 인공지능(AI) 산업을 이끄는 빅테크 수장들이 AI 개발 속도 조절론을 제기해 독자적인 AI 모델을 개발하고 있는 우리도 영향을 받지 않을 수 없게 됐다.

아모데이 등 CEO들의 이런 제안이 느닷없는 것은 아니다. 최근 AI 연구가 속도를 더 내면서 AI가 곧 인간의 지능을 넘어설 가능성이 커지고 있기 때문이다.

아모데이는 '재귀적 자기 개선(RSI)'을 언급했는데, AI가 차세대 AI를 스스로 만드는 것을 말한다. 이렇게 되면 AI 개발 속도가 인간의 이해와 통제 능력을 앞지를 수 있다.

따라서 AI가 인간의 통제에서 벗어나기 전에 개발 속도를 늦추어 먼저 통제기술을 고도화하고 국가 간 협력을 통해 국제적 안전기준을 만들자는 것이 CEO들의 의견이다. 이는 AI 윤리와는 다른 안전과 통제에 관한 문제다.

이 의견이 그대로 받아들여질지는 미지수다. 벌써 미국 내에서도 반발이 이어지고 있다. 벤처 투자자 빌 걸리는 "규제를 도입한다면 규제를 하는 기관이 규제 대상 기업과 관련이 있으면 안 되며, 규제 대상 기업이 직접 규정을 만들어서도 안 된다"고 말했다. 공화당 소속 존 코닌 상원의원은 "한 가지 확실한 것은 우리의 적대국들을 포함해 우리 경쟁자들은 그렇게 하지 않을 것이라는 점"이라고 했다.

미국과 AI 개발을 놓고 경쟁하는 중국이 국제적 통제 협력과 개발 속도 조절에 동참하느냐가 최대의 관건이다.

오히려 중국은 미국의 이 같은 움직임을 이용해 미국을 누르고 AI 최강국이 되고자 연구에 더 박차를 가할지 모른다. 미중 양국이 약속을 충실하게 지킬 것이라고 서로 확신하지 않는 이상 관련국들이 모두 참여해 국제적 규제를 만들기는 어려울 것이다.

AI 3대 강국을 목표로 '국가대표 AI'를 개발 중인 우리에게도 이 문제는 첨예한 이해관계가 걸려 있다. AI는 앞으로 안보와 경제를 포함한 국력을 좌우할 첨단기술이다. 미국과 중국이 AI 패권 확보에 사활을 걸고 경쟁하는 이유가 여기에 있고 우리도 마찬가지다.

미국이나 중국이 AI 개발 속도를 늦춘다면 아직 기술격차가 있는 우리에게 나쁠 것은 없고, 오히려 그들을 따라잡을 기회가 될 수도 있다. 우리로서는 국제 통제규범이 만들어진다면 그 규범을 따르면서 개발을 그대로 진행하는 방법밖에 없다. 다만 국제규범이 우리의 개발에 장애물이 되어 또 다른 진입장벽으로 작용할 수 있다.

국제 협력에 동참하면서 기술개발에서는 우리의 갈 길을 가야 하는 투트랙 전략을 써야 한다. 우리의 범용인공지능(AGI) 개발 능력이 미국이나 중국에 아직 미치지 못하므로 그 수준의 AI를 만드는 것은 문제가 되지 않을 것이다. 그러므로 기술개발을 스스로 지연시킬 이유는 없다. 국제적 동향을 봐가면서 우리의 스탠스를 정하는 유연성이 필요하다.

AI가 인류를 멸종시킬 수 있다고 가정하면 미국 CEO들의 움직임이 전혀 이상한 것이 아니다. AI 통제 시기를 놓치면 영화에서나 볼 수 있는 일이 발생하지 않는다고 장담하지 못한다. 세계 주요국의 일원으로서 국제 통제에 동참하는 것이 맞다. 그렇다고 지금까지 쌓아온 역량을 자진해서 포기하는 일은 없어야 한다. 통제는 통제고, 개발은 개발이다.