"AI 인류 멸망 가능성 거의 0"…AI비판론자가 꼽은 '진짜 재앙'
(서울=뉴스1) 한수민 기자 = 인공지능(AI)이 가까운 미래에 인류를 멸망시킬 수 있다는 주장은 허구에 가까우며 가능성 또한 거의 없다는 반박이 대표적인 AI비판론자로부터 나왔다. 다만 생물무기와 사이버 공격, 딥페이크 등 AI가 불러올 수 있는 현실적인 위험이 '진짜 재앙'이라며 이에 더 주목해야 한다는 주장이다.
미국 내 대표적인 AI 비판론자인 개리 마커스 뉴욕대 명예교수는 최근 AI가 2030년까지 인류를 멸망시킬 수 있다는 주장에 대해 근거가 부족하다며 이같이 주장했다.
17일 업계에 따르면 마커스 교수는 최근 뉴스레터 플랫폼 서브스택에 'AI는 2030년까지 모든 인간을 죽이지 않을 것이다'라는 제목의 글을 올렸다.
이는 오픈AI와 앤트로픽에서 근무했던 제이컵 콕슨이 최근 CNN 인터뷰에서 AI로 인해 5년 안에 인류가 사라질 수 있다고 경고한 데 대한 반론이다. 콕슨은 현재 AI는 인류를 멸종시킬 정도로 지능이 높지 않지만 향후 AI가 스스로 성능을 개선하는 단계에 이르면 상황이 달라질 수 있다고 주장했다.
"5년 내 인류 멸종 가능성 거의 0"…AI 위험론자가 선 그은 이유
마커스 교수는 'AI 인류 멸망론'이 제시한 '전제' 자체가 현재의 상황과 맞지 않다고 봤다.
그는 "AI가 인류를 멸망시키려면 3가지 전제가 있어야 한다"면서 "우선 초지능이 등장하고, 인간보다 똑똑해진 AI가 인류를 죽이려는 동기를 갖게 되며, 인공일반지능(AGI)을 개발하지 않는 것 외에는 이를 막을 방법이 없다는 가정"이라고 짚었다.
그러면서 마커스 교수는 초지능이 세간의 우려만큼 이른 시일 내에 등장하기 어렵다고 봤다. 그는 현재 초지능으로 가는 기술적 돌파구가 마련된다고 하더라도 실제 개발에는 수년이 걸릴 것으로 전망했다.
또 AI가 인간을 해칠 의도를 갖게 될 것이라는 전제에도 의문을 제기했다.
그는 "애니악부터 알파고, 챗GPT에 이르기까지 역사상 어떤 컴퓨터 시스템도 인류를 해할 동기를 보인 적이 없다"며 기계의 지능이 크게 향상됐지만 AI가 인간에게 악의를 품고 있다는 증거는 없다고 지적했다.
설령 초지능 AI가 등장하고 인간에게 적대적인 행동을 한다고 가정하더라도 인류 전체를 없애는 것은 또 다른 문제라고 봤다.
마커스 교수는 향후 5년 안에 AI가 인류를 멸종시킬 가능성에 대해 "0과 거의 구별할 수 없는 수준"이라며 "인간은 지리적으로 널리 퍼져 있고 유전적으로 다양하며 쉽게 무너지기에는 충분한 대응 능력을 갖추고 있다"고 설명했다.
"멸종과 재앙은 다르다"…생물무기·사이버공격은 현실 위험
다만 마커스 교수는 AI가 인류를 멸망시킬 가능성이 제로에 수렴한다고 해서, 현재 개발되고 있는 프런티어 AI가 안전하다는 의미는 아니라고 선을 그었다.
인류 멸종이라는 망상적인 가능성은 거의 0에 가깝지만, AI가 인류의 1% 이상을 숨지게 하거나 현대문명을 심각하게 훼손하는 수준의 '대재앙'이 발생할 위험은 AI 때문에 상당히 커질 수 있다는 게 마커스 교수의 판단이다.
구체적인 위험으로는 AI를 이용한 생물무기 개발과 허위정보 확산, 사이버 공격 등을 꼽았다.
AI가 테러리스트의 생물무기 개발을 돕거나 새로운 병원체 개발에 악용될 가능성이 있고, 더 정교한 딥페이크와 허위정보를 저렴하게 대량 생산해 민주주의를 훼손할 수 있다는 것이다.
사이버 공격의 피해도 커질 수 있다고 봤다. AI를 활용한 대규모 사이버 공격으로 은행 시스템이나 전력망 같은 핵심 인프라가 마비될 위험이 커지고 있다고 경고했다.
독재 국가 등 권위주의 체제에서 AI가 선전과 여론 통제에 이용될 가능성도 지적했다. 정부가 AI 학습에 사용되는 정보에 개입하면 대규모언어모델(LLM)의 답변에도 영향을 미쳐 이용자의 생각을 특정 방향으로 유도할 수 있다는 것이다.
AI가 대규모 감시 수단이 될 가능성도 경고했다. AI를 이용하면 과거보다 훨씬 큰 규모로 사람들의 행동과 정보를 감시할 수 있다는 지적이다. 마커스 교수는 이를 소설 '1984'의 작가 조지 오웰이 상상한 것보다 더 큰 규모의 감시가 가능해지는 상황에 빗댔다.
교육 분야에서는 학생들이 AI를 실제 학습의 대체 수단으로 사용하는 문제를 꼽았다. 손쉽게 AI가 만들어준 답을 얻는 데 익숙해지면서 스스로 생각하고 배우는 과정을 건너뛰고, 결국 비판적 사고 능력을 제대로 키우지 못할 수 있다는 것이다.
마커스 교수는 "인류 멸망과 같은 '동화같은' 두려움에 휩싸일 것이 아니라 실제 나타나고 있는 AI 위험에 집중해야 한다"고 강조했다.
마커스 교수는 인지과학과 AI를 연구해 온 학자로, 딥러닝과 대규모언어모델의 한계를 지속적으로 지적해 온 대표적인 AI 비판론자다. 머신러닝 스타트업 '지오메트릭 인텔리전스'를 창업해 2016년 우버에 매각했으며 AI의 신뢰성과 안전 문제를 다룬 저서 '리부팅 AI'(Rebooting AI)를 공동 집필했다.
