[AI 시대 명과 암] 역기능 우려 목소리도 확산.. 일론 머스크 "북핵보다 더 위협적"

스티븐 호킹 "국제 대응기구 필요"
악의적인 정보 제공받은 MS 챗봇
인종차별적 발언 쏟아낸 사례 발생
AI의 학습방식도 이슈로 떠올라

#알파고로 전세계가 AI 열풍에 휩싸이면서 강대국들을 중심으로 AI 기술개발 경쟁이 시작된다. 과거에는 누가 핵무기를 가지고 있느냐로 경쟁했지만 이제는 누가 더 강력한 AI기술을 보유하고 있느냐가 중요해진다. AI기술 경쟁으로 국가간 갈등이 심해지고, 결국 AI가 전쟁하면 승리할 수 있다는 판단을 내리면서 3차 세계대전이 벌어진다. (일론 머스크 테슬라 창업자의 발언을 바탕으로 재구성한 AI의 위협)

#지금은 인간이 AI를 학습시키고 AI를 필요한 곳에 활용할 수 있지만 AI 기술이 점점 고도화되면서 사람과 비슷한 AI가 등장하기 시작한다. 스스로 생각할 수 있는 AI는 결국 인간의 통제를 벗어나기 시작한다. 항상 자신에게 가장 이익이 되는 판단을 내리도록 프로그래밍 된 AI는 더이상 인간이 자신에게 이익이 되지 않는다고 판단한다.

AI가 인류를 제거하기로 결정하는 것이다.(스티븐 호킹 케임브릿지대학 교수의 발언을 바탕으로 재구성한 AI의 위협)

AI가 인류의 위협이 될 것이라는 지적이 잇따르고 있다. 특히 AI가 인간의 통제를 벗어나게 되면 영화속에서나 보던 AI와 인류의 전쟁이 실현될 수 있다는 지적도 나온다. 일부 전문가들은 벌써부터 AI 기술 개발에 대한 규범을 정해야 한다고 강조하고 있다. 일각에서는 AI를 통제할 수 있는 국제연합(UN)과 같은 새로운 국제기구가 필요하다는 주장도 나오고 있다.

■일론 머스크 "북한 핵보다 AI가 더 위협적"

12일 관련업계에 따르면 일론 머스크 테슬라 창업자, 세계적인 물리학자 스티븐 호킹 박사 등 업계 전문가들이 잇따라 AI의 역기능에 대한 우려의 목소리를 던지고 있다. 일론 머스크는 최근 소셜네트워크서비스(SNS)를 통해 "중국과 러시아 등이 강력한 컴퓨터 과학 기술을 보유한 나라들이 AI에 대해 우위를 점하기 위해 국가적 경쟁에 돌입할 것"이라며 "이로 인해 3차 세계대전이 벌어질 가능성도 높다"고 지적했다.

일론 머스크는 대표적인 AI 규제론자 중 한명이다. 이전에도 여러차례 AI에 대한 규제를 검토해야 한다고 강조해왔다. 이번 SNS 발언 역시 AI가 계속 진화하면 AI의 판단에 따라 전쟁이 벌어질 수 있으니 지금부터 AI 규제에 대해 논의해야 한다는 점을 강조한 것으로 풀이된다.

■스티븐 호킹 "AI로 인류 종말 올수도"

세계적인 물리학자 스티븐 호킹 박사 역시 AI의 위협을 여러차례 경고하고 있다. 호킹 박사는 "AI가 진화를 거듭하면 인간과 다른 판단을 내리고 인간의 판단과는 전혀 다른 행동을 할 수 있다"며 "AI가 계속 진화하면 결국 인류의 종말이 찾아올수도 있다"고 경고했다. 그러면서 그는 AI를 통제할 수 있는 국제적인 기구를 결성해 AI를 관리해야 한다고 주장했다.

지난해 3월 마이크로소프트(MS)가 선보인 AI 기반 챗봇 '테이'는 AI가 잘못 사용될 수 있다는 점은 전세계 사람들에게 여실히 드러냈다. 인터넷에서 정보를 습득하던 테이에게 일부 이용자들이 악의적인 정보를 제공하자 테이가 인종차별적 발언과 욕설을 쏟아낸 것이다. 테이 사태로 AI를 어떻게 학습시키고, 어떻게 활용하느냐에 대한 고민이 필요하다는 공감대가 전세계적으로 형성됐다.

■"역기능 우려 분명히 있어, AI 윤리규범 등 마련해야"

기업들도 AI의 위협을 제어하기 위한 움직임을 시작했다. 지난해 9월 MS와 아마존, 구글, 페이스북, IBM 등은 비영리조직 '인간과 사회를 이롭게하는 AI 파트너십'을 결성했다. 이들은 AI 관련 윤리규범을 만들고 인간과 AI가 공존할 수 있는 방안을 모색키로 했다.

특히 AI가 사람의 일자리를 줄인다는 지적은 AI 기술이 개발될때부터 지금까지 논쟁의 대상이 되고 있다. 실제로 AI 로봇이 생산공정에 도입되면 단순 반복형 일자리는 점점 줄어들어 결국 사라질 가능성이 높다.

물론 반대로 AI가 오히려 새로운 융합 서비스를 발굴해 일자리를 늘릴 것이라는 분석도 있다.

허준 기자