일론 머스크 테슬라 최고경영자(CEO)가 인공지능(AI)이 초래할 위험을 경고하고 이를 막기 위해 세 가지 덕목이 추구돼야 한다고 주장했다.
2일(현지시간) CNBC에 따르면 머스크는 지난달 30일 인도 억만장자 니킬 카마스의 팟캐스트에 출연해 이같이 말했다.
머스크는 “AI와 함께하는 긍정적인 미래가 보장된 것은 아니다”라며 “어떤 강력한 기술, 파괴적일 수 있는 강력한 기술을 만들 때는 어느 정도 위험이 뒤따른다”고 말했다.
그는 샘 올트먼 등과 함께 오픈AI를 공동 설립했지만 2018년 이사회에서 탈퇴했다. 그는 2022년 오픈AI가 챗GPT를 공개하자 안전하게, 비영리 AI를 개발한다는 설립 이념을 저버렸다며 비판했다.
머스크는 2023년 xAI를 통해 자체 챗봇인 그록을 개발했다.
머스크는 그동안 AI의 위험성을 경고해왔다. 미래 문명의 최대 위험 요인 가운데 하나가 AI이며 AI는 자동차나 비행기, 의약품보다 더 발전하며 사회를 더 큰 위험에 빠뜨릴 것이라고 주장했다.
이날 팟캐스트에서 머스크는 AI가 진실이 아닌 부정확성을 반복하는 것은 매우 위험할 수 있다면서 기술이 인류 문명을 위협하지 않도록 하려면 세 가지 덕목이 필요하다고 말했다.
그가 제시한 AI의 세가지 덕목은 진실과 아름다움 추구, 그리고 호기심이다. 머스크는 이 세 가지가 AI에서 가장 중요하다고 말했다.
그는 AI가 진실을 강하게 추구하지 않으면 AI는 거짓으로 가득한 온라인에서 거짓 정보를 흡수하고, 이 때문에 제대로 된 추론을 할 수 없다고 지적했다. 거짓은 현실과 양립하지 않기 때문이라는 것이다.
그는 이어 AI에게 진실이 아닌 것들을 믿도록 강요하면 AI는 미쳐버릴 수 있다면서 이렇게 미쳐버린 AI가 내리는 결론 역시 나쁜 것이 될 것이라고 경고했다.
AI가 오류 또는 오도에 대해 대응하는 이른바 ‘환각(hallucination)’은 AI가 당면한 주요 문제 가운데 하나다.
머스크는 아울러 AI가 갖춰야 할 덕목으로 아름다움에 대한 감상, 이해를 꼽았다. 그는 아름다움이란 우리가 보면 바로 아는 것이라고 주장했다.
머스크는 마지막으로 AI가 현실의 본질에 관해 더 많이 알고자 하는 호기심이 있어야 한다고 덧붙였다. 인간은 기계보다 더 흥미롭기 때문이라고 그는 설명했다.
AI가 단순히 데이터를 처리하거나 효율성을 추구하는 데 그치지 않고 인간이 살고 있는 세상의 복잡 미묘한 본질에 대해 탐구하려는 내적 동기가 있어야 한다고 머스크는 지적했다. AI가 스스로 인간 문명을 하찮게 여기거나 인간 문명은 불필요하다는 결론에 이르지 않게 하려면 AI가 인간의 존재 자체에 흥미를 느끼도록 설계돼야 한다는 것이다.
머스크는 AI가 “인류를 절멸시키는 것보다 인류의 번영까지는 아니더라도 인류가 지속되는 것을 보는 것이 더 흥미롭다”는 가치관을 가지도록 AI를 설계해야 한다고 강조했다.
dympna@fnnews.com 송경재 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지