"모든 AI ‘실행 취소’ 옵션으로 통제 가능해야"

인공지능(AI)이 현재 안전하게 통제될 수 있다는 증거가 없으며, 통제할 수 있다는 확실한 증거가 없다면 AI를 개발해서는 안된다는 주장이 제기됐다. 특히 모든 AI를 '통제 가능' 또는 '통제 불가능'으로 분류해, 모든 AI를 일시적으로 중지할 수 있는 제약이 있어야 한다는 것이다.

미국 루이빌대학 로만 V. 얌폴스키 컴퓨터공학과 교수는 12일 출간된 책 'AI: 설명할 수 없는, 예측할 수 없는, 통제할 수 없는'에서 "AI의 위험을 최소화하려면 '실행 취소' 옵션을 사용해 수정·제한이 가능하고 투명하며 인간 언어로 이해하기 쉬워야 한다"고 말했다.

얌포스키 교수는 AI로 인해 번영 혹은 멸종될 수 있으며, 우주의 운명이 AI에 달려 있다고 설명했다.

그는 "AI는 실존적인 재앙을 일으킬 가능성이 있으며, 많은 이들이 AI야말로 인류가 직면한 가장 중요한 문제"라고 언급했다.

AI와 관련된 과학 문헌을 철저하게 검토한 결과, AI가 안전하게 통제될 수 있는 증거를 찾지 못했다.

이는 AI 초지능의 발전과 결합해 AI 안전에 대한 노력을 지속해야 할 이유다.

[e-mail] 김만기 기자