"AI 제어 불능 막을 '킬 스위치' 의무화해야"… 앤스로픽 공동창업자
잭 클라크, AI 너무 위험해질 경우 시스템 완전히 끄는 방안 시점 올 수도
[파이낸셜뉴스] 세계적인 인공지능(AI) 기업 앤스로픽 공동 창업자가 제3자가 검증할 수 있는 AI '킬 스위치(Kill Switch·긴급 정지 장치)' 도입을 법적으로 의무화해야 할 수도 있다고 밝혔다.
잭 클라크 앤스로픽 공동 창업자는 14일(현지시간) BBC방송을 통해 방영된 인터뷰에서 "AI가 너무 위험해질 경우 시스템을 완전히 끄는 방안에 대해 사회가 규제를 마련해야 할 시점이 올 수 있다"며 이같이 말했다. 그는 앤스로픽을 포함한 대부분의 AI 개발사가 개별적인 비상 정지 수단을 보유하고 있지만, 향후 입법자들이 이를 법적으로 강제해야 할 필요성이 있다고 짚었다.
이번 발언은 최근 AI 기술의 급격한 발전과 함께 인류에 미칠 치명적 위험성에 대한 경고가 잇따르는 가운데 나왔다. 업계 일각에서는 통제되지 않은 AI가 인류를 멸망시킬 가능성까지 제기되고 있다.
앞서 다리오 아모데이 앤스로픽 최고경영자(CEO) 역시 AI 개발 속도를 조절하고 감시를 강화해야 한다고 촉구했다. 다만 그는 상업적 우위를 희생하지 않는 선에서 규제가 이루어져야 한다고 덧붙여, 구체적인 감속 방안을 두고 실효성 논란이 일기도 했다.
클라크는 "기업에 킬 스위치 탑재를 의무화할 것인가, 그리고 그 킬 스위치를 제3자가 검증할 수 있는가에 대한 논의는 향후 정책 입법 과정에서 주요하게 다뤄져야 한다"고 강조했다.
AI 안전성을 둘러싼 논쟁은 날로 격화되는 양상이다. 최근 앤스로픽을 퇴사한 한 연구원이 "AI가 인류를 전멸시킬 수 있다"는 우려를 담은 글을 올려 화제를 모았으며, 같은 회사 소속 과학자 에번 후빙거는 "향후 10년 이내에 AI로 인해 인류가 멸망할 확률을 10% 정도로 본다"고 밝혔다. 'AI의 대부'로 불리는 제프리 힌턴 교수 또한 BBC와의 인터뷰에서 이러한 10%의 확률 추정이 "터무니없는 수치가 아니다"라며 동의를 표했다.
이러한 확률 추정에 대해 클라크 창업자는 "수치 자체는 큰 의미가 없다"면서도, AI 산업을 아무런 규제 없이 방치하는 것은 대단히 위험하다고 지적했다. 그는 "우리는 지금 엄청난 위험을 무릅쓰고 주사위를 던지고 있다"며 "이제는 AI 산업의 방향을 바꿔야 할 때"라고 촉구했다.
[email protected] 윤재준 기자
