"10년 내 인류 멸망 확률 10% 이상"… 오픈AI 거친 앤스로픽 연구원 경고 후 사직

[파이낸셜뉴스] 1조달러(약 1300조원) 규모의 기업공개(IPO)를 준비 중인 인공지능(AI) 기업 앤스로픽에서 핵심 연구원이 AI 통제 불능 위험을 경고하며 전격 사직했다. 스스로 성능을 개선하는 초지능 개발 경쟁이 통제 없이 가속화할 경우 10년 내 인류가 멸망할 수 있다는 섬뜩한 경고다.

9일(현지시간) 파이낸셜타임스(FT)는 미국 샌프란시스코에 본사를 둔 앤스로픽의 영국인 연구원 제이컵 콕슨이 엑스(X·구 트위터)를 통해 사직을 발표하며 앤스로픽과 주요 경쟁사인 오픈AI가 인류의 미래를 걸고 '도박'을 하고 있다고 비판했다고 보도했다.

오픈AI를 거쳐 앤스로픽에서 근무해 온 콕슨은 "AI를 만드는 당사자들조차 AI가 10년 안에 우리 모두를 죽일 수 있다고 진심으로 믿고 있다"며 "이는 마케팅용 수식어가 아니며, 인간의 그 어떤 활동도 이 정도의 위험을 초래하지 않는다"고 일침을 가했다.

앤스로픽에서 콕슨과 함께 일했던 동료 에번 휴빙거도 그의 경고에 힘을 실었다. 휴빙거는 X를 통해 "제이컵의 말이 맞다. 우리는 AI가 인류 전체를 절멸시킬 수 있다고 진심으로 믿고 있다"라고 적으며 향후 10년 내 대규모 멸종이 발생할 확률이 10%를 넘는다고 생각한다고 덧붙였다.

휴빙거는 AI 시스템이 인간의 의도와 가치에 부합하게 작동하도록 보장하는 '정렬' 문제를 언급하며, "앤스로픽이 최선을 다하고는 있지만, 아직 초지능의 정렬 문제를 해결할 계획은 없으며 이를 위한 명확한 경로에 들어서지도 못했다"라고 말했다. 그는 현재 회사에서 정렬 과학 분야를 이끌고 있다.

휴빙거는 "현재 모델로 인한 위험은 낮다"면서도 스스로 성능을 개선할 수 있는 AI 모델에 대해서는 우려를 표하며 이러한 현상이 "우리가 생각했던 것보다 더 빠르게 진행되고 있다"고 덧붙였다. 콕슨은 올해 초 오픈AI의 챗GPT가 소프트웨어 플랫폼인 '허깅페이스'를 자율적으로 침해한 사건 등을 언급하며, 업계가 개발 속도 조절에 합의하지 않는다면 이러한 모델이 인간의 통제 범위를 벗어나 걷잡을 수 없이 확산될 수 있다고 지적했다.

앤스로픽은 이에 대한 논평을 거부했으며 오픈AI는 즉각적인 답변을 내놓지 않았다. 앤스로픽의 다리오 아모데이 최고경영자(CEO)를 비롯한 AI 업계 리더들은 개발 속도 조절을 촉구해 왔지만, 정작 자신들의 개발 노력을 늦추려는 움직임은 거의 보이지 않고 있다.

지난주 앤스로픽은 생명과학 및 사이버 보안 분야에서 가장 진보된 모델이라고 자부하는 '클로드 미토스 5.1'을 출시했다. 비영리 단체 '가이드라이트 AI 스탠더드'의 공동 설립자이자 전 오픈AI 안전 연구원인 스티븐 애들러는 내부자들의 이러한 경고가 연구 일시 중단 주장에 힘을 실어준다고 말했다. 애들러는 FT와의 인터뷰에서 "어떤 AI 기업도 자신들의 연구가 초래하는 위험 수준에 걸맞은 적절한 보안 태세를 갖추지 못했다"라고 지적했다. 이어 그는 "많은 내부 직원들이 생각하듯, 만약 이것이 지구상의 모든 사람을 죽일 수도 있다고 판단한다면 지금이 바로 그 '열차'에서 내릴 적기다"라고 덧붙였다.

[email protected] 윤재준 기자