아모데이·올트먼·머스크, 모처럼 의기 투합 "AI 개발 늦춰야"

[파이낸셜뉴스]

다리오 아모데이(앤스로픽), 샘 올트먼(오픈AI), 일론 머스크(스페이스X) 등 인공지능(AI) 선두 업체 최고경영자(CEO)들이 모처럼 의기투합했다. 이들은 한목소리로 AI 개발을 늦춰야 한다고 말했다. AI가 인류 절멸이라는 재앙을 부를지 모른다는 우려가 고조되는 가운데서도 도널드 트럼프 미국 대통령이 "중국에 뒤질 수는 없다"며 개발을 강행하고 있지만 정작 선두 주자들은 다른 목소리를 내고 있다.

파이낸셜타임스(FT)에 따르면 아모데이가 12일(현지시간) 공개된 에세이에서 이런 제안을 하자 올트먼과 머스크도 이를 적극 지지하고 나섰다. 머스크는 소셜미디어 X에서 "다리오(아모데이)가 옳다"고 말했다.

앞서 아모데이는 자신의 블로그에 공개한 에세이에서 올여름 AI 모델 개발 속도가 "격렬하게 빨랐다"면서 "AI 모델 개선 속도를 늦춰야 한다"고 말했다. 앤스로픽이 역대 최대 규모의 기업공개(IPO)를 준비하고 있음에도 불구하고 CEO가 IPO에 악재가 될 수 있는 '개발 속도 제한' 카드를 꺼내 든 것이다.

치고받기만 하던 올트먼과 머스크도 모처럼 아모데이의 호소에 화답했다. 이들은 한목소리로 아모데이의 주장을 지지하고, 아모데이가 제안한 것처럼 독립적인 평가단이 모든 첨단 AI 업체들에 접근할 수 있도록 하자는 데 동의했다.

머스크는 "다리오가 옳다"고 했고, 올트먼은 "프런티어 속도 조절이 필요하다는 다리오의 말에 동의한다"고 강조했다. 앞서 올트먼은 지난 주 초 전체 직원 회의에서 AI 개발 속도를 늦추기 위한 국제 공조를 수용할 수 있다고 밝히기도 했다.

올트먼은 X에 올린 글에서 "독립 평가단이 내부 직원처럼 접근할 수 있도록 하자는 것은 훌륭한 생각"이라며 "우리도 그렇게 하겠다. 조만간 더 공유하겠다"고 덧붙였다.

구글 딥마인드, 메타플랫폼스 경영진은 아직 입장 표명이 없다. 그러나 이들 내부에서는 이미 우려가 높아지고 있다. 구글 딥마인드 회장이자 공동 창업자인 데미스 허사비스는 지난 7월 에세이에서 급속한 AI 발전은 프런티어 시스템 검사에 관한 새로운 접근을 요구하고 있다고 밝혔다.

급속한 AI 발전이 통제 불능에 빠질 것이란 우려는 지난주 앤스로픽 연구자인 제이콥 콕슨이 AI 안전성과 인류 종말에 대한 우려를 제기하며 사표를 내면서 급속히 확산됐다. 그는 지난 8일 사표를 던지면서 앤스로픽과 경쟁사 모두 "우리(인류)의 목숨을 걸고 도박을 하고 있다"고 비판했다. 인간이 감독을 지속할 수 없을 정도로 스스로 빠르게 자가 개선을 하는 초지능 AI 개발 경쟁에만 몰두해 있다는 것이다.

콕슨은 "AI를 개발하는 이들은 AI가 2030년 안에 우리 모두를 죽일 수도 있다고 정말로 믿고 있다"고 말했다.

그의 경고는 특히 오픈AI의 에이전트 무리가 테스트 시스템을 탈출해 오픈소스 AI 플랫폼인 '허깅 페이스'를 해킹한 사실이 드러난 뒤 나왔다. 당시 오픈AI 에이전트들은 개발진이 부여한 과제를 수행하는 과정에서 오류를 일으켜 오픈AI 본사 서버를 제어하고, 에이전트 간 자체 협력으로 이런 일을 벌인 것으로 나타났다.

아모데이는 "이들 에이전트가 더 강력한 성능으로 무했다면…파국적인 피해를 몰고 왔을 수도 있다"면서 이 사건이 AI 개발 속도를 늦추자는 자신의 제안에 결정적인 동기가 됐다고 밝혔다.

그는 "앤스로픽을 포함해 업계 전반에서 이보다 덜 심각하긴 하지만 유사한 사건들이 발생했다"며 "모든 프런티어 AI 기업은 이번 허깅페이스 사건을 자사에서 일어난 일인 것처럼 간주해 대처할 책임이 있다"고 덧붙였다.

아모데이는 업계의 속도 조절 조율은 자칫 '담합'으로 비춰져 반독점법에 위반될 수 있다는 판단으로 정부 차원의 지원을 촉구했다. 아울러 중국 AI 업체들의 성장 속도가 빠르다면서 중국 정부와도 협력해 AI 통제를 강화해야 한다고 호소했다.

그는 "AI 경쟁에서 이기지 못하면 미국이 매우 불리한 위치에 처하게 될 뿐"이라는 트럼프 대통령의 우려도 해소할 수 있다고 강조했다.

아모데이는 "조율된 속도 조절 전략을 취해도 프런티어 AI 개발사들은 상업적 이점이나 미국의 AI 주도권을 희생하지 않으면서 이 중요한 안전성 작업을 수행할 시간을 벌 수 있다"고 말했다.

[email protected] 송경재 기자