"AI 결말, 인류 멸종으로 끝날 수도"…앤트로픽 퇴사한 연구원 또 경고
[파이낸셜뉴스] 앤트로픽을 퇴사한 연구원이 미국 뉴욕시의회 청문회에서 "인류가 AI에 통제권을 잃을 가능성이 더 크다"고 경고했다. 이 연구원은 인공지능(AI) 개발 경쟁의 위험성을 경고하며 앤트로픽을 떠나 화제가 됐던 인물이다.
5일(현지시간) CNBC 방송 등 복수의 외신에 따르면 앤트로픽 전 연구원 제이컵 콕슨은 이날 뉴욕시의회 AI 청문회에 출석해 "우리는 아직 어떤 AI 시스템도 통제하는 방법을 모른다"면서 이같이 말했다.
그는 "현재 경로대로라면 인류가 AI에 통제권을 잃을 가능성이 그렇지 않을 가능성보다 크며, 이는 인류 멸종으로 끝날 수도 있다"고 경고했다.
AI 규제 법안 패키지를 추진 중인 줄리 메닌 시의회 의장의 요청으로 증언대에 선 콕슨은 업계의 접근 방식이 "극도로 무모하다"며 "(실리콘밸리의 오랜 격언인) '빠르게 움직이고 깨뜨려라'는 방식은 사진 공유 앱에는 통할지 몰라도 역사상 가장 강력한 기술을 만드는 데는 통하지 않는다"고 비판했다.
그는 또 "프런티어 모델 개발에 일종의 속도 조절이 필요하다"며 뉴욕시의회가 검토 중인 AI '킬 스위치'(긴급 차단 장치)에 대해 단기적으로는 도움이 될 수 있지만 장기적으로 안전을 보장하기에는 충분하지 않다고 지적했다.
콕슨은 지난달 앤트로픽을 그만두면서 앤트로픽과 오픈AI가 "우리의 목숨을 걸고 도박을 하고 있다"고 비판한 인물이다. 영국 출신인 콕슨은 대규모 데이터를 이용해 새로운 AI 모델을 학습시키는 분야를 연구한 것으로 알려졌으며, 올해 초 오픈AI에서 앤트로픽으로 이직한 뒤 앤트로픽을 퇴사했다.
그는 오픈AI와 앤트로픽 양사에 대해 "모두 책임감 있게 행동하고 있지 않다"며 "이들은 스스로 발전하는 초지능을 향해 질주하면서 우리 목숨을 도박 거리로 삼고 있다"고 비판하기도 했다. 또 각국 정부에 AI 개발 속도를 조절할 수 있는 국제적인 체계를 마련하라고 촉구하는 AI 업계 연구자들의 성명에도 참여했다.
이날 청문회에는 구글 딥마인드 연구원 출신 알렉스 터너도 화상 증언을 통해 "중국만이 잠재적 적이 아니다. 우리는 상당히 높은 확률로 국내에서 우리 자신의 적, 즉 정렬되지 않은 AI를 만들기 위해 경쟁하고 있다"며 "이는 언젠가 중국보다 강력해질 수 있다"고 말했다.
오픈AI와 앤트로픽, 구글, 메타플랫폼 관계자들도 화상으로 출석해 선서 후 증언했다. 이중 오픈AI와 앤트로픽, 구글은 시의회가 소환장을 발부하겠다고 경고하자 출석하기로 했다. 메닌 의장은 출석 요청에 응하지 않은 스페이스X의 AI 부문에 대해서는 소환장을 집행해달라고 법원에 요청하겠다고 밝혔다.
[email protected] 김희선 기자
