국제 국제경제

머스크 "AI 숙제, 경쟁사가 채점하자"…미·중 빅테크 상호검증 제안

이병철 기자

파이낸셜뉴스

오픈AI·앤트로픽·구글·메타에 中 기업까지 참여 제안
출시 전 경쟁사끼리 AI 모델 안전성 검증…"문제 발견 가능성 커져"

【파이낸셜뉴스 뉴욕=이병철 특파원】 일론 머스크가 인공지능(AI) 모델을 일반에 공개하기 전 경쟁 기업들이 서로의 모델을 검증하는 '상호검증' 체계를 만들자고 제안했다. 앤트로픽과 오픈AI 등 AI 업계가 잇따라 개발 속도 조절과 안전장치 강화를 요구하는 가운데 정부의 직접 규제 대신 기업들이 서로를 감시하는 방식의 해법을 내놓은 것이다.

머스크는 15일(현지시간) 미국 로스앤젤레스에서 열린 '올인 서밋(All-in Summit)'에서 자신의 회사와 오픈AI, 앤트로픽, 구글, 메타를 비롯해 중국의 주요 AI 기업 3~4곳이 서로의 AI 모델을 출시 전에 시험할 수 있도록 해야 한다고 주장했다.

머스크는 이를 '테스트 하니스(test harness)'라고 표현했다. 경쟁 기업이 상대방의 AI 모델을 직접 시험해 안전상의 문제가 있는지 확인하는 일종의 상호검증 시스템이다. 그는 "자기 숙제를 스스로 채점하는 대신 최소한 경쟁사들이 여러분의 숙제를 채점하도록 하고, 문제가 발견되면 경고하도록 하자는 것"이라고 설명했다.

머스크의 제안은 최근 AI 업계에서 안전성 논쟁이 급격하게 확산하는 상황에서 나왔다.

앤트로픽과 오픈AI 등 주요 AI 기업 경영진들은 지난 주말 AI 기술이 가져올 수 있는 위험을 잇달아 경고하며 첨단 AI 모델의 개발 속도를 늦출 필요가 있다고 주장했다. 머스크와 샘 올트먼 오픈AI 최고경영자(CEO)도 다리오 아모데이 앤트로픽 CEO가 제안한 개발 속도 조절 방안에 지지 의사를 나타냈다. 치열하게 경쟁해온 AI 업계 지도자들이 안전 문제를 놓고 이례적으로 한목소리를 낸 셈이다.

AI 연구자들의 경고 수위도 높아지고 있다. 오픈AI에서도 근무했던 제이컵 콕슨은 최근 앤트로픽을 퇴사하면서 주요 AI 연구소들이 "우리의 목숨을 걸고 도박을 하고 있다"고 주장했다.

앤트로픽에서 AI 정렬(alignment)을 담당하는 에번 휴빙어도 이에 동조했다. 그는 "우리는 정말로 AI가 모든 인간을 죽일 수도 있다고 진지하게 믿고 있다"며 "개인적으로 향후 10년 안에 그런 일이 일어날 가능성이 10%를 넘는다고 생각한다"고 밝혔다.

한편 AI 업계의 움직임과 달리 도널드 트럼프 행정부는 AI 개발에 대한 규제 강화에 선을 긋고 있다.

트럼프 대통령은 트루스소셜을 통해 AI 위험을 둘러싼 우려를 '거짓말(hoax)'과 '사기(scam)'라고 규정했다. 미국이 AI 개발 속도를 늦출 경우 중국에 기술 주도권을 넘겨줄 수 있다는 게 트럼프 대통령의 주장이다.

케빈 해싯 백악관 국가경제위원회(NEC) 위원장도 AI 위험에 대응할 "적절한 곳은 민간 부문"이라고 밝혔다. 정부가 업계를 계속 감시하되 기업들이 책임 있게 행동하도록 필요한 경우 법 집행 수단을 활용하겠다는 입장이다.

중국 역시 미국 AI 기업들의 개발 속도 조절론에 부정적인 입장을 보이고 있다. 중국 외교부 대변인은 AI 기업들의 개발 속도 조절 요구를 '공포 조장(fear mongering)'이라고 비판했다.