올트먼, 유엔 안보리에서 AI 국제 표준 제정 촉구한다

[파이낸셜뉴스]

샘 올트먼 오픈AI 최고경영자(CEO)가 21일(현지시간) 미국 주도의 인공지능(AI) 시스템 국제 표준 제정 흐름에 합류했다.

파이낸셜타임스(FT)에 따르면 오픈AI는 이날 AI 모델의 능력과 위험을 국제 사회가 공동으로 평가하자고 제안했다. 특히 AI가 스스로 AI를 훈련하는 특이점에 관한 공동 평가를 제안했다. 앤스로픽과 구글도 더 적극적인 국제 공동 개입이 필요하다며 국제 표준, 국가 간 협력 강화를 제안해 왔다.

특히 구글 딥마인드 공동 창업자 겸 의장인 데미스 허사비스는 지난 7월 프런티어 AI에 관한 국제 표준을 미국이 주도해 제정하자고 제안했다. 허사비스는 금융 시장의 자율 규제 기구인 '금융산업규제국(FINRA)' 같은 새로운 민관협력기구를 만들어 AI를 규제하자고 주장하고 있다. 이 기구는 독립적인 주요 기술 전문가, 오픈소스 대표들도 참석할 수 있게 하자고 그는 주장한다.

이를 통해 "산업혁명의 10배 속도로 10배 충격"을 몰고 올 수도 있는 AI 혁명에 대비하자는 것이다.

올트먼 CEO는 오는 23일 유엔 안보리에 출석해 이 같은 제안을 설명할 예정이다. 올트먼은 24일에는 도널드 트럼프 대통령이 백악관에서 주최하는 시진핑 중국 국가주석 국빈 만찬에도 참석한다.

미중 양국 간 AI 국제 표준 마련에도 탄력이 붙고 있다.

스콧 베선트 재무장관은 20일 뉴욕에서 허리펑 중국 부총리와 만난 뒤 FT에 미중 양국이 AI 회담에 합의했다고 밝혔다.

오픈AI는 AI 경쟁을 주도하는 양국이 부상하는 위험에 대응하는 안보 채널도 열어야 한다고 촉구했다. "AI 안전과 안보에 관한 미중 대화는 긍정적인 행보가 될 것"이라고 강조했다.

AI가 스스로 AI를 훈련하는 단계에 이르면, 이후 AI 발전 속도는 인간의 통제를 벗어나게 되고 결국 인류 절멸로 이어질 수 있다는 우려가 고조되는 가운데 미중 대화 논의에도 물꼬가 터졌다.

다만 양국 논의에서 AI 개발 속도 제한과 관련해 실질적으로 어느 정도나 진전이 있을지는 미지수다. 상대방을 신뢰할 수 없기 때문이다. 게임이론이 제시하는 것처럼 한쪽이 약속을 먼저 깨고 AI 무제한 개발을 밀어붙이면, 다른 한쪽은 경쟁에서 패배하고 영원히 격차를 좁히지 못할 수도 있다. 국제 표준을 만들어도 무용지물이 될 수 있다는 뜻이다.

이 때문에 트럼프 대통령은 속도 조절론을 거부하고 미중 경쟁에서는 "AI 승자가 경쟁에서 승리한다"고 강조해왔다.

트럼프의 AI 참모인 데이비드 삭스 역시 개발 속도 제한을 위해 정부가 개입해야 한다는 업계 요구에 비판적이다. 삭스는 소셜미디어에서 "초지능을 구축하지 않는 가장 손쉬운 방법은 당신들이 이를 만들지 않기로 합의하는 것"이라며 "당신들이 선호하는 방식으로 규제 프레임을 짜라고 요구하는 것은 대중과 정치 시스템에 대한 협박과 다를 것이 없다"고 말했다.
한편 오픈AI는 이날 기존 국가 AI 안전 기구들을 네트워크로 묶어 AI 모델을 평가할 수 있는 국제적인 표준을 만들자고 제안했다. 특히 AI가 스스로 계속해서 개량하는 이른바 '재귀적 자기 개선(RSI)'에 관해 통제하는 국제 공조를 호소했다.

오픈AI는 "적절한 관리와 규제가 없으면, RSI로 인해 인간은 AI 개발에 관해 실질적으로 통제를 잃고, 자신들이 더 이상 이해하지 못하는 연구 절차에 관해 감독할 수 없다"고 경고했다.

[email protected] 송경재 기자