"AI에 인간이 지배당할라"…20개국 통제 선언, 美·中은 불참

핀란드·노르웨이 주도
유엔총회 계기로 글로벌 감독 체계 수립 제안

[파이낸셜뉴스] 인공지능(AI)에 대한 인간의 지시·감독·통제가 유지돼야 한다고 주장하면서 이를 위한 글로벌 감독 체계를 수립하자고 제안하는 선언문이 핀란드와 노르웨이 등의 주도로 21일(현지시간) 채택됐다.

미 정치전문매체 폴리티코에 따르면, 선언문은 미국 뉴욕에서 열리는 제81차 유엔 총회 고위급 회기를 계기로 마련됐으며, 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석이 백악관에서 할 정상회담을 앞두고 채택됐다.

선언문에 서명한 이들은 핀란드·노르웨이·독일·캐나다·호주·스페인·아일랜드·네덜란드·싱가포르·남아프리카공화국·케냐 등 약 20개국의 지도자들과 우르줄라 폰데어라이엔 유럽연합 집행위원장 등이다. 미국과 중국은 전세계에서 AI 연구 개발이 가장 활발하게 이뤄지고 있는 나라들이지만, 이번 선언문 채택에는 참여하지 않았다.

이 선언문은 "AI가 삶을 개선하고, 과학을 발전시키며, 경제를 강화할 잠재력을 지녔다"며 "첨단 AI 모델의 급속한 발전은 적절히 관리되지 않을 경우 안전과 안보에 심각한 위험을 초래한다"고 경고했다. 그러면서 최근 허깅페이스 플랫폼을 겨냥한 통제 밖 AI 에이전트들의 사이버공격을 언급하며 이런 위험에 대응해야 한다고 촉구했다.

AI 기업에 대해서는 "배치 전 의무 시험과 독립적 평가를 포함한 투명한 안전 프로토콜을 마련하도록 하고, 위험 평가 자격을 갖춘 평가자에게 충분한 접근권을 부여해야 한다"고 주장했다.

다만 선언문은 AI 개발의 속도를 늦추거나 중단하자고 요구하지는 않았다. 개발 자체를 멈추기보다 위험 관리에 초점을 맞춰야 한다는 것이다.

선언문 작성에 주도적 역할을 한 알렉산데르 스투브 핀란드 대통령은 폴리티코 인터뷰에서 "더 많은 주체의 동참을 이끌어낼 동력을 만들고 싶다"고 말했다. 그는 "중국과 미국 모두 어떤 형태로든 안전장치를 갖는 것이 이익이 될 것이라고 생각한다. 우리의 메시지는 '인간의 개입이 필요하며, 인간이 주도권을 가져야 한다'는 것"이라고 덧붙였다.

또한 스투브 대통령은 "개인적으로는 유엔 체계 안에 국제원자력기구(IAEA)와 유사한 새 기구를 만드는 방안을 선호한다"고 말했다. 다만 그는 유엔에 회의적인 트럼프 대통령을 염두에 둔 듯 "유엔 체계 안에 있다는 이유만으로 사람들이 이를 거부하지 않도록, 선택지를 열어둬야 한다"고 부연했다.

스투브 대통령과 함께 선언 추진을 주도한 요나스 가르 스퇴레 노르웨이 총리는 화상으로 인터뷰에 참여해 "주요 7개국(G7)과 앞으로 영국이 맡게 될 주요 20개국(G20) 의장국이 이 문제를 맡아준다면 매우 고무적일 것"이라고 말했다. 그는 "유엔은 규모가 크지만, G7과 G20은 좀 더 집중돼 있다"고 덧붙였다.

[email protected] 홍채완 기자