교황 레오, AI에 경고장…"끝없는 전쟁 위험"

【파이낸셜뉴스 뉴욕=이병철 특파원】교황 레오 14세가 인공지능(AI)의 무분별한 발전과 전쟁 활용 가능성을 강하게 비판하며 각국 정부에 AI 개발 속도 조절과 강력한 규제를 촉구했다. 특히 AI가 허위정보 확산과 갈등 증폭을 통해 세계를 '끝없는 전쟁'으로 이끌 수 있다고 경고하며 자율무기 체계에 대한 윤리적 통제 필요성도 강조했다.

교황 레오 14세는 25일(현지시간) 공개한 첫 회칙 '마그니피카 후마니타스(Magnifica Humanitas·위대한 인간성)'에서 "모든 것이 가속화될 때 이를 늦출 수 있는 보다 적극적인 정치 개입이 필요하다"며 AI 시스템 개발에 대한 강한 규제를 요구했다.

교황은 AI가 허위정보를 퍼뜨리고 갈등을 우선시하는 방향으로 작동할 위험성을 지적하며 세계가 "끝없는 전쟁의 길"로 들어설 수 있다고 우려했다.

특히 자율무기 체계에 대해 "일부 시스템은 사실상 인간의 통제 범위를 넘어섰다"며 "인간이 통제하지 못하는 무기 체계가 전쟁 의사결정을 대신하는 상황은 용납될 수 없다"고 강조했다.

그는 AI를 핵기술에 비유하며 "핵기술처럼 AI 역시 공동선을 위해 봉사해야 하며 기술에 관한 결정은 양심과 책임에서 분리돼서는 안 된다"고 밝혔다. 그러면서 AI가 의료·고용·안보 접근을 차단하는 차별적 알고리즘으로 작동할 위험성도 경고했다.

이번 회칙은 약 4만3000단어 분량으로 교황 즉위 직후부터 준비된 것으로 알려졌다. 회칙은 교황이 전 세계 14억 가톨릭 신자들에게 내리는 최고 수준의 공식 가르침 가운데 하나다.

교황은 AI 데이터 소유권이 소수 민간기업에 집중되는 구조를 문제 삼으며 규제 필요성을 제기했다.

그는 AI 데이터가 민간 손에만 맡겨져서는 안 되며 정책 입안자들이 노동자 권리를 보호하고 어린이를 기술 위험으로부터 지켜야 한다고 촉구했다.

또 AI 기업 간 과열 경쟁을 완화하고 독립적 감독 체계를 구축해야 한다고 주장했다.

행사에는 AI 기업 앤스로픽 공동창업자인 크리스 올라도 참석했다. 그는 "AI가 제기하는 문제는 AI 연구 공동체만의 문제가 아니다"라며 기업들이 상업적 압박과 지정학적 경쟁 속에서 움직이고 있다고 인정했다.

[e-mail] 이병철 특파원