AI연구자들 "AI 개발 속도, 국제사회가 관리해야"공개서한[글로벌AI브리핑]
[파이낸셜뉴스] 오픈AI, 구글 딥마인드, 메타, 앤스로픽 등 주요 인공지능(AI) 기업 소속 연구자들이 미국 정부에 "AI가 스스로 AI를 개발하면서 개발 속도에 가속이 붙고 있다"며 AI 개발속도를 관리할 수 있는 글로벌 거버넌구축을 촉구하고 나섰다.
생성형 AI 경쟁이 기술 개발을 넘어 국가 안보와 산업 경쟁력의 핵심 변수로 떠오른 가운데, 업계 내부에서 무제한 속도 경쟁이 위험하다는 목소리를 공개적으로 표출하고 있는 것이다.
28일(현지시간) IT 전문매체 더버지에 따르면 AI 연구자와 엔지니어 1100여명은 미국 정부를 향한 공동 공개서한을 통해 '자동화된 AI 개발(Automated AI Development)'에 대비한 글로벌 관리체계를 마련해야 한다고 요구했다.
연구자들은 AI가 스스로 AI를 개발하는 AI업계의 개발 방식이 일반화되면 AI 발전 속도가 인간 연구자나 규제기관의 검증 능력을 넘어서게 된다고 경고했다.
지금도 AI는 코드 작성과 알고리즘 최적화, 연구 논문 분석 등 개발 과정의 상당 부분을 지원하고 있지만, 앞으로는 AI가 스스로 새로운 AI 모델을 설계하고 성능을 향상시키는 단계까지 진화할 가능성이 높다는게 연구자들의 주장이다.
특히 AI 모델이 자율적으로 연구를 수행하는 것이 일반화되면 사이버 공격, 생물학 연구 악용, 허위정보 생성 등 다양한 위험이 훨씬 빠른 속도로 확산될 수 있다고 우려했다. 또 이 위험은 개별 국가의 규제만으로는 대응하기 어려운 만큼 주요 국가들이 공동 기준을 마련하고 국제 공조 체계를 구축해야 한다고 강조했다.
공개서한은 "미국 정부가 '자동화된 AI 개발'을 조절할 수 있는 기술적·제도적 수단을 마련하기 위한 국제적 노력을 지원해야 한다"고 촉구했다.
연구자들은 "AI 개발을 중단하거나 혁신을 막자는 것이 아니라, 안전성 평가와 보안 검증, 사회적 대응 체계가 기술 발전을 따라갈 수 있도록 발전 속도를 관리하는 정책이 필요하다"고 강조했다.
[email protected] 이구순 기자
