엇갈린 오픈AI…브레이크 밟은 과학자, 가속페달 밟은 회사
'안전하게 속도 조절' 촉구한 날 '자동화 AI 연구원 개발' 청사진
[파이낸셜뉴스] 챗GPT 개발사 오픈AI의 최고과학자가 인공지능(AI) 기술의 위험성을 경고하며 '업계 전반의 개발 속도 조절'을 촉구했지만, 같은 날 발표한 오픈AI의 별도 보고서는 '연구 가속화'를 내세우며 엇박자를 보였다.
6일(현지시간) 야쿠프 파호츠키 오픈AI 최고과학자는 '외계의 지성'이라는 기고문을 통해 "기계 지능이 계속해서 급속도로 발전할 경우 초래될 결과에 아무도 대비하지 않고 있다"고 우려를 표했다.
그는 현대의 AI에 대해 "설계되는 것이라기보다는 재배되는 것"이라면서 "AI의 작동 방식을 인간이 완전히 이해하기는 어렵다"고 지적했다. 인간이 정밀하게 그린 설계도에 맞춰 만들어지는 것이 아니라 마치 생물처럼 자라나는 것이기 때문에 인간이 AI를 완전히 통제하기는 어렵다는 것이다. 그러면서 "실제로 AI 감시를 위해 적용한 '생각의 연쇄(CoT)' 모니터링 등 안전장치도 모델 고도화에 따라 점차 저하되고 있다"고 강조했다.
그는 'AI 개발을 지속해야 방어 체계를 구축할 수 있다'는 AI 업계의 주장에 대해선 "방어체계 구축이 무모한 행동을 정당화하는 구실이 돼선 안 된다"고 반박했다. 이어 "AI가 인간에게 위협이 되는 행동을 거부하도록 하는 '정렬' 문제를 충분히 해결한 연구소는 아직 한 곳도 없다"면서 "공동의 안전장치가 마련될 때까지 자발적인 속도 조절이 일반화되길 바란다"고 말했다. 그러면서 "AI 개발에 대한 국제적 협력이 세계 각국 정부의 최우선 과제가 돼야 한다"고도 덧붙였다.
샘 올트먼 최고경영자(CEO)도 파호츠키 최고과학자의 이 글을 SNS에 인용하면서 "중요한 글"이라고 지지 의사를 밝혔다. 올트먼 CEO는 수년간 여러 차례 제기된 AI 개발 속도조절론에 일관되게 회의적인 태도를 보여왔지만, 최근 GPT 모델의 '허깅페이스' 해킹 사건 이후에는 전향적으로 의견을 바꿔 속도조절론을 지지하고 있다.
그러나 오픈AI가 이날 별도로 발행한 '연구 가속화' 보고서는 다소 상반되는 내용을 담고 있어 눈길을 끈다. 오픈AI는 이 보고서에서 "자체 AI 개선과 코딩을 수행하는 '자동화 AI 연구 인턴' 목표를 달성했다"면서, "2028년 3월까지 이를 개선해 '자동화 AI 연구원'을 개발하겠다"는 새로운 목표를 제시했다.
보고서는 이 같은 자동화 AI 연구가 오히려 '정렬' 문제 해결에 도움이 될 수 있다고 주장해 파호츠키 최고과학자와는 상반된 견해를 드러냈다.
[email protected] 홍채완 기자
