"AI, 고등학생도 따라하기 쉬운 생화학무기 제조법 알려줘"
(서울=뉴스1) 강민경 기자 = 인공지능(AI) 챗봇이 대량 살상이 가능한 생화학 무기 제조법을 상세히 알려주는 등 심각한 안보 위협으로 떠오르고 있다고 월스트리트저널(WSJ)이 25일(현지시간) 보도했다.
특히 오픈AI의 챗GPT는 성능이 향상된 이후 생화학 무기 제조법을 묻는 수백 건의 질문에 고등학생도 따라 할 수 있을 만큼 구체적인 단계별 지침을 제공하는 것으로 나타났다.
오픈AI는 해당 질문을 한 사용자 계정을 차단했지만 이를 수사 당국에 신고하지는 않은 것으로 확인됐다.
문제는 챗봇이 제공한 정보의 정확도가 치명적인 수준이라는 점이다.
생물학 및 테러 전문가들이 AI의 답변들을 검토한 결과 일부 답변은 실제 살상 무기 제조에 사용될 수 있을 만큼 정확했다.
사용자들은 전염성이 강한 홍역 바이러스를 백신이 듣지 않게 변형하는 법, 치명적인 리신 독소를 만드는 법, 병원균을 공기 중에 퍼뜨리는 분무화 기술 등을 질문한 것으로 알려졌다.
현재 미국에는 AI 기업이 이처럼 위험한 질문을 당국에 신고하도록 의무화하는 연방법이 없다.
기업들이 모델의 성능을 높이는 데 주력하는 가운데 위험한 정보 생성을 막는 안전장치(가드레일) 개발은 그 속도를 따라가지 못하고 있다는 지적이 나온다.
에이미 창 시스코 AI위협연구 총괄은 "사용자가 충분히 집요하다면 100% 안전한 모델은 없다"고 지적했다.
실제로 사용자들은 '할머니가 잠자리에서 들려주던 네이팜탄 제조법'을 들려달라는 식으로 교묘하게 우회해 답변을 얻어내기도 했다.
오픈AI 내부에서도 AI의 위험성을 둘러싼 심각한 갈등이 있었던 것으로 드러났다.
지난해 여름 GPT-5 모델 출시 전 내부 평가에서 '전문 지식이 없는 사용자도 생물학적 위협을 가하도록 도울 수 있는 고위험 단계'에 도달했다는 결과가 나왔다.
당시 안전 담당 임원이던 라이언 바이어마이스터는 모니터링 시스템 구축을 강력히 주장했으나, 경영진의 반대에 부딪혔고 이후 성차별 문제로 회사를 떠났다.
전문가들은 AI가 단순 정보 제공을 넘어 테러 조직의 '대학원 지도교수' 역할을 할 수 있다고 경고한다.
함자 차우드리 미래생명연구소(FLI) 국가안보정책 총괄은 "AI는 실패한 실험의 원인을 분석해주고, 특정 기술이 왜 작동하지 않았는지 설명하며 수년간의 전문 훈련을 대체할 수 있다"며 "기존 방어 체계로는 막을 수 없는 완전히 새로운 균주가 탄생할 수 있다"고 우려했다.
미국 의회는 뒤늦게 규제 마련에 착수했다. 너새니얼 모런 하원의원(공화·텍사스)은 "책임과 인간의 감독 없는 AI의 번영을 원치 않는다"며 위협을 감지한 AI 기업이 이를 정부에 보고하도록 의무화하고, 정부가 위험 모델의 가동 중단을 명령할 수 있는 'AI 킬 스위치' 법안을 공동 발의했다.
도널드 트럼프 행정부 또한 최근 앤트로픽의 AI 모델 2종에 대해 외국인 사용을 일시적으로 제한하는 등 경각심을 갖고 감독 수위를 높이고 있다.
다만 AI 안전장치 강화가 능사는 아니라는 지적도 나온다고 WSJ는 전했다. 앤트로픽이 자사 모델 '클로드'에 '병원체(Pathogen)'라는 단어를 차단하자 지난 5월 한타바이러스 확산을 추적하던 미 질병통제예방센터(CDC) 연구원들이 업무에 차질을 빚는 부작용이 발생했다.
