지난 10일(현지시간) 캐나다에서 범인을 포함해 9명이 목숨을 잃고 25명이 부상을 당한 총기 테러를 오픈AI가 막을 수도 있었던 정황이 드러났다.
오픈AI 내부에서 범인과 챗GPT 간 대화 내 이상 신호를 감지하고 캐나다 당국에 이를 알려야 한다는 목소리가 나왔지만 내부 토의 끝에 이 요구는 받아들여지지 않았다고 월스트리트저널(WSJ)이 21일(현지시간) 보도했다.
징후 포착
오픈AI는 총격 테러범 제시 반 루트슬라가 캐나다 브리티시컬럼비아의 시골 마을에서 범행을 실행하기 수개월 전인 지난해 6월 법집행 당국에 관련 내용을 신고할지를 놓고 고심했다.
루트슬라가 챗GPT와 나눈 대화 내용이 충격적이었기 때문이다. 소식통들에 따르면 그는 수일에 걸쳐 총기를 동원한 테러 시나리오를 챗GPT와 대화에서 묘사했다.
자동 검토 시스템이 그가 챗GPT와 나눈 대화를 감지해 오픈AI 직원들에게 경고했고, 내부에서 치열한 토론이 벌어졌다.
소식통들에 따르면 직원 10여명의 내부 토론에서 일부는 반 루트슬라의 글로 볼 때 실제로 테러가 일어날 수 있다며 경영진이 이를 캐나다 법집행 당국에 알려야 한다고 주장했다.
그러나 오픈AI 경영진은 최종적으로 이를 당국에 알리지 않기로 결정했다.
오픈AI 대변인은 그의 행동이 당국에 보고하도록 강제하는 기준을 충족하지 못했기 때문에 알리지 않았다고 해명했다. 대신 반 루트슬라의 계정은 차단했다고 설명했다.
18세의 성전환자인 반 루트슬라는 10일 시골 학교에서 총기를 난사해 8명을 살해하고, 최소 25명에게 부상을 입혔다. 그의 시신도 현장에서 발견됐다.
과거 전력과 흔적
범인의 총기 난사 테러 징후는 곳곳에서 드러났다.
그는 사용자가 직접 게임을 만들어 올릴 수 있는 플랫폼인 로블록스에서 총기 난사를 시뮬레이션 하는 게임을 만들었다. 소셜미디어에는 사격장에서 찍은 사진이나 3D 프린터로 제작한 탄창 등을 게시했다.
성전환 과정에 대한 고민과 약물에 대한 관심 등 불안정한 심리 상태도 드러냈다.
경찰도 그를 주시했다. 정신 건강 문제로 경찰이 여러 차례 그를 방문했고, 집에서 총기가 압수된 적도 있다.
사생활 보호냐 공공안전이냐
이번 사건으로 인공지능(AI) 시대에 챗봇과 나눈 대화를 사생활 보호 관점에서 묻어둬야 하는지, 아니면 공공 안전을 위해 위험한 대화 내용은 공개해야 하는지에 대한 논란이 불거지게 됐다.
아울러 알고리즘이 걸러낸 위험 신호를 검토하는 담당자의 주관적인 판단이 잘못됐을 때 끔찍한 결과를 초래할 수 있다는 점도 확인됐다.
그렇다고 챗봇과 사적 대화를 위험할 수 있다는 ‘디지털 예언’을 이유로 당국에 보고하는 것이 정당한지도 논란거리다.
AI 채팅에서 나타난 위험 징후에 대해 기업이 어디까지 책임져야 하는지 법적, 윤리적 논쟁의 문이 열렸다.
dympna@fnnews.com 송경재 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지