챗GPT, '총기 학살 예고에도 신고 안 했다'

오픈AI, 법 집행기관에 알리지 않기로 결정

캐나다에서 지난 2020년 4월 발생한 총기 난사 사건 현장. AFP 연합뉴스.

[파이낸셜뉴스] 캐나다 학교에서 총기를 난사해 9명의 목숨을 앗아간 제시 반 루트셀라가 범행 이전에 인공지능(AI) 챗봇 챗GPT에 총기 폭력 관련 시나리오를 여러 차례 서술한 것으로 드러났다.

20일(현지시간) 미 일간 월스트리트저널(WSJ)은 브리티시컬럼비아주 텀블러리지 학교의 총기 난사 사건 피의자인 루트셀라가 지난해 6월 며칠에 걸쳐 챗GPT에 이 같은 글을 올렸고, 이 게시물들은 자동 검토 시스템에 의해 오픈AI 직원들에 전달됐다고 보도했다.

오픈AI 직원들은 루트셀라의 글에 경악했고, 일부는 해당 글이 현실에서의 잠재적 폭력 가능성을 시사한다며 법 집행기관에 알려야 한다고 주장했다.

그러나 오픈AI 측은 결국 당국에 연락하지 않기로 결정했다.

오픈AI 대변인은 "회사는 반 루트셀라의 계정을 차단했다"면서도 "그의 활동이 법 집행기관에 신고해야 하는 기준인 '타인의 신체에 대해 심각한 위험을 끼칠 수 있는 신뢰할 만한 임박한 위험'에는 미치지 못했다고 판단했다"고 해명했다.

그는 "텀블러리지 비극으로 피해를 본 모든 분께 애도를 표한다"며 회사가 수사를 맡은 왕립기마경찰대에 협조하고 있다고 덧붙였다.

루트셀라는 온라인 게임 플랫폼 로블록스에서도 쇼핑몰 내 대형 총격 사건을 시뮬레이션한 비디오게임을 제작했고, 사격장에서 총을 쏘는 자신의 사진을 온라인에 게시하기도 한 것으로 나타났다.

[e-mail] 서지윤 기자