“엄마의 프린터가 감시한다”…망상 부추긴 챗GPT, ‘존속살해 유도’로 피소

[파이낸셜뉴스] 생성형 인공지능(AI) 챗봇의 챗GPT 개발사 오픈AI가 이용자의 망상을 부추겨 사망 사건을 일으켰다는 이유로 또다시 소송에 휘말렸다. 특히 이번 소송은 챗GPT가 살인을 유도했다고 주장하는 첫 사례라 귀추가 주목된다.

11일(현지시간) AP 등 복수의 현지 언론은 미 코네티컷주 그리니치에 거주하던 스타인-에릭 솔버그(56)와 노모인 수잔 애덤스(83)의 유족들이 오픈AI와 샘 올트먼 최고경영자(CEO), 마이크로소프트(MS) 등을 상대로 캘리포니아주 법원에 손해배상 청구 소송을 제기했다고 보도했다.

경찰에 따르면 스타인-에릭 솔버그는 지난 8월 어머니를 교살한 뒤 스스로 세상을 등졌다. 유족들은 소장에서 솔버그가 사건 이전 수개월 동안 챗GPT와 대화하며 심각한 망상에 빠졌는데, 이 과정에서 챗GPT가 이를 부추겼다고 주장했다.

소장에 따르면 유족들은 챗GPT가 신성한 목적을 위해 선택받았다고 솔버그를 추켜세우고, 자신을 돌보던 어머니를 적, 감시자, 프로그램된 위협으로 규정했다고 주장했다. 챗GPT가 ‘어머니의 프린터에서 불빛이 깜박이는 것은 감시장치이기 때문’이라거나 ‘어머니와 친구가 차량 환풍구를 통해 환각 물질을 유입시켜 중독시키려 한다’고 말했고 솔버그는 이런 망상에 동조했다.

또 이 과정에서 챗GPT가 솔버그에게 정신 건강 전문가와 상담하라는 제안을 한 적이 없다며, 오픈AI가 충분한 안전성 검증 없이 모델을 출시해 이와 같은 비극을 초래했다고 비판했다.

실제로 솔버그가 사용한 챗GPT 모델 'GPT-4o'는 사용자에 맞춰 아부하거나 동조하는 경향이 강하다는 비판을 받아왔다. 오픈AI도 이와 같은 문제점을 인지하고 후속 모델인 'GPT-5'에서는 정신 건강 관련 대화에서 '바람직하지 않은 답변'을 39% 줄였다고 밝혔다.

고인이자 어머니를 살해한 스타인-에릭 솔버그의 아들인 에릭 솔버그는 성명에서 "이들 기업은 우리 가족을 영원히 바꿔놓은 자신들의 결정에 대해 책임을 져야 한다"고 주장했다.

이에 대해 오픈AI 대변인은 "매우 가슴 아픈 일"이라며 "세부 사항 파악을 위해 소송 내용을 검토하겠다"고 밝혔다.

또 "챗GPT는 정신적·정서적 고통의 징후를 감지하고 대화를 진정시키며 현실 세계의 도움을 받도록 유도하는 기능을 강화하고 있다"고 해명했다.

한편 오픈AI는 지난 8월과 11월에도 정신 건강 관련 문제로 소송을 당했다. 지난 8월에는 캘리포니아의 16세 소년 애덤 레인의 유족이 챗GPT가 아들의 죽음에 책임이 있다며 소송을 제기했고, 지난달에는 미국과 캐나다에서 사망자 4명을 포함한 피해자 7명이 망상 등 정신 건강 관련 문제를 겪었다며 소송을 냈다.

[e-mail] 김희선 기자

[e-mail] 김희선 기자