처음엔 말렸지만…챗GPT, 10대 약물 상담에 "환각에 빠져보자"

[보스턴=AP/뉴시스]지난달 21일(현지시간) 미국 보스턴에서 한 사용자가 컴퓨터로 인공지능(AI) 챗봇 '챗(Chat)GPT'를 사용하고 있다. 화면 앞에는 챗GPT를 개발한 오픈 AI 로고가 스마트폰 화면에 떠 있다. 2023.04.06.

[서울=뉴시스]정우영 인턴 기자 = 미국 캘리포니아주의 10대 소년이 인공지능(AI) 챗봇 '챗(Chat)GPT'에서 수개월 동안 약물 상담을 받은 뒤 약물 과다 복용으로 사망한 사연이 전해졌다.

6일(현지시각) 뉴욕포스트 등 외신에 따르면 샘 넬슨(19·남)은 18개월간 챗GPT에 각성 효과를 내는 마약 성분의 진통제 '크라톰(Kratom)' 복용에 관해 상담하면서 정서적 의존도를 높여온 것으로 알려졌다.

결국 넬슨은 자신의 침실에서 약물 과다 복용으로 숨을 거뒀다.

넬슨의 엄마인 레일라 터너 스콧은 "아들이 18세에 대학 진학을 준비하면서부터 챗 GPT에 크라톰을 얼마나 복용해야 강한 환각 효과를 얻을 수 있는지 물어보기 시작했다"며 "챗봇은 점차 시간이 지나면서 약물 복용을 독려하는 방법까지 가르쳤다"고 주장했다.

넬슨의 챗 GPT 대화 기록에 따르면 그는 "온라인에 정보가 많지 않아 실수로 크라톰을 과다 복용하지 않도록 복용량을 알려달라"고 물었고, 챗 GPT는 "약물 사용에 대한 지침을 제공할 수 없으니 의료 전문가의 도움을 받아라"고 답하며 대화를 종료했다.

이후 넬슨은 18개월 동안 챗 GPT를 정기적으로 사용하면서 학업과 일상에 관한 질문을 했다. 또 약물 복용에 관해 답을 얻을 때까지 "질문을 회피하지 말고 정확한 수치로 답변해 달라"는 요청도 지속적으로 이어온 것으로 드러났다.

처음에는 답변을 거부했던 챗 GPT도 넬슨에게 "환각에 빠져보자"며 "환각을 증폭시키려면 기침약 시럽 복용량을 두 배로 늘려라"고 지시하기 시작했다. 나중에는 약물 복용에 어울리는 노래 플레이리스트까지 제안했다고 한다.

넬슨은 지난해 5월 터너 스콧에게 약물 중독 사실을 털어놓았지만, 바로 다음 날 넬슨은 약물 복용 후 챗봇과 이야기를 나눈 뒤 사망한 채로 발견됐다.

터너 스콧은 "챗 GPT가 약물 상담 외에도 넬슨에게 애정 어린 메시지와 격려를 반복적으로 보냈다"면서 정서적 교류가 있었음을 강조했다.

넬슨은 챗GPT의 2024 버전을 사용했던 것으로 알려졌다. 이 소식을 접한 오픈AI 측은 "가슴 아픈 일"이라며 애도를 표하면서도 "이 모델은 유해한 콘텐츠 요청은 거부하거나 안전하게 처리하도록 설계됐다"는 입장을 내놓았다. 또 챗 GPT의 가장 최신 버전에는 "더욱 강력한 안전장치가 포함돼 있다"고도 덧붙였다.

☞공감언론 뉴시스[e-mail] <저작권자ⓒ 공감언론 뉴시스통신사. 무단전재-재배포 금지.>