IT
IT일반
xAI가 그록 이용자에 칼 빼든 사연은…'미성년자 딥페이크 반복 생성'[1일IT템]
그록 안전장치 우회 시도
[파이낸셜뉴스] 일론 머스크가 설립한 인공지능(AI) 기업 xAI가 자사 챗봇 '그록'으로 성적 딥페이크를 생성한 혐의를 받는 이용자를 상대로 민사소송을 제기했다. AI 기업이 자사 서비스를 악용한 이용자를 상대로 법적 대응에 나선 것은 이례적이라는 평가다.
22일 정보기술(IT) 매체 엔가젯 등 외신에 따르면 xAI는 최근 미국 사우스캐롤라이나주에 거주하는 60대 남성 테리 웨인 하우드를 상대로 손해배상 소송을 제기했다. xAI는 하우드가 지난해 말부터 올해 초까지 자신이 보유한 두 개의 xAI 계정을 이용해 성인과 미성년자의 일반 사진을 업로드한 뒤 이를 성적으로 묘사한 이미지와 영상을 생성하도록 그록에 반복적으로 요청했다고 주장했다.
소장에 따르면 하우드는 사진 속 인물의 옷을 제거하거나 특정 자세를 취하도록 만드는 프롬프트를 지속적으로 입력했다. 그록은 요청을 여러 차례 거부했지만 하우드는 프롬프트를 수정하며 AI의 안전장치를 우회하려 한 것으로 전해졌다. 소장에는 약 10~11세로 추정되는 여자아이의 사진을 이용해 딥페이크를 생성하도록 요청한 사례도 포함됐다.
xAI는 회사의 평판에 대한 손해배상과 함께 향후 피해자들이 회사를 상대로 소송을 제기할 경우 발생하는 법률 비용도 피고가 부담하도록 법원에 요청했다.
[email protected] 최혜림 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지
