머스크의 AI 그록, 딥페이크 논란 속 이미지 생성·편집 유료 전환

[파이낸셜뉴스]

일론 머스크의 인공지능(AI) 그록의 이미지 생성과 편집 기능을 유료화했다. 그록이 딥페이크를 활용해 생성한 여성, 아동의 성적 이미지들이 문제가 된 가운데 일반 무료 사용자를 배제하기로 한 것이다. 그러나 그 기능 자체를 규제하지 않아 범죄를 수익화하는 것이냐는 비판이 나오고 있다.

파이낸셜타임스(FT)에 따르면 머스크의 소셜미디어 X와 AI 스타트업인 xAI는 9일(현지시간) 아침 그록의 이미지 생성과 편집을 유료 사용자 대상으로 제한한다고 밝혔다.

그록은 X에 올린 글에서 “이미지 생성과 편집이 유료 사용자에게만 서비스되고 있다”고 밝혔다.

그록은 사전 동의 없이 사람들의 사진으로 딥페이크를 통해 성적인 이미지를 생성해 논란이 돼 왔다.

유럽연합(EU)과 프랑스, 영국 등은 xAI가 대응에 나서지 않을 경우 벌금을 매기고, 금지시킬 수 있는 입법에 착수하겠다고 경고하기도 했다.

그록은 경쟁사들에 비해 의도적으로 콘텐츠 지침을 줄여왔다. 머스크는 이를 “최대한 진실을 좇는” AI모델이라고 주장했다.

그록은 아울러 사용자들이 성적인 이미지를 생성하는 기능도 갖추고 있다.

유럽에서 난리가 난 가운데 미국에서도 규제 움직임이 보이고 있다.

미 상원의원 3명은 애플과 구글에 머스크의 X, 그리고 그록 애플리케이션을 삭제하라고 촉구했다. 머스크가 “이런 당혹스럽고 불법적인 행태를” 수정하기 전에는 X와 그록이 애플 앱스토어, 구글 플레이스토어에 등장해서는 안 된다는 것이다.

AI가 붐을 타면서 AI를 활용해 상대방의 동의 없이 딥페이크로 이미지를 만들어내는 일이 급증하고 있다.

영국 비영리기구 인터넷 감시 재단(IWF)은 AI가 생성한 아동 성착취 물은 지난 1년 사이 두 배 폭증했다면서 내용도 더 극단적이 되고 있다고 경고했다.

xAI가 불법 AI생성 아동 이미지를 차단하고 있다고 밝히고 있지만 최근 벌어진 그록의 성적 이미지 생성과 배포는 AI를 사용할 때 이런 지침을 우회하는 것이 얼마나 쉬운지를 잘 보여주는 사례라는 지적이 나온다.

2023년에는 스탠퍼드대 연구진이 AI가 생성한 아동 성착취물로 가득찬 인기있는 데이터베이스를 찾아내기도 했다.

AI가 생성한 유해 콘텐츠를 통제하는 법들은 누더기 상태다.

미국은 지난해 5월 AI가 생성한 리벤지 포르노와 딥페이크 이미지들을 삭제할 수 있도록 하는 “테이크 잇 다운 법(Take It Down Act)”을 발표했다. 말 그대로 “그거 내려줘(Take it down)”라고 요청할 수 있는 법이다. 피해자들이 자신의 이미지가 리벤지 포르노나 딥페이크에 활용된 것을 발견하면 관련 이미지 삭제를 요청할 수 있도록 하고 있다.

[e-mail] 송경재 기자