'누드합성' 검색하니 AI앱 주르륵…애플·구글, '딥페이크 앱' 방치하고 챙긴 수익

[파이낸셜뉴스] 애플과 구글의 애플리케이션 마켓에 '누디파이(누드합성)'라는 검색어를 넣자 여성의 노출 사진을 앞세운 인공지능(AI) 앱들이 줄줄이 올라왔다. 이처럼 구글과 애플이 알몸 이미지를 합성해 주는 AI 앱을 사실상 방치하면서 짭짤한 수익을 올리고 있다는 지적이 나오고 있다.

애플·구글, 성적 콘텐츠 앱 금지 정책 있지만.. 사실상 방치

미국의 비영리단체 기술투명성프로젝트(TTP)는 지난 27일(현지시간) 이 같은 내용이 담긴 보고서를 공개했다.

TTP는 최근 AI 챗봇 ‘그록’이 성 착취 이미지 생성·유포로 논란이 된 걸 계기로 양대 앱 마켓인 플레이스토어·앱스토어를 조사, 각각 55건과 47건을 발견했다고 밝혔다.

애플과 구글은 자사 앱 장터에 성적인 콘텐츠나 타인을 비하·객체화하는 앱을 금지하는 정책을 두고 있지만, 사실상 여과 기능이 제대로 작동하지 않는 것으로 나타났다.

해당 앱들은 AI 기술을 이용해 사진 속 인물을 나체부터 비키니 수영복 차림 등 선정적인 모습으로 바꾸는가 하면 성적 이미지에 얼굴을 합성하는 ‘딥페이크’(AI 조작 영상) 기능을 제공했다. 이런 기능을 대놓고 홍보하는 앱도 있었지만, 이미지 합성이나 가상으로 의상을 착용할 수 있는 ‘AI 피팅룸’ 앱으로 홍보하는 경우도 있었다.

TTP가 지적한 누디파이 앱은 전 세계적으로 다운로드 건수가 약 7억500만회를 기록했다. 이들 앱이 올린 누적 매출은 1억1700만 달러(약 1665억원)으로 추정됐다. 애플과 구글이 인앱 결제 수수료로 최대 30%를 가져간다는 것을 고려하면 누디파이 앱을 통해 벌어들이는 돈은 수백억원에 달할 것으로 보인다.

TTP는 “양사가 이런 앱을 방치해 직접적 이익을 얻었다”고 했다.

애플 "TTP가 지적한 앱 중 28건 삭제 조치"

논란이 되자 애플과 구글도 언론을 통해 입장을 밝혔다.

애플 대변인은 미 CNBC에 “TTP가 지적한 앱 중 28건을 삭제 조치했고 개발자들에게 정책 위반 시 퇴출당할 수 있다고 경고했다”고 주장했고 구글 대변인도 “보고서에 언급된 앱들을 정책 위반으로 사용 중지시켰다”고 전했다.

생성형 AI가 대중화된 이후 이를 활용한 성적·비윤리적 콘텐츠 제작 문제는 끊임없이 발생했다. 최근에는 일론 머스크의 AI 스타트업 xAI가 내놓은 AI모델 그록이 여성과 아동의 성적 이미지를 생성하고 있다는 논란에 휩싸이기도 했다.

미국과 유럽연합(EU) 등 각국 당국은 공식 조사에 착수했고 우리나라는 지난 14일 방송미디어통신위원회가 그록에 청소년 보호 장치를 마련하라고 요청했다.

[e-mail] 서윤경 기자