[파이낸셜뉴스] 생성형 인공지능(AI) 기술을 악용해 가상의 여성 인플루언서를 만들고, 선정적인 콘텐츠를 앞세워 수익을 올리는 이른바 '사이버 포주' 행위가 직장인들 사이에서 신종 부업으로 번지고 있다.
25일 연합뉴스에 따르면 최근 소셜미디어(SNS) 등에는 생성형 AI로 제작된 여성의 노출 이미지를 활용해 유료 구독자를 끌어모으는 계정들이 독버섯처럼 퍼지고 있다.
팔로워 14만 명을 보유한 한 인스타그램 계정에는 수영복 차림의 젊은 여성이 침대에 누워 있거나 몸매가 드러나는 일상 사진이 수시로 올라온다. "연휴 잘 보내라"는 일상적인 인사말에도 "어디서 일하시냐", "매일 아름답다"는 댓글이 줄을 잇고, 게시물 당 '좋아요'는 수만 개에 달한다. 겉보기엔 평범한 유명 인플루언서 같지만, 사진 속 여성은 실존 인물이 아닌 생성형 AI가 만들어낸 가상의 캐릭터다.
이들의 수익 창출 방식은 교묘하고 단계적이다. 우선 AI로 제작한 아슬아슬한 수위의 사진을 인스타그램 공개 계정에 올려 팔로워를 대거 확보한다. 이후 "더 자극적인 사진을 볼 수 있다"며 인스타그램 자체 유료 구독을 유도하고, 최종적으로는 패트리온(Patreon)이나 온리팬스(OnlyFans) 같은 해외 성인용 유료 구독 플랫폼으로 유입시켜 더 비싼 구독료를 챙기는 구조다.
실제로 해당 계정은 월 5500원 수준의 인스타그램 유료 구독자 411명과 패트리온 유료 구독자 123명을 확보한 것으로 파악됐다. 플랫폼 수수료를 제외하더라도 단순 계산 시 월 500만 원 안팎의 막대한 매출이 발생하는 셈이다. 평범한 직장인의 한 달 월급과 맞먹는 수준이다.
상황이 이렇다 보니 온라인상에서는 이런 계정을 운영하는 노하우를 담은 매뉴얼까지 버젓이 거래되고 있다. 약 3만 원에 판매되는 매뉴얼에는 구독자들이 가상 인물임을 눈치채지 못하도록 'AI 인플루언서의 얼굴을 일관되게 생성하는 프롬프트'나 '이미지를 동영상으로 변환하는 기술' 등이 상세히 적혀 있다. 판매자는 이를 두고 "온리팬스를 연결하는 것이 가장 돈이 되는 부업"이라고 홍보하기도 했다.
문제는 이러한 신종 돈벌이가 현행법상 규제 사각지대에 놓여 있다는 점이다. 현행 정보통신망법상 AI를 활용해 음란물을 제작 및 유포할 경우 처벌받을 수 있지만, 이는 적나라한 수준의 고수위 음란물에만 한정된다. 교묘하게 수위를 조절한 AI 가상 인물의 노출 이미지는 사실상 제재할 명확한 근거가 없다.
지난해 9월 허영 더불어민주당 의원 등이 AI 생성 음란물 처벌을 강화하는 성폭력처벌법 개정안을 발의했으나, 일각의 표현의 자유 침해 논란에 부딪혀 국회에 계류 중인 상태다.
전문가들은 AI의 대중화로 누구나 손쉽게 성 상품화 범죄에 뛰어들 수 있는 환경이 조성됐다며, 사회적 논의와 제도 마련을 서둘러야 한다고 입을 모은다.
김수정 한국여성의전화 여성인권상담소장은 연합뉴스를 통해 "콘텐츠 제작자뿐만 아니라 AI 개발사나 플랫폼 측에도 책임을 물을 수 있도록 실효성 있는 AI 윤리 가이드라인이 보강되어야 한다"고 강조했다.
moon@fnnews.com 문영진 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지