"실존 인물 딥페이크 생성 막겠다"... X '그록' 韓정부에 보호계획 제출

사람 사진 활용한 성적 콘텐츠 차단
방미통위 연령인증 공백 대응 검토

인공지능(AI) 챗봇 '그록'을 서비스하는 X(옛 트위터)가 실존 인물을 이용한 딥페이크 생성을 금지하는 내용의 이용자 보호 계획을 방송미디어통신위원회에 제출한 것으로 확인됐다. 방미통위는 지난달 14일 그록에서 성적인 딥페이크 생성 기능을 제공해 사회적 우려가 커짐에 따라 30일까지 이용자 보호 계획을 제출할 것을 요구한 바 있으며 엑스는 30일 제출을 완료했다. 다만 가상인물을 활용한 유해 생성물은 성인에 한해 가능한데 사실상 청소년도 나이를 속여 입력하면 접근이 가능해 논란이 예상된다.

방미통위는 연령 인증 공백을 인지하고 추가 자료 요청 등 조치를 검토한다는 방침이다.

8일 파이낸셜뉴스 취재에 따르면 X는 국내 서비스하는 그록 이용자들에게 실존 인물 사진으로는 성적 콘텐츠를 생성하지 못하도록 금지한다는 내용의 이용자 보호 방안을 수립했다. 여전히 풍자 영상 등 음란하지 않은 딥페이크는 자유롭게 만들 수 있지만, 실제 사람을 기반으로 성적 생성물을 만드는 행위만큼은 원천 차단하겠다는 것으로 풀이된다. 청소년과 성인 모두 실제 인물 대상 음란 프롬프트를 입력할 경우 생성물이 제한된다.

가상인물로 AI 음란물을 만드는 기능은 성인에 한해 사용할 수 있다.당초 X가 챗GPT, 제미나이의 후발주자로 그록을 출시하면서 차별점으로 '선정성'을 내세우고 이용자를 확보한 만큼 성인 전용 기능은 없어지지 않을 것으로 보인다. 아이지에이웍스 모바일인덱스에 따르면 그록은 국내 월간활성이용자수(MAU) 20만명대를 유지하다가 딥페이크 생성 기능 '이매진'을 고도화한 10월 48만명, 12월 85만명으로 이용자가 급증한 바 있다.

하지만 X에는 연령 인증 기능이 없어 청소년도 출생연도를 거짓으로 입력하기만 하면 성인 기능을 사용할 수 있다. 그록이 제출한 이번 보호 계획도 연령 인증 도입 계획은 포함되지 않았다. 방미통위 관계자는 "실존 인물 유해 딥페이크 생성 관련해서는 조치가 잘 취해지고 있는지 지속적으로 감독할 예정"이라며 "연령 인증 공백 관련해서는 위험성을 인지하고 이를 보완하는 자료 제출을 (엑스에) 요구하는 등 추가적인 조치를 검토하고 있다"고 설명했다.

전문가들은 가상 인물 음란 생성물과 관련한 연령 인증 허점은 조속한 보완이 필요하다고 지적했다.

오정익 법무법인 원 변호사는 "딥페이크를 생성하는 행위 자체에 연령 인증 도입을 하기는 어렵다"면서도 "음란 영상 등 명백한 유해 생성물에 관해서는 연령 인증 조치를 취하는 것이 필요하다"고 설명했다. 오 변호사는 "X가 그록에 이매진을 탑재할 때 이용자들이 위험한 영상들을 자유롭게 만들 수 있다는 사실을 몰랐을 수 없다"며 "그렇다면 청소년들이 유해 생성물에 노출되는 등 피해를 보지 않도록 최소한의 조치는 취하는 등 플랫폼 사업자로서의 임무를 다해야 할 것"이라고 강조했다.

[e-mail] 최혜림 기자