여성·미성년자 성착취 우려 확산
불법콘텐츠 유포·위험관리 책임 관건
불법콘텐츠 유포·위험관리 책임 관건
[파이낸셜뉴스] 유럽연합(EU) 집행위원회가 일론 머스크의 인공지능(AI) 챗봇 '그록(Grok)'과 관련해 디지털서비스법(DSA) 위반 여부 조사에 착수했다. 그록이 노골적인 성적 이미지를 생성해 여성과 미성년자 성착취물, 딥페이크 등 불법콘텐츠 유포에 악용됐다는 논란이 확산된 데 따른 조치다.
26일 외신에 따르면 아일랜드 출신의 레지나 도허티 유럽의회 의원은 이날 이메일 성명을 통해 EU 집행위가 소셜미디어 엑스(X)를 대상으로 공식 조사를 개시했다고 밝혔다. 도허티 의원은 이번 조사로 X가 위험 완화, 콘텐츠 거버넌스, 기본권 보호와 관련한 EU 디지털 법안상의 의무를 준수했는지 여부를 평가할 것이라고 말했다.
EU 집행위원회도 같은 날 보도자료를 통해 "DSA에 따라 X가 EU 내 서비스에 그록을 도입하면서 관련 위험을 적절히 평가하고 완화했는지를 평가할 예정"이라며 "그록의 아동 성착취물·딥페이크 등 불법콘텐츠 유포로 EU 시민들이 심각한 피해에 노출된 것으로 보인다"고 밝혔다.
DSA 위반 혐의가 사실로 확인될 경우 X는 EU로부터 대규모 과징금을 부과받을 수 있다. X는 지난해 12월에도 DSA상 투명성 요건을 위반했다는 이유로 1억2000만유로(약 1800억원)의 벌금을 부과받은 바 있다.
이번 논란은 머스크가 X에 게시된 이미지를 그록이 수정할 수 있도록 하는 기능을 도입한 이후 불거졌다.
논란이 확산되자 그록을 개발한 머스크 소유 AI 기업 xAI는 지난 14일 "비키니 등 노출이 있는 복장을 한 실제 인물의 이미지를 편집하는 기능을 그록 계정에서 허용하지 않도록 기술적 조치를 시행했다"고 밝혔다.
한편 도허티 의원은 "플랫폼이 위험을 적절히 평가하고 불법적이고 유해한 콘텐츠의 확산을 방지해야 하는 법적 의무를 다하고 있는지 매우 심각한 의문을 제기한다"며 "유럽연합은 온라인상의 사람들을 보호하기 위한 명확한 규칙을 가지고 있다. 특히 강력한 기술이 대규모로 도입될 때 이러한 규칙은 실질적인 의미를 가져야 한다"고 강조했다.
moving@fnnews.com 이동혁 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지