李대통령 "AI 창작물 위험성 이미 현실화…대비책 있어야"
"실제 영상과 구분 안될 정도…표시 없으면 오해 유발"
AI 생성물 표시 위반 과태료 최대 3000만원
편집·재유포자는 규제 대상 제외…제도 보완 주문
[파이낸셜뉴스] 이재명 대통령이 16일 "인공지능 창작물이 가지는 위험성이 지금도 이미 현실화되고 있다"며 대비책 마련을 주문했다.
이 대통령은 이날 청와대 영빈관에서 과학기술정보통신부·우주항공청·방송미디어통신위원회·개인정보보호위원회 업무보고를 주재하고 AI 생성 이미지와 영상의 표시 의무 및 제재에 대해서 점검했다.
배경훈 과기정통부 장관은 AI 기본법에 따라 생성형 AI로 만든 영상과 이미지에는 AI 생성물이라는 사실을 표시해야 한다고 설명했다. 류제명 과기정통부 2차관은 표시 의무 위반 시 3000만원 이하의 과태료를 부과할 수 있지만 현재 과태료 처분은 1년간 유예된 상태라고 보고했다.
류 차관은 일반 AI 창작물에는 이용자가 눈으로 확인할 수 있는 가시적 표시뿐 아니라 기계가 판독하는 비가시적 표시도 허용되지만 실존 인물 등을 변형한 딥페이크에는 반드시 가시적 표시를 해야 한다고 설명했다.
이 대통령은 "요즘은 인공지능 창작물인지 실제 상황인지 구분이 안 될 정도"라며 "표시를 안 해주면 사람들에게 일종의 증거로 작동하고 '이게 진짜네'라고 생각할 수 있다"고 지적했다.
이어 "악용되면 정말 심각하다"며 "인공지능 창작물이 가지는 위험성이 지금도 이미 현실화되고 있는 만큼 대비책이 있어야 한다"고 강조했다.
AI 생성물 일부를 잘라 재유포하면 표시 의무를 적용하기 어렵다는 규제 공백도 지적했다. 류 차관이 현행 AI 기본법상 표시 의무는 AI 모델 개발 사업자와 이용 사업자에게 적용되고 일반 유포자는 규제 대상이 아니라고 설명하자 이 대통령은 "일부를 잘라서 쓰는 것은 아예 규제 대상도 아니냐"고 물었다.
김종철 방송미디어통신위원장은 유통 단계에서도 규제하기 위한 입법을 지원하고 있다고 밝혔다. 이에 이 대통령은 "기관에서 어떻게 할지 방향을 명확하게 정한 다음 협력을 구해야 한다"며 "어떻게 되는지 보고 있겠다고 하면 안 될 것 같다"고 제도 보완을 주문했다.
west@fnnews.com 성석우 기자
