일반인이 만든 AI 딥페이크 영상, AI기본법으로 규제 안한다

내년 1월 시행 AI기본법, 진흥에 방점둔 시행령 연내 마련 "AI기본법은 사업자만 규제..일반 사용자가 만든 영상은 규제 대상 아냐" "일상생활에서 AI로 인한 부작용은 개별법으로 해결해야"

[파이낸셜뉴스] 일반 유튜버가 AI를 이용해 성착취 딥페이크 영상을 만들어 유포하거나, 병원에서 AI를 수술에 사용해 부작용이 발생하는 등 일상생활의 AI로 인한 부작용은 AI기본법으로 규제하지 않는다. AI기본법은 AI개발회사와 서비스 회사 등 AI 기업을 규율하는 법률이기 때문이다.

AI를 사용한 작업물의 경우 사전에 고지하거나, 결과물 표시(워터마크)를 의무적으로 부착해야 하는데, 육안으로는 보이지 않고 홈페이지나 프로그램으로만 확인할 수 있는 비가시적 워터마크도 허용하기로 했다.

16일 과학기술정보통신부는 내년 1월 22일 AI기본법 시행을 앞두고 시행령과 안전성, 사업자 책무를 담은 고시 2종, 투명성 확보·안전성 확보·고영향AI확인·영향성 평가 기준을 담은 가이드라인 5종 등 하위법령 초안을 공개하고 사회 각계 의견수렴에 나선다고 밝혔다. 11월까지 입법예고와 의견수렴 절차를 거쳐 연내 하위법령을 확정한다는게 과기정통부의 계획이다.

"AI기본법은 산업진흥에 방점"

김경만 과기정통부 인공지능기반정책관은 "AI기본법은 산업진흥을 목적으로 하는 법"이라며 "필요최소한의 유연한 규제를 하위법령에 담았고, AI산업의 빠른 변화 사이클을 감안해 보완해 나갈 계획"이라고 강조했다.

시행령과 고시에서는 R&D 지원, 데이터 구축, AI 도입 촉진 등 국가 차원의 지원 근거를 명문화했다. 유럽연합의 AI법이 규제에 무게를 두는 반면, 한국의 AI기본법은 산업진흥에 방점을 둔 것이다. 또 국방·국가안보 목적으로만 사용하는 AI는 AI기본법 규제대상에서 제외했다.

위반사실이 적발된 기업에 대한 과태료 부과도 1년 이상 유예할 계획이다.

필요최소한의 규제만 담아

규제는 최소화 한다. AI개발사나 AI기술을 이용해 서비스를 제공하는 기업, 정부 기관 등은 위험관리 방안을 수립하고 운영해야 한다. AI의 주요 학습데이터 정보도 매번 문서로 작성해 관리해야 한다. 이용자 보호 방안도 의무적으로 수립해야 한다. AI기술·서비스 관련 외국기업은 국내에 지사가 없는 경우 전년도 매출 1조원 이상, 하루 평균 이용자 100만명 이상일 경우 국내 대리인을 지정해야 한다. 일정 수준 이상의 '고성능 AI'에 대해서는 별도의 안전성 확보 의무를 부여했따. 누적 학습량이 '10의 26제곱 부동소수점 연산(FLOPs)' 이상인 AI가 대상이다. 이는 유럽연합(EU) 기준인 10의 25제곱보다 완화된 미국 기준을 따른 것으로 해당 사업자는 위험 식별-평가-완화 체계를 구축하고 정부에 관련 자료를 제출해야 한다.

AI사업자만 규제...일반이용자는 규제대상 아냐

과기정통부는 AI기본법의 규제대상을 AI사업자로 한정했다. AI를 직접 개발한 '개발 사업자'와 이를 활용해 서비스를 제공하는 '이용 사업자'까지다. 반대로 AI 서비스를 단순히 업무에 활용하거나 결과물을 만들어내는 최종 '이용자'는 의무 대상에서 제외된다.

일례로 AI 서비스를 이용해 영상을 만든 영화 제작사는 이용자일 뿐이어서 AI기본법의 규제 대상이 아니다. 이 경우 워터마크 부착 의무는 영화 제작사가 아닌 AI 서비스 제공 사업자에게 있다. 일반 유튜버가 만든 AI딥페이크 영상은 AI기본법의 규제대상에서 비껴나 있는 셈이다.

[e-mail] 이구순 대기자