개인이 만든 AI딥페이크 '미규제'

AI기본법 가이드라인 공개
비가시적 워터마크도 허용

일반 유튜버가 AI를 이용해 성착취 딥페이크 영상을 만들어 유포하거나, 병원에서 AI를 수술에 사용해 부작용이 발생하는 등 일상생활의 AI로 인한 부작용은 AI기본법으로 규제하지 않는다. AI기본법은 AI개발회사와 서비스 회사 등 AI 기업을 규율하는 법률이기 때문이다.

AI를 사용한 작업물의 경우 사전에 고지하거나, 결과물 표시(워터마크)를 의무적으로 부착해야 하는데, 육안으로는 보이지 않고 홈페이지나 프로그램으로만 확인할 수 있는 비가시적 워터마크도 허용하기로 했다.

과학기술정보통신부는 내년 1월 22일 AI기본법 시행을 앞두고 시행령과 안전성, 사업자 책무를 담은 고시 2종, 투명성 확보·안전성 확보·고영향AI확인·영향성 평가 기준을 담은 가이드라인 5종 등 하위법령 초안을 지난 16일 공개하고 사회 각계 의견수렴에 나선다고 밝혔다. 11월까지 입법예고와 의견수렴 절차를 거쳐 연내 하위법령을 확정한다는게 과기정통부의 계획이다.

김경만 과기정통부 인공지능기반정책관은 "AI기본법은 산업진흥을 목적으로 하는 법"이라며 "필요최소한의 유연한 규제를 하위법령에 담았고, AI산업의 빠른 변화 사이클을 감안해 보완해 나갈 계획"이라고 강조했다.

규제는 최소화 한다. AI개발사나 AI기술을 이용해 서비스를 제공하는 기업, 정부 기관 등은 위험관리 방안을 수립하고 운영해야 한다. AI의 주요 학습데이터 정보도 매번 문서로 작성해 관리해야 한다. 이용자 보호 방안도 의무적으로 수립해야 한다. AI기술·서비스 관련 외국기업은 국내에 지사가 없는 경우 전년도 매출 1조원 이상, 하루 평균 이용자 100만명 이상일 경우 국내 대리인을 지정해야 한다. 일정 수준 이상의 '고성능 AI'에 대해서는 별도의 안전성 확보 의무를 부여했따. 누적 학습량이 '10의 26제곱 부동소수점 연산(FLOPs)' 이상인 AI가 대상이다.

이는 유럽연합(EU) 기준인 10의 25제곱보다 완화된 미국 기준을 따른 것으로 해당 사업자는 위험 식별-평가-완화 체계를 구축하고 정부에 관련 자료를 제출해야 한다.

과기정통부는 AI기본법의 규제대상을 AI사업자로 한정했다. AI를 직접 개발한 '개발 사업자'와 이를 활용해 서비스를 제공하는 '이용 사업자'까지다.

[e-mail] 이구순 대기자