"AI 콘텐츠 중간 유통 시 AI 생성물 표시 훼손·제거 방지해야"
[파이낸셜뉴스] 인공지능(AI) 콘텐츠 중간 유통 과정에서 AI 생성물 표시 훼손·제거 방지 조항이 필요하다는 지적이 제기됐다. 실제 유통 환경에서 콘텐츠를 생산·유통하는 주체가 인공지능사업자가 아닌 경우가 많아 AI 생성 사실을 표시하지 않거나 기존 표시를 제거·훼손해도 직접 규율하기 어렵다는 것이다.
16일 한국정보통신법학회와 한국데이터인공지능법정책학회가 서울 중구 한국프레스센터에서 개최한 '인공지능법 연구' 출간 기념 공동 세미나에서 '인공지능기본법상 투명성 규제'를 주제로 발제자로 나선 박소영 국회입법조사처 입법조사관은 "딥러닝 기반 AI 모델은 수십억~수천억개 이상의 매개변수가 다층적으로 상호작용해 입력과 출력의 관계를 파악하기가 근본적으로 어렵다"며 "AI가 실생활 의사결정에 점차 깊이 관여하면서 구체적인 규범적 요구로 발전하고 있다"고 밝혔다.
박 조사관은 "인공지능에 대한 투명성 요구는 인공지능시스템이 어떠한 데이터를 학습에 사용했는지, 해당 데이터가 어떠한 방식으로 수집.정제.가공됐는지에 관한 정보를 공개하도록 하는 요구"라며 "데이터 투명성, 과정 투명성, 사용 사실 투명성 등 유형에 맞는 적합한 규범적 대응을 모색하는 것이 규제 설계의 정밀성·실효성을 높이는 데 중요하다"고 말했다.
그는 "수집·학습 과정에서 개인정보 보호법·저작권법 위반이나 학습데이터에 내재된 오류·편향이 예측 결과에 그대로 반영되는 문제가 생길 수 있다"면서 "전체를 목록화·공개하기가 사실상 불가능하고, 공개돼도 방대해 실질적 검증이 어렵다"고 지적했다.
세부적으로 과정 투명성은 인공지능시스템이 어떠한 절차와 논리를 통해 특정 결과에 도달했는지를 이해할 수 있도록 하는 요구다. 박 조사관은 "여전히 기술적으로 어려운 과제이며, 영업비밀 보호와 충돌하거나 악의적 행위자가 악용할 위험이 남아 있다"고 언급했다.
사용 사실 투명성은 이용자가 자신이 인공지능시스템과 상호작용하고 있다는 사실, 또는 제공받은 결과물이 인공지능에 의해 생성된 것임을
인지할 수 있도록 하는 요구다. 이용자의 자율적 판단과 정보 기반 의사결정이 목적으로, 앞선 두 유형과 달리 내부 학습·동작에 대한 설명이 아닌 사용 여부만 알려줘 실현 가능성이 높다는 설명이다.
박 조사관은 인공지능개발사업자와 인공지능이용사업자 중 누가 의무를 이행해야 하는지 불명확한 것도 문제로 꼽았다. 인공지능기본법 중심으로 정비하거나 최소한 법률 간 역할 분담을 명확히 하고, 생성물 제작·게시·유통 단계의 책임 구조도 종합적으로 고려할 필요가 있다는 지적이다.
mkchang@fnnews.com 장민권 기자
