딥페이크 허위광고 피해 급증에 내년부터 'AI 생성물 표시제' 시행

김민석 국무총리가 3일 서울 종로구 정부서울청사에서 열린 노동안전 현안 점검회의에서 모두발언을 하고 있다. 2025.12.3/뉴스1 ⓒ News1 임세영 기자

(서울=뉴스1) 김지현 기자 = 정부가 인공지능(AI) 기술을 악용한 허위·과장 광고에 대해 사전 표시 의무화와 24시간 내 신속 차단, 징벌적 손해배상 등 강력 대응에 나선다. 노년층 피해를 중심으로 확산되는 시장 교란 행위를 조기에 차단하기 위한 조치다.

정부는 10일 김민석 국무총리 주재로 열린 제7회 국가정책조정회의에서 'AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안'을 확정했다고 밝혔다.

최근 식·의약품 분야를 중심으로 AI로 생성한 가짜 전문가나 유명인 딥페이크 영상 등이 SNS에서 빠르게 퍼지며 소비자 피해가 잇따르고 있다.

이에 정부는 우선 AI 생성물이 실제가 아니라는 점을 소비자가 정확히 알 수 있도록 돕기 위해 플랫폼 등에 대한 'AI 생성물 표시제'를 도입한다.

앞으로 AI 생성물을 제작·편집해 게시하는 '직접 정보제공자'는 해당 사진·영상 등을 AI로 만들었다는 사실을 표시하여야 한다. 이에 맞춰 플랫폼 이용자가 AI 생성물 표시를 제거하거나 훼손하는 행위는 금지된다. 플랫폼사는 '직접 정보제공자'가 표시 의무를 준수하는지를 관리할 의무를 가진다.

정부는 내년 1월 시행되는 'AI 사업자의 AI 생성물 표시 의무'에 따라 정보제공자와 플랫폼 이용자, 플랫폼사가 이 같은 의무 사항을 인지할 수 있도록 하는 가이드라인을 마련할 예정이다.

아울러 방미통위·방미심위는 식·의약품, 화장품, 의약외품, 의료기기 등 AI 허위·과장광고가 빈발하는 영역을 서면심의 대상에 추가하도록 추진한다. 앞으로 해당 영역의 허위·광고에 대해서는 심의 요청 후 24시간 이내 신속한 심의가 이뤄질 수 있을 것으로 기대된다.

또 식약처 전용 패스트트랙 심의시스템도 기존 마약류에서 해당 품목군까지 확대해 상정 시간을 줄인다.

특히 위험성이 큰 광고의 경우에는 심의 전 플랫폼 차단이 가능한 긴급 시정요청 절차도 도입된다. 관계 당국이 방미통위에 요청하면 방미통위가 플랫폼사에 대한 임시 시정 요청을 진행하고, 플랫폼사는 이에 대한 시정조치를 이행해야 한다. 이후 방미심위가 심의 결과에 따라 차단확정이냐 원상복귀냐를 결정하는 방식이다.

아울러 정부는 플랫폼 사업자 차원에서도 허위·과장광고 관련 자율규제가 확대될 수 있도록 '자율규제 강화'도 병행한다.

특히 공정거래위원회와 식품의약품안전처가 AI로 만든 전문가가 제품을 추천하는 광고에 대한 위법성 판단 기준을 명확화함으로써 예측 가능성을 제고하고 허위·과장 광고에 대한 신속한 제재조치가 이뤄질 수 있도록 한다.

예를 들어 AI가 제품을 추천하면서 '가상인간'임을 표시하지 않으면 '부당 광고'로, AI가 생성한 의사 등 전문가가 식의약품을 추천하는 광고행위를 할 경우 '소비자 기만 광고'로 해석한다.

정부는 이 같은 허위·조작 정보 유통 행위에 대해 '징벌적 손해배상 제도(손해액의 최대 5배)'를 도입하고, 허위·과장 광고 과징금도 대폭 높일 방침이다. 식약처와 한국소비자원은 감시·적발 기능을 강화한다.

김민석 총리는 이번 대책과관련해 "신기술 부작용을 최소화하는 동시에 AI 시대에 걸맞은 시장 질서를 확립해 나갈 것"이라고 밝혔다.