"가짜뉴스 꼼짝마"...정부, AI 딥페이크 탐지 기술로 선거 허위 정보 차단 착수

정부, 6월 지방선거에 AI 딥페이크 탐지 기술 도입 국과수와 공동 개발한 탐지 모델로 허위 정보 차단 탐지 정확도 92% 기록, 전역·국소 분석 병행 적용 범정부 협력해 디지털 범죄 대응 체계 단계적 확대

[파이낸셜뉴스] 정부가 6월 실시되는 제9회 전국동시지방선거에서 딥페이크 영상과 음성 조작 범죄에 대응하기 위해 인공지능(AI) 탐지 기술을 본격 도입한다. 행정안전부는 10일 국립과학수사연구원과 공동 개발한 'AI 딥페이크 탐지 모델'을 중앙선거관리위원회에 지원해 선거 과정의 허위 정보 유포를 차단한다고 밝혔다.

이번 조치는 특정인의 얼굴과 음성을 정교하게 합성하는 딥페이크 범죄가 급증하는 상황에서 후보자의 모습이나 발언을 조작한 허위 정보가 유권자의 판단을 왜곡하는 것을 막기 위해 추진됐다.

행안부와 국과수는 지난해 12월 개최한 '딥페이크 범죄 대응을 위한 AI 탐지 모델 경진대회' 결과를 바탕으로 탐지 모델을 완성했다. 대회에는 268개 팀, 1077명이 참여했으며, 최종 선정된 5개 우수 모델을 선관위에 제공해 선거 기간 의심 콘텐츠를 신속히 감정하는 체계를 운영한다.

탐지 모델은 영상 전체 흐름을 분석하는 '전역 분석'과 얼굴 등 특정 부위의 조작 흔적을 정밀하게 판별하는 '국소 분석'을 병행해 탐지 정확도를 높였다. 최신 생성형 AI 기반 콘텐츠에도 대응할 수 있도록 설계됐으며, 검증 결과 약 92%의 높은 탐지 정확도를 기록했다. 2024년 대선 기간에는 중앙선거관리위원회에 탐지 모델을 공유해 온라인 불법 딥페이크 선거물 1만여 건을 탐지하고 삭제를 지원했다. 경찰청 등 수사기관 의뢰로는 선거 관련 13건과 디지털 성범죄 2건 등 총 15건의 딥페이크 감정을 수행했다.

행안부는 올해 2분기부터 성평등부, 방송통신위원회, 경찰청 등 관계기관에 AI 딥페이크 탐지 분석모델을 확산할 계획이다. 최신 딥페이크 생성 기술에 대응하기 위한 AI 모델 고도화도 지속한다.

한편, 공공 빅데이터 신규 분석사업은 공공부문 의사결정을 데이터 기반 과학적 분석체계로 전환하기 위해 범정부 차원에서 추진하는 사업이다. 올해는 108개 후보 과제 중 14개 과제를 선정해 8월부터 이듬해 3월까지 7개월간 분석을 수행한다. 14개 과제는 상시적 의사결정 지원 데이터 분석과 정책 수립 지원 데이터 분석으로 구분된다. 올해 예산은 각각 17억6000만원과 20억8000만원이다.

행안부와 국과수는 앞으로 AI 딥페이크 분석 모델의 활용 범위를 단계적으로 확대할 계획이다.

성평등부, 방송통신위원회, 경찰청 등 관계 부처와 협력해 범정부 차원의 디지털 범죄 대응 체계를 구축한다. 국과수는 진화하는 AI 기반 범죄에 선제적으로 대응해 국민이 신뢰할 수 있는 과학수사 체계를 고도화한다. 윤호중 행안부 장관은 "고도의 기술로 만들어진 AI·딥페이크를 활용한 가짜뉴스가 선거 민주주의를 심각하게 위협하고 있다"며 "정부는 국민의 권리가 침해받지 않도록 선거 과정 허위·조작 정보 대응 역량을 꾸준히 강화해 신뢰받는 AI 민주정부를 만들어 나가겠다"고 밝혔다. [e-mail] 김태경 기자