‘정확도 92%’ 탐지모델 가동
행안부·국과수 공동개발 나서
후보자 영상·음성조작 찾아내
선거과정 허위정보 유포 차단
행안부·국과수 공동개발 나서
후보자 영상·음성조작 찾아내
선거과정 허위정보 유포 차단
이번 조치는 특정인의 얼굴과 음성을 정교하게 합성하는 딥페이크 범죄가 급증하는 상황에서 후보자의 모습이나 발언을 조작한 허위 정보가 유권자의 판단을 왜곡하는 것을 막기 위해 추진됐다.
행안부와 국과수는 지난해 12월 개최한 '딥페이크 범죄 대응을 위한 AI 탐지 모델 경진대회' 결과를 바탕으로 탐지 모델을 완성했다. 대회에는 268개 팀, 1077명이 참여했으며, 최종 선정된 5개 우수 모델을 선관위에 제공해 선거 기간 의심 콘텐츠를 신속히 감정하는 체계를 운영한다.
탐지 모델은 영상 전체 흐름을 분석하는 '전역 분석'과 얼굴 등 특정 부위의 조작 흔적을 정밀하게 판별하는 '국소 분석'을 병행해 탐지 정확도를 높였다. 최신 생성형 AI 기반 콘텐츠에도 대응할 수 있도록 설계됐으며, 검증 결과 약 92%의 높은 탐지 정확도를 기록했다.
2024년 대선 기간에는 중앙선거관리위원회에 탐지 모델을 공유해 온라인 불법 딥페이크 선거물 1만여건을 탐지하고 삭제를 지원했다. 경찰청 등 수사기관 의뢰로는 선거 관련 13건과 디지털 성범죄 2건 등 총 15건의 딥페이크 감정을 수행했다.
행안부는 올해 2분기부터 성평등가족부, 방송통신위원회, 경찰청 등 관계기관에 AI 딥페이크 탐지 분석모델을 확산할 계획이다. 최신 딥페이크 생성 기술에 대응하기 위한 AI 모델 고도화도 지속한다.
한편, 공공 빅데이터 신규 분석사업은 공공부문 의사결정을 데이터 기반 과학적 분석체계로 전환하기 위해 범정부 차원에서 추진하는 사업이다.
2025년에는 108개 후보 과제 중 14개 과제를 선정해 8월부터 3월까지 7개월간 분석을 수행한다. 14개 과제는 상시적 의사결정 지원 데이터 분석과 정책 수립 지원 데이터 분석으로 구분된다. 2025년 예산은 각각 17억6000만원과 20억8000만원이다.
행안부와 국과수는 앞으로 AI 딥페이크 분석 모델의 활용 범위를 단계적으로 확대할 계획이다. 성평등가족부, 방송통신위원회, 경찰청 등 관계 부처와 협력해 범정부 차원의 디지털 범죄 대응 체계를 구축한다.
국과수는 진화하는 AI 기반 범죄에 선제적으로 대응해 국민이 신뢰할 수 있는 과학수사 체계를 고도화한다.
윤호중 행안부 장관은 "고도의 기술로 만들어진 AI·딥페이크를 활용한 가짜뉴스가 선거 민주주의를 심각하게 위협하고 있다"며 "정부는 국민의 권리가 침해받지 않도록 선거 과정 허위·조작 정보 대응 역량을 꾸준히 강화해 신뢰받는 AI 민주정부를 만들어 나가겠다"고 밝혔다.
ktitk@fnnews.com 김태경 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지