영상·음성·문자까지 AI 조작 판별…경찰, 탐지·분석체계 고도화

멀티모달 기술 도입 추진…91억원 규모 연구개발
AI 범행 과정 추적·증거 추출 자동화 기술 개발
전국 시도경찰청 AI 전문분석관 배치 추진

[파이낸셜뉴스] 경찰이 딥페이크를 비롯한 인공지능(AI) 악용 범죄에 대응하기 위해 영상뿐 아니라 음성과 문자까지 종합적으로 분석하는 탐지체계 구축에 나선다. AI로 조작된 콘텐츠를 판별하는 데 그치지 않고 제작부터 유포까지 범행 과정을 추적할 수 있도록 수사 역량을 강화한다는 방침이다.

경찰청 국가수사본부는 이 같은 내용을 담은 'AI 불법 조작물 탐지·분석체계 고도화 기본계획'을 수립해 시행한다고 15일 밝혔다.

이번 계획은 AI를 활용한 범죄가 딥페이크 성범죄에서 명예훼손과 투자사기, 보이스피싱 등으로 다양해지는 상황에 대응하기 위해 마련됐다. 경찰은 조작물 탐지 기술과 범행 과정 분석 능력을 높이는 동시에 전문인력 확보와 분석 절차 정비 등을 추진하기로 했다.

우선 영상과 이미지 중심이었던 기존 딥페이크 탐지 방식을 개선해 음성과 문자까지 함께 분석하는 '멀티모달' 기술을 도입한다. 영상 속 인물의 입 모양과 음성이 일치하는지, 음성 내용과 자막에 차이가 있는지 등을 종합적으로 살펴 조작 여부를 판별하는 방식이다.

경찰은 2024년부터 딥페이크 탐지 시스템을 도입해 활용하고 있으며, 한국인 특성에 맞는 학습자료를 적용해 성능을 개선하고 있다. 여기에 2025년부터 2027년까지 3년간 91억원 규모의 연구개발 사업을 진행해 멀티모달 탐지 기술을 확보할 계획이다. 연구개발이 완료되면 경찰을 포함한 수사기관들이 공동으로 이용할 수 있는 시스템 구축도 추진한다.

AI를 이용한 조작물의 제작·유포 과정을 확인하는 디지털포렌식 기술도 강화한다. 주요 생성형 AI 서비스의 프로그램 실행이력과 명령어 기록을 분석하고, 조작에 사용된 프로그램을 식별하는 등 범행 경위를 파악할 수 있는 분석기법을 개발한다.

경찰은 이미 주요 생성형 AI 서비스에 대한 분석기법을 개발해 관련 설명서를 보급하고 있다. 앞으로는 불법 조작물 생성부터 유포까지 전 과정을 분석하고 증거를 추출하는 자동화 도구 개발에도 나설 방침이다. 이를 위해 올해부터 오는 2029년까지 4년간 100억원 규모의 AI 포렌식 기술 연구사업을 진행하고 있다.

전문인력과 조직 운영체계도 정비한다. 전국 시도경찰청에 조작물 분석을 담당하는 AI 전문분석관을 배치·운영하고, 현장 수사관과 분석관을 대상으로 한 전문교육을 확대할 계획이다.

아울러 국내 환경에 적합한 데이터셋을 구축하고 탐지·분석 표준절차를 마련한다. 민간과 정부, 학계 전문가들이 참여하는 협력체계를 운영해 최신 기술 동향과 분석 사례를 공유하고 AI 포렌식 국제표준 인증 획득도 추진한다.

경찰은 이 같은 기술·시스템 분야 4개 과제와 인력·조직 분야 4개 과제 등 총 8개 세부 과제를 통해 AI 악용 범죄에 대한 대응 능력을 높인다는 구상이다.

김종철 경찰청장 직무대행은 "AI를 이용한 범죄 수법이 빠르게 변하는 만큼 경찰의 대응도 달라져야 한다"며 "경찰은 AI로 만든 가짜를 신속하게 찾아내는 것은 물론, 어떻게 만들어지고 유포됐는지까지 효과적으로 추적할 수 있는 첨단 수사 역량을 갖춰 국민이 안심하고 AI 기술을 이용할 수 있도록 하겠다"고 강조했다.

[email protected] 김예지 기자