경찰, AI 허위 콘텐츠 판별시스템 개발한다…독일과 맞손

26일 오전 서울 서대문구 경찰청 어울림마당에서 '허위조작 콘텐츠 진위 판별시스템 개발' 착수보고회가 열리고 있다. 토비아스 마이젠 독일 부퍼탈 대학교 교수가 추진 계획을 발표하고 있다. (경찰청 제공)

(서울=뉴스1) 박혜연 기자 = 생성형 인공지능(AI)으로 급증하는 허위 콘텐츠를 탐지하기 위해 한국과 독일 경찰이 판별 시스템을 공동 개발한다.

경찰청은 이날 오전 10시 서울 서대문구 미근동 청사 어울림마당에서 '허위조작 콘텐츠 진위 판별 시스템 개발' 착수보고회를 개최하고 이같이 밝혔다.

이번 연구는 경찰청 최초의 국제공동연구 사례다. 경찰청 미래치안정책국과 독일 노르트라인베스트팔렌주 내무부 범죄수사국은 2023년 공동의향합의서(JDoI)를 체결하고 지난해에는 한-독 과학치안 협력센터 개소 및 경찰관 파견 등 국제협력 강화를 위해 노력을 기울여왔다.

이번 연구는 허위 콘텐츠를 탐지하기 위한 데이터셋 구축과 통합시스템 개발을 목표로 올해부터 2027년까지 3년간 진행된다.

올해 초 공모 및 평가 절차를 거쳐 숭실대(주관 연구기관)와 성균관대, 연세대, 한컴위드가 참여하는 연합체를 국내 연구기관으로 선정했다. 독일 노르트라인베르트팔렌주 범죄수사청(LKA) 추천과 현장실사, 선정평가를 거쳐 부퍼탈 대학(Univ. of Wuppertal)이 공동연구기관으로 선정됐다.

연구 첫해인 올해는 인공지능 조작 영상(딥페이크), 딥보이스, 가짜뉴스 탐지용 데이터셋 구축과 탐지모델 고도화를 추진한다.

내년부터는 머신러닝 모델 개발부터 배포·운영까지 자동화 관리 시스템(Machine Learning Operations·MLOps) 기반 통합 탐지시스템의 성능 고도화 및 실증 테스트를 진행할 계획이다.

이날 착수보고회에서는 최주원 경찰청 미래치안정책국장(치안감)과 최귀원 과학치안진흥센터 소장이 참석한 가운데 연구 컨소시엄의 정수환 숭실대 교수, 우성일 성균관대 교수, 토비아스 마이젠(Tobias Meisen) 독일 부퍼탈 대학 교수가 분야별 연구 추진계획을 발표했다.

최 국장은 "국가 간 연구 개발의 단순한 협력을 넘어 미래치안 위협에 양국 과학치안 역량을 결집한 공동 대응을 시작하고 향후 다른 국가로 확대하기 위한 첫발을 내디딘 것에 큰 의미가 있다"며 "공정한 알고리즘을 통해 허위 콘텐츠 문제 해법을 제시해 주길 바란다"고 말했다.