'사제총기 영상' AI로 솎아낸다…경찰, 'AI 자동화 시스템' 구축

온라인상 불법총기 등 관련 게시물
AI 기반 상시 탐지 시스템 도입 구축
올해 말 도입 목표…효율성 ↑ 기대

[파이낸셜뉴스] 경찰이 담당자의 수작업에 의존하던 불법 총기 게시물 모니터링 체계를 인공지능(AI) 기반의 전면 자동화 시스템으로 전환한다. 탐지부터 위법성 분석, 삭제 요청서 생성까지 전 과정을 자동화해 1시간가량 소요되던 대응 시간을 10여분으로 단축한다는 방침이다.

20일 파이낸셜뉴스 취재를 종합하면 경찰청은 온라인상 유통되는 불법 총기·사제 폭발물 관련 게시물을 AI 기반으로 상시 탐지하는 시스템 도입을 추진하고 있다.

지난달 시스템 구축을 위한 업체 선정을 마쳤고, 오는 12월 도입을 목표로 하고 있다.

사업은 지난해 7월 인천 송도에서 발생한 '사제 총기 살인 사건'을 계기로 추진됐다. 당시 사제총기를 발사해 아들을 살해한 60대 남성 A씨가 경찰 조사에서 "유튜브를 보고 총기 제작법을 배웠다"고 진술하면서 온라인을 통한 사제 총기 제작법 확산 문제가 수면 위로 떠올랐다.

이에 경찰은 국민 불안을 해소하기 위해 가용 인력을 최대한 투입해 온라인상 총기 제작법 등 불법 게시물에 대한 모니터링을 강화해 왔다. 그 결과 방송미디어통신심의위원회(방미심위)에 불법 게시물 차단을 요청한 건수는 2024년 1587건에서 지난해 1만831건으로 582.5% 증가했다.

그러나 현재 모니터링 방식은 담당자들의 수작업에 의존하고 있어 불법 게시물에 대한 신속한 차단에는 한계가 있는 게 현실이다. 경찰서 총포 담당자가 온라인 게시물을 직접 살펴본 뒤 불법 게시물을 발견하면 이를 경찰청에 보고하고, 경찰청이 다시 방미심위에 삭제를 요청하는 절차를 따르고 있기 때문이다.

여기에 온라인상 불법 게시물이 실시간으로 퍼지는 데다 다크웹과 비공개 사회관계망서비스(SNS) 등에 올라온 게시물은 일반 검색만으로는 찾기 어려워 모니터링 효율을 높이기 위한 기술적 보완이 필요하다는 지적이 꾸준히 제기돼 왔다.

이에 따라 경찰청은 AI 기반 온라인 불법 게시물 탐지·차단 시스템을 구축해 모니터링 전 과정을 자동화하겠다는 목표를 세웠다. 우선 이미지·동영상·텍스트 등 다양한 형태의 콘텐츠에 광학문자인식(OCR) 기술을 적용해 텍스트를 자동 인식하고, 게시물 내 위험 요소를 AI 기반으로 식별하는 한편 다국어와 은어 표현까지 처리할 수 있는 기술을 개발할 계획이다.

또 인터넷 탐지를 통해 수집한 불법 게시물에 대해서는 현행 법령과 관련 규정 등을 종합적으로 적용해 위법성 여부를 분석하고, 제작·거래·조립·발사 등 행위 유형별로 세분화해 검토할 예정이다.

이후 관련 기관에 제출할 삭제·차단 요청서를 자동 생성·전송하고, 동일 게시물의 재게시가 포착되면 재분석 없이 곧바로 삭제·차단 단계로 넘기는 체계를 마련할 방침이다. 이렇게 되면 기존 건당 30분에서 1시간가량 소요되던 모니터링 시간이 10분 안팎으로 줄어들 전망이다.

경찰 관계자는 "현재 시스템 개발을 위한 업체 선정은 마친 상태로 오는 12월께 개발이 완료될 것으로 보인다"며 "(시스템이 구축되면) 담당 인력이 그만큼 다른 업무에 집중할 수 있어 업무 효율성이 높아지고, 사람이 직접 수행하는 것보다 더 많은 게시물을 보다 정확하게 모니터링할 수 있을 것으로 기대한다"고 말했다.

[e-mail] 장유하 기자