아파트 복도서 흡연한 '전직 검사' 거칠게 제압하는 경찰? 알고 보니...

AI로 만든 '가짜 경찰 출동 영상' 확산에 시민 혼란
전문가 "치안 정당성 흔드는 사회적 안보 교란 행위"

아파트 복도에서 흡연한 후 자신을 '전직 검사'라고 소개한 남성을 경찰이 거칠게 제압하는 내용의 영상. 해당 영상은 모두 AI로 만든 가짜 상황인데도 AI 제작 여부를 확인할 수 없게 돼 있다. 현재 해당 영상은 삭제된 상태다. 사진=유튜브 캡쳐

[파이낸셜뉴스] #.아파트 복도에서 담배를 피운다는 신고를 받고 출동한 경찰. 현관 앞에서 마주한 남성은 자신을 '전직 검사'라고 소개하며 거칠게 항의한다. 말다툼이 이어지는 사이 남성은 고성을 지르며 몸을 앞으로 밀고, 경찰은 이를 제지하는 과정에서 남성의 목을 누른 채 바닥으로 넘어뜨려 제압한다. 현장은 긴장된 분위기 속에서 순식간에 정리되고, 모든 과정은 경찰 바디캠 영상처럼 편집돼 전개된다.
　
#.음주운전 의심 차량이 경찰의 정차 요구를 무시한 채 달아난다. 경찰은 차체를 거칠게 두드리며 "야 이 XX야 멈춰"라고 외친다.

운전자와 실랑이가 벌어지고, 현장은 고성과 욕설이 오가는 혼란스러운 모습으로 그려진다. 영상은 현장감 있는 음성과 흔들리는 화면을 그대로 담아내며 실제 단속 장면처럼 그려진다.
　
26일 파이낸셜뉴스 취재를 종합하면 최근 두 달 새 유튜브·인스타그램·틱톡 등 각종 온라인 채널에서 인공지능(AI)으로 만든 '가짜 경찰 바디캠 영상'이 확산되며 시민사회에서는 피해 확산을 우려하는 목소리가 거세다. 해당 영상들에는 폭행·말다툼·음주운전 등 각종 범죄 현장에 출동한 경찰의 바디캠 화면을 연상시키는 구도와 음성, 상황 등이 담겼지만 실제 경찰 활동과는 전혀 무관한 허위 영상이었기 때문이다.

문제는 상당수 시청자가 이를 실제 상황으로 받아들였다는 점이다. 영상에는 'AI로 제작됐다'는 표시나 워터마크가 없었고, 실제 인물과 유사한 외형과 자연스러운 현장 연출로 사실 여부를 구분하기 어려웠다. 시민들 사이에서는 "실제 경찰 대응인 줄 알았다" "과잉 진압 아니냐"는 반응도 잇따랐다. 직장인 김모씨(27)는 "영상 앞부분만 봤을 때는 실제 경찰 대응으로 오해했고, 댓글을 보고 나서야 AI 영상이라는 걸 알았다"며 "어르신이나 아이들이 이런 영상을 보면 가짜인지 구분하기 더 어려울 것 같다"고 말했다.

특히 지난달 27일 수도권을 시작으로 경찰 바디캠 도입이 확대되면서 실제 제도 변화와 맞물려 혼란이 더 커졌다는 분석도 나온다. 사회관계망서비스(SNS) 발달로 사진·영상 등이 빠르게 확산되면서 여론이 형성되는 경향이 있는 만큼, 실제와 구분하기 어려운 AI 가짜 영상이 경찰 대응에 대한 오해를 증폭시킬 수 있다는 우려도 제기된다.

해당 채널은 유튜브 기준 구독자 수가 4000명을 넘어섰으며 전날 기준 전체 영상 조회수가 1000만회를 상회한 것으로 파악됐다. 논란이 커지면서 경찰청은 지난 23일 해당 채널에 대한 입건 전 조사(내사)에 나서겠다고 밝힌 바 있다.

현재 문제가 된 영상들은 삭제되거나 비공개 처리된 상태다.

전문가들은 해당 사안을 안보 차원에서 엄중히 다뤄야 한다고 지적했다.

이웅혁 건국대 경찰학과 교수는 "이번 사례는 전쟁이나 군사 안보 차원의 문제는 아니지만, 결국 공권력에 대한 불신을 키운다는 점에서 치안의 정당성을 위협하는 사회적 안보 교란 행위"라며 "(AI 사용) 표시 의무는 반드시 필요하고, 관련 법 조항을 개정해 처벌 수위를 강화하는 등 엄중한 메시지를 보내야 한다"고 강조했다.

[e-mail] 김예지 기자