선거판 침투한 딥페이크… 작년 대선 때 1만513건 '27배 폭증'

6·3 지방선거 앞두고 우려 확산
결과 되돌리기 어려운 사후 처벌
미디어 리터러시 한층 중요해져
전문가 "시민들의 노력도 필요"
경찰 "제작·유포·배후까지 규명"

오는 6월 실시되는 제9회 전국동시지방선거를 앞두고 인공지능(AI) 기술을 활용한 '딥페이크'에 대한 우려가 커지고 있다. 실제와 구별이 어려운 가짜 영상으로 허위정보를 퍼뜨려 유권자의 판단을 흐릴 수 있기 때문이다. 선거에 미치는 영향이 큰 만큼 정부도 딥페이크 영상 악용에 엄정 대응하겠다는 방침이다.

16일 중앙선거관리위원회에 따르면 지난해 치러진 제21대 대통령선거 당시 딥페이크 영상 등을 이용한 선거운동은 총 1만513건 적발됐다. 선관위는 이 가운데 3건을 수사당국에 수사를 의뢰했다.

이는 2024년 제22대 국회의원 선거 당시 딥페이크를 이용한 선거운동 적발 건수가 389건이었던 것과 비교하면 1년 만에 약 27배가 늘어난 수치다.

딥페이크는 AI 기술인 '딥러닝(deep learning)'과 가짜를 뜻하는 영어 단어 '페이크(fake)'를 합친 말로 AI 기술을 활용해 실제와 구별하기 어려운 가짜 이미지와 음성, 영상 등을 만드는 기술을 뜻한다. 기술이 고도화할수록 진위 여부를 가려내기 어렵다는 게 특징이다.

딥페이크가 각종 범죄에 악용되는 사례가 느는 가운데 선거 영역으로까지 확산하면서 우려가 커지고 있다. 조작물이 유권자의 판단을 흐리고 온라인상에서 빠르게 확산해 파급력도 큰 탓이다.

특히 선거는 왜곡된 정보가 한 번 퍼지면 사후에 바로잡더라도 이미 표심에 영향을 미친 뒤일 수 있어 회복이 쉽지 않다. 이 때문에 단순 허위정보 유포를 넘어 선거의 공정성까지 흔들 수 있다는 지적이 나온다.

이웅혁 건국대 경찰학과 교수는 "딥페이크와 같은 AI 범죄는 민주주의의 꽃인 선거에서 유권자의 의사결정을 짧은 시간 안에 현혹하고 왜곡할 수 있다"며 "특히 경쟁이 치열하거나 오차범위 내 접전이 벌어지는 지역에서는 선거 결과에 결정적인 영향을 미칠 수 있고, 이미 결과를 되돌리기 어려운 만큼 선거의 신뢰성과 정당성까지 해칠 수 있다"고 말했다.

이런 우려를 반영해 2023년 12월 공직선거법에 딥페이크 관련 규정이 신설됐다. 공직선거법 제82조의8에 따르면 누구든지 선거일 전 90일부터 선거운동을 위해 딥페이크 영상 등을 제작·편집·유포·게시해서는 안 된다. 그 외 기간에는 AI 기술로 만든 정보라는 사실을 명확히 인식할 수 있도록 표시해야 한다고 규정한다.

그러나 규정이 마련된 이후에도 딥페이크를 활용한 선거운동은 이어지고 있다. 실제 선관위는 지난 2월 지방선거를 앞두고 허위 딥페이크 영상을 제작해 사회관계망서비스(SNS)에 게시한 입후보예정자 A씨를 공직선거법 위반 혐의로 경찰에 고발했다. A씨는 자신이 외국 유명 시사주간지에 지역 발전을 이끌 인물로 선정됐다는 내용의 영상을 AI 생성물 표시 없이 게시·유포한 혐의를 받는다.

이런 탓에 정부도 선거 관련 딥페이크 영상에 대해 엄정 대응 방침을 세우고 확산 양상을 예의주시하고 있다.

경찰은 딥페이크 범죄 전문 수사 역량을 갖춘 시·도경찰청 사이버범죄수사대가 직접 수사하고, 최초 제작·유포자뿐 아니라 배후까지 철저히 규명하기로 했다.

다만 전문가들은 처벌이 사후적 규제에 그치는 만큼 시민 스스로 허위정보를 가려내려는 노력도 필요하다고 조언한다.

김명주 AI안전연구소장은 "기술이 진짜와 가짜를 혼동시킬 정도로 빠르게 발전하면서 시민들의 미디어 리터러시 역량이 한층 더 중요해졌다"며 "AI 사회에서는 시민들이 딥페이크 여부를 스스로 구별하려는 의도와 노력도 필요하다"고 강조했다.

[e-mail] 장유하 기자