지난 18일 첫 TV토론회가 열렸다. 이날 토론회 주제는 경제분야였다.
과거 이재명 후보의 '���' 발언이나 당대표 시절 중국대사의 위협적 발언에 침묵한 점이 문제가 된 것으로 판단된다. 여기에 또 한 가지 바로 딥페이크 가짜뉴스도 한몫했다는 생각이다.
토론회에 앞선 지난 14일. SNS를 통해 영상 하나가 빠르게 확산됐다. 이 영상은 꽤나 충격적이었다. 이재명 후보가 한국을 중국 속국으로 지칭하는 내용이 담겨 있었기 때문이다. 그러나 팩트체크 결과 해당 영상은 AI를 기반으로 한 딥페이크 가짜뉴스로 판명됐다.
비단 이재명 후보뿐 아니라 김문수·이준석 후보도 딥페이크 가짜뉴스 영상으로 홍역을 치렀다. 김문수 후보는 한덕수 전 국무총리와의 단일화 국면에서 서로 고함을 지르는 영상, 분노하며 물을 쏟는 영상 등 실제와 허위를 섞은 합성 영상물을 어렵지 않게 찾아볼 수 있다. 이준석 후보를 놓고는 정치브로커 명태균씨가 이른바 '황금폰'을 꺼내자 다급히 도망가는 영상, 황금폰 비밀번호를 알려달라며 우는 영상 등이 확인됐다.
경찰은 딥페이크 등 허위사실 유포를 5대 선거범죄로 규정하고 강도 높은 단속을 진행 중이다. 선관위는 위반 정도가 경미하고 전파성이 낮은 게시물은 삭제 요청하고, 악의적인 딥페이크 영상물이 발견되면 고발할 방침이다.
사실 딥페이크를 활용한 가짜뉴스의 가장 큰 문제는 원천 차단이 어렵다는 것이다. 실제와 거의 구별되지 않는 점도 있지만 사람들이 이를 진짜로 믿고 SNS를 통해 아주 빠르게 확산시키고 또 가짜뉴스로 나중에 판명이 되더라도 이미 사람들은 사실에 크게 관심을 가지지 않기 때문이다.
딥페이크 가짜뉴스가 가능해진 것은 아이러니하게도 AI 기술력이 향상됐기 때문이다. 하지만 대선 후보들은 앞서 말한 것과 같이 AI 육성에 사활을 걸고 있다.
이재명 후보는 AI 주권 확보를 위해 100조원을 투자하겠다는 핵심 공약을 내세우고 있다. 김문수 후보 역시 AI 청년인재 20만명 양성과 함께 글로벌 기업 참여 민관합동펀드 100조원 조성 및 AI 유니콘기업 지원 등을 내걸었다.
AI산업 육성책도 좋지만 AI윤리에 대한 논의가 보이지 않는 것이 아쉬울 뿐이다. 주위를 둘러보면 딥페이크 기술을 악용한 성착취 콘텐츠로 인해 피해를 보고 어려움을 호소하는 이가 많다. 하루 걸러 뉴스에 딥페이크 가짜뉴스 피해자들이 등장하고 있는 것도 이와 무관하지 않다. 그런 면에서 지난해 본지에서 개최한 'AI월드 2024' 강연자들의 말을 참고할 필요가 있다.
임대근 한국외대 컬처·테크놀로지융합대학장은 "'딥페이크는 범죄 또는 혁신이다'라고 이분법적으로 설정하는 게 무의미하다"며 "딥페이크는 그 자체가 범죄일 수 없고, 인간이 어떻게 활용하느냐에 따라 성격이 규정돼 갈 것"이라고 전했다. 그러면서 "순기능이 부각되고 강화되는 방향으로 갔으면 좋겠다"고 강조했다.
올해 대선은 AI공약이 주요 의제로 부각되는 첫 대선이다. 신기술은 나왔을 때 기술을 어떻게 사용하느냐에 따라 좋은 기술도, 나쁜 기술도 될 수 있다. 표를 얻기 위한 육성책도 좋지만 피해자가 발생하지 않도록 윤리 문제도 함께 고려돼야 할 시점이다.
kjw@fnnews.com
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지