IT >

탄핵 공방까지 일으킨 'AI 윤석열'…"우려했던 게 또 터졌네요"

© 뉴스1
© 뉴스1


© 뉴스1
© 뉴스1

(서울=뉴스1) 김근욱 기자 = "우려했던 게 또 터졌네요."

6·1 지방선거가 마무리된 가운데 'AI 윤석열'을 둘러싼 논란이 일파만파 번지고 있다. 국민의힘과 더불어민주당 지도부는 AI 윤석열 사용 적절성을 두고 '탄핵'을 거론할 만큼 강도 높은 설전을 벌였다.

AI 윤석열은 인공지능 기술을 이용해 윤석열 대통령의 얼굴을 합성한 '가상인간'이다. 지난 대선 때 국민의힘의 선거 운동 전략 중 하나로 AI 윤석열이 탄생했다.

당시 AI 윤석열은 '국내 최초의 대통령 AI'라는 점에서 큰 주목을 받았지만, 일부 우려의 목소리도 적지 않았다. AI 기술이 정치권에 사용된다면, 선거가 혼탁해질 수 있다는 이유에서다.

김명주 서울여대 바른AI센터장은 "우려가 현실이 됐다"고 말한다. 선거 혼란을 막기 위해선 AI 정치인과 관련된 법과 제도가 마련됐어야 했다는 것. 그는 '디스클레이머'(정보 표시 규칙) 도입을 강하게 주장했다.

◇ 6·1 지방선거에 얼룩 남긴 'AI 윤석열'

6·1 지방 선거를 하루 앞둔 지난달 31일 여야는 'AI 윤석열 영상'을 두고 강하게 충돌했다. 더불어민주당은 AI 윤석열이 국민의힘 후보를 지지했다며 '탄핵감'이라 주장했고, 국민의힘은 "탄핵을 꺼낸건 대선 불복이다"고 강하게 반발했다.

논란이 된 영상 속에는 'AI 윤석열'이 등장해 "윤석열 정부는 여러분과 함께 살기 좋은 남해군, 희망찬 대한민국을 만들겠습니다"고 말한다. AI 윤석열 옆엔 '박영일 남해군수와 함께합니다'는 문구가 적혀있다.

이에 대해 박지현 더불어민주당 공동비상대책위원장은 "실제 윤 대통령이 동영상 제작을 허락했거나 알고도 묵인했다면 대통령의 선거 중립의무를 명백히 위반한 것"이라며 "탄핵까지도 가능한 중대 사안"이라고 비판했다.

이준석 국민의힘 대표는 "민주당이 이야기하는 영상은 지난 대통령선거 때 AI 윤석열 영상에 누군가가 그냥 특정 후보 지지 문구를 조잡하게 추가해 놓은 것에 불과하다"며 "당연히 대통령이나 당이 제작한 것도 아니고 후보에 대한 공개지지 음성같은 것도 없다"고 반박했다.

박영일 전 남해군수 후보 측은 "지지자가 만들어 SNS 올린 것이다"는 입장이다.

◇ 사태 터졌는데, 책임자가 없다

AI 전문가 분석에 따르면, 논란이 된 영상은 '원본'이 아니다. 지난 대선때 공개됐던 AI 윤석열 영상 위에 '박영일 남해 군수와 함께합니다'라는 문구를 빨간 글씨로 추가했다.

즉, 윤 대통령이 특정 후보를 지지하는 것처럼 보이게 하려는 목적으로 원본 영상을 '제 3자'가 재가공한 것.

문제는 AI 윤석열의 존재를 모르는 유권자들의 경우, 윤 대통령이 해당 후보를 공개적으로 지지한다고 오인할 수 있다는 것이다. 실제 AI 윤석열은 실제 윤 대통령의 외모와 말투와 닮아있어 육안으로는 쉽게 구별할 수 없을 정도다.

더 큰 문제는 논란이 발생했는데 '책임자'가 없다는 것이다. AI 윤석열 논란을 윤 대통령 본인에게 묻기에는 한계가 있다. AI 윤석열을 탄생시킨 국민의힘은, 이번 영상은 당과 무관하다는 입장이다. 박영일 전 남해군수 후보 측은 '지지자'가 만들어 SNS 유포했다고 한다.

중앙선거관리위원회도 겪어보지 않은 문제라, 쉽게 결론을 내리지 못하고 있다는 입장이다.

◇ "선거법 고쳐서라도 'AI 정치인' 규칙 마련해야"

김명주 서울여대 바른AI센터장은, 윤석열 대통령 본인이나 국민의힘이 해당 영상을 직접 제작하지 않았다는 점, 현재 AI 윤석열이 활동중이지 않다는 점을 근거로 '대통령의 선거 개입'으로 볼 순 없을 것이라고 예상했다.

다만 "아바타 가상 후보가 등장하는 영상을 진짜로 오인할 가능성은 충분히 존재한다"며 "이를 최소화하기 위한 사전 조치가 법적으로 강제돼야 한다"고 목소리를 높였다.

그는 AI 정치인이 등장하는 모든 영상은 시작 부분에 '이 동영상에는 실제 후보가 아닌 인공지능으로 제작한 가상 후보가 등장합니다'는 안내문을 붙여야 한다고 강조한다.
실제 미국에서 사용되고 있는 '디스클레이머'(Disclaimer·정보 표시 규칙)이다.

물론 이번 논란처럼, 제3자가 영상을 재가공하는 경우에도 '디스클레이머' 원칙은 필수적으로 지켜져야하며, 이를 지키지 않을 경우 강하게 처벌해야 한다고 강조한다.

김 센터장은 "지난 대선에 등장한 AI 윤석열 영상에서 '디스클레이머'가 명시돼야 했지만 그러지 못했었다"며 "이는 유권자의 오해와 혼동을 막기 위한 예방책이며 선거법을 고쳐서라도 디스클레이머 원칙을 도입해야 한다"고 제언했다.