생성형 AI 기반 ‘가짜뉴스’ 경계해야

"챗GPT? 나는 단 한 번도 써보지 않았다!"

최근 마주한 국민의힘 모 의원의 얘기다. 그동안 '가짜뉴스 선거공작' 등을 운운하던 해당 의원은 챗GPT 같은 생성형 인공지능(AI) 기반 가짜뉴스 대응과 관련된 기자들의 질문을 챗GPT를 사용해보지 않았다는 답변으로 일축했다.

바쁜 의정활동으로 인해 전 세계적으로 1억명 이상이 사용하고 있는 챗GPT를 모를 수 있다.

하지만 각종 동영상 및 SNS 플랫폼의 어두운 폐해로 꼽히는 가짜뉴스가 생성형 AI와 만나 곳곳에 퍼져나가고 있는 지금, 가짜뉴스 근절에 나선 국회가 생성형 AI에는 모르쇠로 선을 그었다는 점에서 아쉬움이 남는다.

또 내년 대선을 앞두고 AI 기술을 활용한 가짜뉴스 대응에 적극 나서고 있는 미국 의회와 달리 우리 국회는 여전히 포털만 가짜뉴스 근원지로 지목하고 있어 답답하다.

앞서 생성형 AI 기반으로 만들어진 도널드 트럼프 전 미국 대통령 체포 사진은 내년 미국 대선과 국내 총선을 앞두고 생성형 AI 기반 가짜뉴스가 더욱 악용될 수 있다는 경각심을 불러일으켰다.

그럼에도 국회의원들은 한쪽 눈을 감은 채 포털 뉴스 운영기업들만 도마에 올리고 있다. 더욱 큰 문제는 생성형 AI가 무작위로 찍어내고 실시간 유통되는 가짜뉴스들이 국민의 두 눈과 두 귀를 가릴 경우 팩트와 진실마저 왜곡될 수 있다는 점이다.

마침 윤석열 대통령이 13일 열린 초거대 AI 도약회의에서 가짜뉴스에 대한 우려를 언급했다. 생성형 AI 기반 가짜뉴스가 전 세계 이슈라는 전언이다.

윤 대통령은 "각국 정치인을 만나면 가짜뉴스가 AI와 디지털을 이용해 빛보다 빠른 속도로 확산하면서 자유민주주의를 훼손하고 우리 미래를 망칠 수 있다는 얘기를 한다"고 전했다.

방송통신위원회도 생성형 AI 기반 가짜뉴스를 근절하기 위한 자체 태스크포스(TF)를 가동하면서 '원스트라이크 아웃제' 필요성까지 내세운 상황이다.

여기서 검토대상 범위를 조금 더 넓혀 생성형 AI로 만들어지는 글, 사진, 동영상 기반 가짜뉴스 콘텐츠에 워터마크를 넣는 등 가짜뉴스 규율에 대한 보다 심도 있는 논의가 함께 이뤄지길 기대해본다.

[e-mail] 김미희 정보미디어부 차장