마이크로소프트(MS), 메타플랫폼스, 알파벳 산하 구글, 오픈 AI, 틱톡 등 전세계 주요 기술업체들이 AI를 통한 '딥페이크' 선거운동을 차단하기로 합의했다.
전세계 20개 대형 기술업체들은 16일(이하 현지시간) 독일 뮌헨안보회의에서 이같은 합의문을 발표했다.
이들은 AI가 만들어낸 가짜 얼굴인 딥페이크 이미지, 동영상, 음성처럼 유권자들을 오도하기 위해 콘텐츠를 만들거나 유포하는 것을 공동으로 막기로 합의했다.
파이낸셜타임스(FT) 등 외신에 따르면 이날 합의는 업체들이 자발적으로 참여해 서명한 것이다.
이들은 급속한 AI 발전이 "새로운 기회들도 만들어내지만 민주주의 절차에 도전도 되고 있다"면서 누군가를 속이기 위해 만들어진 콘텐츠 확산은 "선거절차의 온전성을 위협"할 수 있다고 우려했다.
메타의 글로벌부문 담당 사장 닉 클레그는 "올해 (전세계 곳곳에서) 수많은 주요 선거들이 치러진다"면서 "사람들이 AI가 만들어낸 콘텐츠에 속지않도록 우리가 할 수 있는 일을 하는 것이 매우 중요하다"고 말했다.
클레그 사장은 "이는 한 업체가 감당할 수 없는 과제"라면서 "업계와 정부, 시민사회 모두가 엄청난 노력을 해야 하는 과제"라고 강조했다.
MS 부회장 브래드 스미스도 각 업체가 "이같은 (AI) 도구들이 선거에서 무기가 되지 않도록 확실히하는 것을 도울 책임이 있다"고 말했다.
이들은 합의에서 AI를 통한 가짜뉴스가 나오는 것을 업계 협력을 통해 발본색원하고, 가짜뉴스가 나오더라도 이에 신속히 대응하기로 했다.
가짜뉴스에는 워터마크를 찍는 등의 방안을 검토하고 있다.
페이스북, X, 틱톡 같은 소셜미디어 업체들은 이전에도 선거 기간 이들 소셜미디어에 퍼지는 가짜뉴스들이 선거 판세에 영향을 미친다는 점때문에 상당한 비판을 받아왔다.
그렇지만 AI가 등장한 뒤 이들 소셜미디어의 선거 영향력이 월등히 높아지면서 AI가 만들어낸 가짜뉴스가 선거판을 뒤흔들 것이란 우려가 높아지고 있다. 딥페이크로 만들어진 가짜 사진이나 동영상, 음성 파일이 마치 사실인 것처럼 소셜미디어에서 퍼지면 이를 부인해도 별 소용이 없고, 실제 동영상도 가짜라고 부인하면 지지자들 사이에 먹혀들 수도 있다.
지난 1월에는 AI로 만들어낸 조 바이든 미국 대통령 목소리로 뉴햄프셔주 대선후보 경선 투표에 참여하지 말라는 전화가 유권자들에게 걸려온 적도 있다. 또 지난해에는 AI로 만들어낸 정치선전물이 영국, 인도, 나이지리아, 수단, 에티오피아, 슬로바키아 등에서 발견됐다.
dympna@fnnews.com 송경재 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지