딥페이크 정치 콘텐츠 단속 공감대… 美, 법적 규제엔 시간 걸릴듯

美 대선 등 지구촌 50개국 '선거'.. 가짜뉴스 확산 방지에 한 목소리
美연방선관위 규제 청원 검토 중.. 의회에선 아직 법안 통과 못시켜

【파이낸셜뉴스 실리콘밸리=홍창기 특파원】 미국 대선 등 올해 전 세계 50개국에서 이미 치러졌거나 예정된 선거를 앞두고 인공지능(AI) 기술로 생성된 딥페이크 정치 콘텐츠를 단속해야 한다는 목소리가 커지고 있다. AI 정치 콘텐츠가 주로 소비되는 빅테크 들이 자체적으로 딥페이크를 검열하고 있지만 한계가 있기 때문이다.

27일(이하 현지시간) 미 언론 등에 따르면 최근 구글과 메타는 정치 광고가 AI로 인해 변경됐는지 여부를 캠페인에 공개하도록 하는 정책을 발표했다.

유튜브의 경우 베네수엘라에서 니콜라스 마두로 대통령 정권에 유리한 허위 정보를 퍼뜨리기 위해 AI가 생성한 뉴스 앵커를 사용한 여러 계정을 정지시켰다.

그렇지만 개별 기업의 규제보다 국가적 입법을 통한 규제가 더 효과적이라는 지적이다.

메타 임원으로 근무하다가 테크 글로벌 인스티튜트를 설립한 사바나즈 라시드 디야는 "정치인이 '이것은 딥페이크다' 또는 '이것은 AI가 만든 것이다'라고 말하며 혼란을 조장하는 것은 쉽다"라고 파이낸셜타임스(FT)에 말했다.

디야는 "전 세계가 직면한 도전 과제는 AI가 생성한 콘텐츠가 어떻게 무기화되어 사람들이 진실이라고 믿는 것과 거짓이라고 믿는 것의 경계를 허물어뜨리는가 하는 것"이라면서 국가적 차원의 규제도입을 촉구했다.

현재 미국 9개 주에서 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행중이다.

또 미국 13개 주에서 AI를 활용한 가짜 이미지나 오디오, 비디오 콘텐츠로 선거 관련 허위 정보가 확산하는 일을 방지하기 위한 법안이 추진되고 있다.

이들 법안의 핵심은 AI로 생성된 콘텐츠의 경우 이를 표시하도록 고지 의무를 부과하는 것이다. 한발 더 나아가 AI로 생성된 콘텐츠의 게시를 금지하는 방식의 규제 내용을 담고 있는 경우도 있다.

히지만 미국 연방 정부 차원의 법적인 규제는 현재까지 없다.

미국 연방선거관리위원회 역시 선거 광고에서 AI 딥페이크 사용을 규제해 달라는 청원을 신중하게 검토중이다.

미국 연방 정부는 이를 해결하기 위해 움직이는 중이다.

바이든은 지난해 11월 완성된 AI 콘텐츠를 식별하고 공식 콘텐츠를 인증하기 위한 표준을 만드는 내용을 핵심으로 하는 AI 행정명령에 서명했다.

당시 바이든 대통령은 서명 전 연설을 통해 "딥페이크는 사람들에게 사기를 치기 위해 AI가 만든 오디오와 영상을 사용한다"고 우려했다. 이어 "AI를 통해 생성된 콘텐츠는 이를 표시해야 한다"라고 덧붙였다.

이와 관련, 카린 장-피에르 백악관 대변인은 26일 "조 바이든 대통령은 지난해 행정명령을 발표한 것처럼 생성형 AI가 생산한 이미지에 대한 리스크를 줄이기 위해 노력하고 있다. 계속해서 조치를 취할 것이며 의회도 전략적인 입법 조치를 취해야 한다"고 강조했다.

그러나 초당적 지지에도 미 의회는 정치에서 AI를 규제하는 법안을 아직 통과시키지 못했다. 상원에는 AI 관련 콘텐츠에 대해 AI 관련 업체들이 법적 책임을 지도록 하는 법안은 제출된 상황이다.

상원을 중심으로 AI 규제 입법에 대한 논의는 진행중이다. 상원 다수당인 민주당 척 슈머 원내대표는 상원 전체 의원을 대상으로 AI 능력 수준, 미국 정부의 AI 활용 현황 등에 대한 설명회·브리핑을 주도하고 있다.

슈머 원내대표는 AI가 초래할 위협 중 하나로 '잘못된 정보'를 강조하고 AI에 대한 안전장치 개발과 미국의 리더십 강화를 목표로 한 입법을 절차를 밟고 있다.

[e-mail] 홍창기 기자