음란물·사기·가짜뉴스… AI 악용 통제가 인류의 과제 [챗GPT 등장 1년]

AI시대의 명암
일상 속 소소한 기쁨 주거나
기업 효율·생산성 높이기도

생성형 AI가 만든 트럼프 체포 가짜 사진

【파이낸셜뉴스 실리콘밸리=홍창기 특파원】 챗GPT의 등장 후 생성형 인공지능(AI)은 인류의 일상과 함께하며 장점을 뽐내고 있지만 위험성이 더 크다는 지적이 나온다. 생성형 AI를 사용해 다른 사람의 얼굴을 이식하거나 오디오를 조작, 가짜 동영상을 만드는 딥페이크 등 위험이 생성형 AI의 장점을 덮고 있는 것이다.

생성형 AI라는 도구가 앞으로 사라질 가능성이 작기 때문에 생성형 AI를 통제하고 조정하는 일이 큰 과제라는 것이 중론이다. 미국 정보기술(IT) 전문지 테크크런치는 "챗GPT 등 생성형 AI의 부정적인 측면이 존재하지만 생성형 AI 도구가 조만간 사라지지는 않을 것이라는 점은 분명하다"고 짚었다.

■생성형 AI가 만들어내는 가짜

생성형 AI가 이미 인류의 생활과 함께하고 있는 것은 정확성 때문이다. 오픈AI의 최신 대규모 언어모델(LLM)인 챗GPT-4는 미국 모의 변호사시험에서 상위 10%, 대학입학 자격시험인 SAT 읽기와 수학 시험에서는 각각 상위 7%, 11%의 성적을 기록했다.

하지만 이런 정확성이 진짜 같은 가짜를 만들어내 인류를 위협하는 도구가 되고 있다. 최근 영국에서는 어린 학생들이 생성형 AI 이미지 생성기를 이용해 친구들의 음란한 가짜 이미지를 만들고 있는 사례가 다수 발생하고 있다. 이와 관련, 영국안전한인터넷센터(UKSIC)는 긴급한 조치를 촉구하면서 학교에 모니터링 시스템을 강화할 것을 경고했다.

UKSIC는 비즈니스인사이더에 "확인되지 않고 규제되지 않은 생성형 AI로 아이들의 안전이 위협받고 있다"며 우려를 나타냈다. 데이비드 하디 UKSIC 이사는 "생성형 AI 같은 새로운 기술이 더 쉬워지면 어린이와 학생 등 젊은이들의 유해한 행동은 필연적으로 나타날 수밖에 없다"고 내다봤다.

영국뿐만 아니라 생성형 AI의 급속한 성장이 탄생시킨 가짜들은 생성형 AI의 대표상품이 됐다. 미국의 경우 올해 3월에 트럼프가 뉴욕 맨해튼에서 체포됐다는 가짜 사진이 확산되며 파문을 일으킨 바 있다.

■진짜, AI의 미래는

생성형 AI가 만들어내는 진짜 같은 가짜로 인해 객관적 사실·진실의 중요성이 떨어지는 '탈진실(post truth)' 시대가 이미 도래했다는 관측도 나왔다.

생성형 AI가 생성하는 가짜의 심각성으로 2023년 '올해의 단어'로 '진짜의' '진품의'라는 뜻의 '어센틱(authentic)'이 선정됐다. 해마다 올해의 단어를 선정하는 미국 사전 출판사 메리엄웹스터는 "해마다 '어센틱'이라는 단어의 검색량이 많았지만 특히 올해는 생성형 AI와 정체성, SNS 등에서 크게 주목받았다"고 설명했다.

생성형 AI가 인류에게 위협을 가하기만 하는 것은 아니다. AI 싱어송라이터 가수라고 주장하는 안나 인디애나처럼 인류에게 소소한 기쁨을 주기도 한다.

비즈니스인사이더는 "안나 인디애나의 뺨에는 모공이 없다. 그녀의 목소리는 원하는 음정에서 전혀 벗어나지 않는다"며 안나가 너무 완벽하다고 전했다.

또 생성형 AI로 새로운 직업이 등장하는 등 일자리 변화를 유도하는 긍정적인 면도 있다. 생성형 AI가 기업에 효율성과 생산성을 높일 수 있는 기회를 제공하고 있는 것이다.

특히 최근 스탠퍼드대 학생들이 메타의 대규모 생성언어모델(LLMA)인 라마 2코드 생성기를 사용해 시각장애인이 눈앞에 있는 내용을 이해할 수 있도록 도와준 사례는 생성형 AI의 긍정적 역할을 잘 보여준다는 평가다.

[e-mail] 홍창기 기자