진짜와 가짜를 구별하기 힘들어지면서 AI 콘텐츠는 일상 속으로 상상을 초월하는 속도로 파고들고 있다. 그리고 그 빈틈을 노린 범죄는 이미 현실이 됐다. 최근 한 50대 여성이 'AI 이정재'에게 속아 5억원을 잃었다. 로맨스 스캠 일당은 AI로 만든 얼굴과 운전면허증을 제시하며 피해자를 현혹했다. 지난해에는 일론 머스크를 사칭한 AI 계정에 속아 7000만원을 송금한 사례도 있었다. 유명인의 사진과 음성, 신분증이 순식간에 위조되는 등 피해는 생각보다 훨씬 빠르고 넓게 번진다.
허위광고 역시 심각한 문제다. 올 국회 국정감사에서는 AI로 만든 '가짜 의사·약사'가 건강기능식품 광고에 활용되고 있다는 지적이 쏟아졌다. 정작 실제 전문가보다 더 자연스럽고 또렷하게 말하는 'AI 의사'의 등장에 소비자들은 속수무책이다. 특히 디지털 환경에 익숙하지 않은 고령층은 이러한 조작에 더욱 취약하다.
지난해 디지털리터러시협회가 14~69세 남녀 2000명을 대상으로 진행한 '사이버불링&AI에 관한 국민인식 조사' 결과에 따르면 응답자 중 58.5%는 딥페이크 기술로 만든 콘텐츠를 경험했다고 나타났다. 딥페이크 콘텐츠 식별 여부에 대해선 55.2%가 구별하기 힘들다고 응답하기도 했다. 응답자 가운데 62.7%는 AI 기술 및 서비스로 인한 사이버불링이 심각한 문제가 될 수 있다고 지적했다.
전문가들은 앞으로도 상황은 악화될 것으로 보고 있다. 최병호 고려대 AI연구소 교수는 "머지않아 사람의 눈으로 AI 콘텐츠의 진위를 판단하는 것이 사실상 불가능해질 것"이라며 "모든 콘텐츠를 의심하는 캠페인이 필요한 상황"이라고 꼬집었다. 물론 AI가 AI를 판별하는 시대가 오겠지만, 그마저도 완전한 해결책은 아니다. 결국 우리가 의존할 수 있는 것은 기술보다 '판단의 태도'다.
그래서 AI 콘텐츠를 구별해 '지능적 소비'를 할 수 있는 방법을 몇 가지 적어본다. 우선 영상이나 사진에 워터마크가 있는지 꼼꼼히 살펴보며 배경이나 인물, 동물의 발가락, 물체 왜곡 등 어색한 부분을 확인해 본다. 다음으로는 최대한 정부나 공식 언론 등 신뢰기관에서 배포한 정보를 우선 참고하고, 공식 미디어 외에 너무 극단적이거나 자극적인 내용은 한번 더 확인해야 한다. 여기에 팩트체크 사이트와 딥페이크 탐지도구를 활용한다면 더 좋다.
이런 점에서 데카르트가 남긴 말은 다시 소환될 가치가 있다. 그는 "나는 생각한다, 고로 존재한다"는 결론에 이르기 전, 세상의 모든 것을 철저히 의심했다. '진리를 찾으려면 인생에서 단 한 번쯤은 모든 것을 가능한 한 의심해 보아야 한다'는 그의 통찰은 17세기에 그치지 않는다. 특히 진짜와 가짜가 완벽히 뒤섞인 오늘, 데카르트의 태도야말로 가장 현실적이고 필요한 생존전략일지 모른다.
AI는 이미 되돌릴 수 없는 속도로 우리의 일상과 소통, 금융, 소비, 정치적 판단에까지 깊숙이 파고들었다. 기술은 계속 발전하겠지만, 사람의 분별력은 자동으로 향상되지 않는다. 결국 우리가 선택해야 할 것은 '믿을 것인가'가 아니라 '어떻게 의심할 것인가'다. AI 시대의 시민권은 비판적 사고에서 시작된다. 그 능력이야말로 미래를 살아갈 우리의 가장 확실한 방패가 될 것이다.
kjw@fnnews.com
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지