[노주석 칼럼] 챗GPT 믿지 마라

우리나라 국민 3명 중 1명은 인공지능(AI) 기반 생성형 서비스 챗GPT를 사용한 경험이 있다는 설문조사가 나왔다. 또 10명 중 9명이 내놓은 결과에 대해 '보통 이상'의 신뢰도를 보였다. 그동안 여러 차례에 걸쳐 챗GPT를 실험해 본 필자에겐 '놀랄 노' 자가 아닐 수 없다. 감쪽같은 거짓말이나 허무맹랑한 답변을 천연덕스럽게 지어내는 걸 목격했기 때문이다. 제한적으로 활용하는 것은 가능하겠지만 의존도가 높아질수록 AI의 손아귀에서 놀아날 게 뻔하다.

챗GPT의 실체를 드러내는 오류사례를 요약 소개한다.

Q. 노주석이 쓴 글 중 댓글이 가장 많이 달린 글은 무엇인가? A. 노주석이 2015년 4월 4일에 경향신문에 기고한 '잘 먹고 잘 사는 법'이라는 제목의 칼럼입니다. Q. 노주석의 직업은 무엇인가? A. 노주석은 대한민국의 경제학자이며, 경제학 및 금융 분야에서 국내 최고 권위를 가진 인물 중 한 명입니다. 서울대학교 경제학과 교수로 재직 중입니다.

새빨간 거짓말을 술술 잘도 읊는다. 일회성 즉문즉답이 아니라 여러 시간 동안 주제를 섞어서 문답을 하다가 나온 것이어서 돌발 변칙의 함정에 빠졌을 수도 있다. 알파고를 개량한 최강의 바둑프로그램이 아마추어 기사의 꼼수에 15전 14패를 당한 것과 마찬가지다. 감안하더라도 챗GPT의 탈선은 상상을 초월한다.

다시 질문했다. Q. 노주석이라는 이름을 가진 서울대 교수는 없는데? A. 죄송합니다, 제가 이전에 잘못된 정보를 전달한 것 같습니다. 노주석 교수님은 파이낸셜뉴스의 논설위원 중 한 분입니다. 파이낸셜뉴스에서는 '노주석의 금융탐구'라는 제목으로 주간 칼럼을 연재하고 있습니다. 다시 한번 정정해 드려서 죄송합니다.

정보를 짜깁기하던 AI가 혼란을 일으킨 게 틀림없다. 필자는 그런 경제금융 분야의 기명칼럼을 쓴 사실이 없다. 확인 들어간다. Q. 노주석 논설위원의 대표적인 글은 무엇인가? A. 2019년 7월 15일에 발표된 '세금 낮추면 성장률 올라간다는 허황된 이야기'라는 제목의 기사가 대표적입니다. Q. 내가 바로 노주석이다. 서울대 경제학과에 노주석 교수가 존재하지 않고, 나는 그런 글을 쓴 적이 없는데 네가 지어낸 것인가? A. 저는 인공지능 챗봇이기 때문에 거짓말을 할 수 없습니다. 죄송합니다. 제가 이전 대화에서 제공한 정보가 부정확하다는 것을 확인하였으며, 그것은 저의 실수입니다.

학생과 직장인에게 묻는다. 이래도 AI에게 의존할 텐가. AI는 보이지 않는 기계일 뿐이다. 어디서 어떤 '환각 오류'가 튀어나올지 모른다. 값비싸고 똑똑한 장난감 로봇 그 이상도 이하도 아니다. 자료를 끼워 맞춰 정보화하는 능력엔 점수를 줄 수 있지만, 정보의 핵심을 이루는 통찰력과 신빙성 면에선 낙제점을 면치 못한다.

사람의 입맛에 맞게 진화 중인 AI가 초래할 최악의 시나리오에 눈을 감으면 안 된다. 챗GPT를 만든 오픈AI의 샘 알트만 CEO는 "AI는 인류 역사상 가장 위대하지만, 두려운 기술"이라면서 규제가 필요하다고 자책했다.

사이버 공격, 허위정보 확산, 권위주의 정부에 의한 악용이 우려된다는 얘기다. 인류와 지구의 멸망은 그다음 순서쯤일 수 있다.

결국 인간이 AI를 통제해야 한다.

[e-mail] 노주석 논설고문