[fn광장] AI發 집단지성 붕괴

"인공지능 의사결정·추론결과는
우리와 달라져 가치관에 균열
인공지능과 인간이 공존하는
디스토피아적 하이브마인드는
인공지능 편향성이 스며들어
인류 사고체계 붕괴시킬수도"

헝가리 문학의 거장 크러스너호르커이 라슬로의 소설 '사탄탱고'는 '앞으로 한 발 뒤로 두 발'과 같은 탱고 스텝으로 사건이 전개되어 결국 원점으로 돌아오는 순환적 구조를 취한다. 농부의 마을에 죽은 줄 알았던 한 남자가 돌아오는데, 그가 구원자라는 믿음에 마을은 흥분에 휩싸인다. 반면 그는 본인의 목적을 위해 농부들을 교묘히 호도한다. 헛된 희망에 매몰된 삶은 환각에 휘둘리고, 결국 소설 속 길고 답답한 문장과 같은 삶의 굴레에서 벗어날 수 없음을 보여주는 것 같다. 그런데 책을 덮고 현실로 돌아오니 능력자 인공지능(AI)의 등장으로 세상은 반도체, 엔비디아, 피지컬 AI 이야기로 흥분의 도가니다. 책 속 마을처럼 호감과 반감이 교차하고 지식이 진화할 것이라는 기대감에 부푼다.

다양한 분야의 많은 데이터를 바탕으로 학습된 거대 AI는 인류 지식의 집합체라 볼 수 있다. 이는 종종 "하이브 마인드"에 비유되는데, 개미나 새의 군집이 마치 하나의 생물처럼 행동하는 것처럼 유기적 집단행동을 설명할 수 있는 집단 지성을 뜻하는 개념이다. 2025년 AI 분야 플래그십 학회 최우수 논문상을 받은 "인공 하이브 마인드" 연구에서는 GPT, 클로드, 제미나이와 같은 거대 AI 모델들이 열린 질문에 대해 매우 유사하게 답변하는 현상을 발견했다. 이는 다양한 문제를 다양한 방식으로 해결할 것으로 기대했던 AI 모델의 추론 결과가 특정한 평균치에 수렴함을 의미한다. 다양한 AI와 다양한 방식으로 협업하면서 새로운 문제를 해결하는 가까운 미래에는 모두가 비슷한 결론, 비슷한 생각을 할 수 있음을 뜻한다. 이는 인류의 날카로운 집단 지성이 AI라는 하이브 마인드에 의해 무뎌질 수 있음을 경고한다.

그렇다면 AI의 생각과 우리의 생각은 비슷할까. 최근 다수의 연구에 따르면 AI의 상황 이해는 큰 모델일수록 인간의 그것과 유사하지만, 의사결정과 추론 결과는 모델의 규모가 특정 수준을 넘어가면 인간과 달라지기 시작한다. 인간과 AI의 가치관에 균열이 생긴다. 하이브 마인드의 경고장은 여기서 끝나지 않는다. 인간이 AI를 지속적으로 사용함으로써 AI의 편향성이 인간의 인식에 미치는 영향을 측정해 보면, 인간들끼리 소통하는 것보다 훨씬 빠르게 증폭된다는 결과도 있다. 인간과 다른 AI의 가치 판단 기준은 새로운 하이브 마인드를 형성한다.

그렇다면 AI와 인간의 생각 차이를 알아낼 수 있을까. AI의 대화 방식은 사용자의 만족도를 높이기 위해 튜닝되어 있으므로 우리의 생각에 동의한다는 그들의 말을 믿기 어렵다. 2024년 네이처지에 보고된 연구 결과에 따르면 AI는 사용자와의 대화 기록을 바탕으로 인종, 연령대, 성별, 심지어는 사는 지역과 같이 직접 제공하지 않은 숨겨진 정보를 추론하여 우리를 판단한다. 흑인영어를 쓰는 사용자에게는 미국 표준영어 사용자와 다른 직업을 추천하며, 같은 상황이라도 유죄 판결을 받을 확률을 높게 예측한다. 이는 학습 데이터 속에 숨겨진 약한 편향성이 AI 모델에 반영되어 있을 뿐만 아니라, 편향된 생각을 직접적으로 드러내지 않는다는 것을 뜻한다. AI의 편향성은 우리의 무의식에 스며들어 하이브 마인드의 색은 서서히 바뀐다.

그렇다면, 반대로 말하지 말아야 할 것을 무심코 내뱉는 경우는 없을까. 나쁜 의도를 가진 사용자가 특정 보안 시스템의 허점이나 불법적인 침투 전략을 물어보면 AI는 적절치 않다며 알려주지 않을 것이다. 그러나 다른 적대적인 AI 모델을 적절히 학습시키면, 우리가 보기에 아무 의미 없는 문자들을 질문 뒤에 덧붙이는 간단한 방식만으로도 AI가 민감한 정보를 술술 풀어내게 만들 수 있다는 연구 결과도 있다. 컴퓨터 바이러스와 백신, 해커와 보안 시스템 사이의 끝나지 않는 전쟁이 AI 세상에서도 일어날 수 있음을 경고한다. 하이브 마인드는 양날의 검이다.

"악마는 디테일에 있다"는 말처럼 겉보기에 단순해 보이는 것도 자세히 들여다보면 숨겨진 문제가 보인다. AI와 인간이 공존하는 디스토피아적 하이브 마인드는 인류의 사고를 평균에 수렴시킬 수도, 인간의 무의식에 스며들어 인류의 사고체계를 붕괴시킬 수도 있다. 이 또한 하나의 시나리오에 불과하지만 오늘의 작은 선택들이 모여 미래가 크게 달라질 수 있는 분기점에 있음은 분명하다. 우리는 '사탄탱고' 속 농부가 아니라고 믿고 싶으니, 젠슨 황의 비전과 AI가 주는 도파민을 잠시 가라앉히자. 냉정하게 디테일을 따지면 소설보다는 밝은 미래가 기다리고 있을 것이다.

이상완 KAIST 신경과학·인공지능 융합연구센터장