AI 몸집을 3분의 1로 줄이고 속도는 3배 이상 높였다 [언박싱 연구실]

<50> 한양대 최정욱 교수팀
차세대 AI 학습법 개발
속도 최대 3.1~3.9배 향상
똑똑함은 그대로 지켜내

[파이낸셜뉴스] 한양대학교 최정욱 교수 연구팀은 인공지능(AI)의 데이터 저장 용량을 기존보다 약 3분의 1 수준으로 대폭 압축하면서도, 수학이나 논리 문제를 풀 때 정확도가 떨어지는 고질적인 기술 한계를 극복하는 새로운 학습 시스템을 개발했다. 이 기술은 실제 서비스 환경에서 데이터 처리 속도를 장비에 따라 최대 3.1배에서 3.9배까지 끌어올려, 대형 데이터센터부터 소형 AI 장비에 이르기까지 초고효율 차세대 AI를 대중화하는 데 크게 기여할 것으로 기대된다.

최근 등장한 AI들은 사람이 생각하듯 복잡한 단계를 거쳐 스스로 정답을 찾아내는 놀라운 능력을 보여준다. 하지만 이런 AI를 작동시키려면 엄청난 성능의 컴퓨터가 필요하고, 매번 계산할 때마다 엄청난 양의 데이터를 기억하고 있어야 해서 서비스 운영 비용이 너무 비싸다는 한계가 있었다.

이번 연구는 AI 서비스의 뇌 역할을 하는 시스템의 메모리 부담을 획기적으로 낮춰주는 데 쓰인다. 연구팀이 개발한 기술을 적용하면, 엄청난 컴퓨터 부품이 들어가는 거대한 AI 공장(대형 데이터센터)은 물론이고 소형 AI 장비에서도 매우 경제적이고 빠르게 AI 서비스를 돌릴 수 있게 된다.

연구팀은 AI의 몸집을 줄이기 위해 컴퓨터가 데이터를 기억하는 정밀도를 대폭 낮추는 방법을 연구했다. 비유하자면 소수점 아래 수십 자리까지 복잡하게 적혀 있던 숫자를 간단하게 반올림해서 AI가 기억해야 할 데이터의 부피를 대폭 줄인 것이다.

문제는 이렇게 데이터를 마구 줄여버리면 AI의 똑똑함이 뚝 떨어진다는 점이었다. 특히 연구팀은 AI가 복잡한 수학이나 논리 문제를 풀 때 숫자(1, 2, 3 등)나 더하기, 빼기 같은 연산 기호처럼 '무조건 정확하게 맞혀야 하는 핵심 단어'에서 치명적인 실수를 저지른다는 사실을 발견했다. 징검다리를 건널 때 첫 돌을 잘못 디디면 뒤이어 오는 모든 걸음이 엉망이 되듯, 핵심적인 부분에서 생긴 작은 실수가 결국 엉터리 오답으로 이어지는 구조였다.

이를 해결하기 위해 연구팀은 '리쿼트(ReQAT)'라는 AI 전용 특수 훈련법을 고안했다. 연구팀은 먼저 AI가 성공적으로 정답을 찾아갔던 풀이 과정을 고스란히 기억해 두었다가, 데이터를 줄인 환경에서 똑같은 길을 다시 밟아보며 실수가 자주 나오는 핵심 순간에만 복습을 집중시키는 방식을 썼다.

이때 삐끗하면 치명적인 오답이 되는 숫자나 기호를 다룰 때는 AI 스스로 내린 결정에 더 확신을 가질 수 있도록 특수한 채점 기준을 적용해 마음을 단단히 붙잡아줬다. 여기에 AI가 문제를 풀며 참고하는 기억 데이터의 특성에 맞춰 데이터를 미리 손질해두는 준비 작업까지 더해 학습의 안정성을 극대화했다.

효과는 확실했다. 몸집을 줄인 AI는 보통 원래 성능보다 똑똑함이 크게 줄어들기 마련인데, 이번 특수 훈련을 거친 AI는 본래의 정밀하고 완벽한 상태와 비교해도 수학 문제를 풀어내는 능력이 전혀 떨어지지 않았다. 오히려 어려운 수학 시험(AIME)에서 기존 AI보다 정답을 더 잘 맞히는 놀라운 결과를 보여주었다.

게다가 실제 AI 장비에 올려 연산 효율을 측정한 결과, 데이터센터용 대형 장비(B200)에서는 일 처리 속도가 기존보다 3.1배 빨라졌고, 소형 AI 장비(DGX Spark)에서는 속도가 무려 3.9배나 뛰어올랐다.
동시에 데이터를 저장하기 위해 컴퓨터가 차지해야 하는 메모리 공간은 기존보다 65%나 절약됐다. 즉, 부피는 원래의 약 3분의 1로 날씬하게 줄였는데 일 처리는 3배 이상 빨라졌으며, 똑똑함은 그대로 유지되거나 오히려 더 진화한 것이다. 세계적인 학회가 이번 연구를 전체 논문 중 상위 2.2%에게만 주어지는 가장 우수한 발표 무대(스포트라이트 및 구두 발표)에 세운 이유가 바로 이 상자 속에 들어있었다.

monarch@fnnews.com 김만기 기자