[fn광장] 과학하는 인공지능의 빅픽처

과학AI, 인간 데이터 모두 배우면
인공지능이 스스로 터득한 원리를
인간이 배워야 하는 세상이 올 것
그렇다고 자존심 상할 필요 없어
원하는 결과 얻기 위한 고통 덜고
'상상을 현실로' 즐거움만 더할뿐

이상완 KAIST 신경과학-인공지능 융합연구센터장

최근 구글 딥마인드와 오픈AI에서 거대 인공지능(AI)의 핵심기술 개발에 참여했던 연구원들이 피리오딕 랩스(Periodic Labs)를 창업했다는 소식이 들린다. "스스로 실험하는" AI를 선언하며 초전도체, 반도체, 신소재와 같은 첨단분야에 도전장을 던진 이 스타트업에 많은 투자가 이어지고 있다. 과학하는 AI(편의상 과학AI라 하겠다)의 빅픽처는 무엇일까.

과학AI는 새로운 개념은 아니다. 이세돌 기사와 바둑 대결을 펼친 알파고의 아버지 데미스 허사비스는 두번째 대결이 끝나고 잠시 카이스트를 방문하였는데, 문득 AI로 수학과 과학의 난제를 푸는 팀이 있다는 이야기를 하였다. 과학AI 여정은 최소 10년 전부터 시작되었다는 뜻이다.

과학AI는 어떤 모습일까. 데이터를 생성하는 AI와 평가하는 AI의 제로섬 게임이라는 적대적 생성 인공신경망의 아이디어는, 문제를 출제하는 AI와 문제를 푸는 AI의 게임으로 발전하여 딥시크(DeepSeek)를 학습시킨다. 스스로 진화하는 AI의 가능성을 보여준 구글의 알파 이볼브(Alpha Evolve)도 같은 계열로 볼 수 있다. 이러한 부류는 기존의 알려진 작업을 AI로 자동화하는 수준을 넘어서서, 새로운 작업이나 문제를 정의함으로써 '자동화 과정 자체를 자동화'하는 기술이다. 이러한 과학AI의 특징을 살펴보면 인류가 중요한 분기점에 있음을 읽어낼 수 있다.

첫째, 24시간 365일 쉬지 않고 일하는 강철 체력을 바탕으로 스스로 문제를 탐색하고 추론하는 거대한 에이전트가 움직인다. 둘째, 모든 것을 알아서 해결한다. 과거의 AI는 인간이 정한 평가기준으로 AI를 학습시켰고, 챗GPT와 같은 초창기 언어모델은 인간의 선호도를 학습한 AI가 AI를 튜닝하였으나, 과학AI의 시대는 AI들끼리 문제를 내고 문제를 풀고 평가까지 알아서 한다.

셋째, 적은 양의 데이터, 심지어는 데이터 없이 학습하는 '제로인간'형 AI다. 인간의 데이터를 거의 다 학습한 시점에서의 과학AI는 물리적 AI 기술을 결합해 스스로 데이터를 생성하고, 그 데이터로 학습을 반복한다. AI의 석학 얀 르쿤은 물리적 세상의 원리를 이해하는 월드 모델(World model)을 강조하였는데, 이것은 과학AI에 주어진 첫번째 숙제에 불과하다. 월드 모델을 바탕으로 새로운 원리를 추론하는 시점부터 진짜 재미있는 일들이 벌어질 것이다.

넷째, 과학AI는 연구의 숨은 맥락을 읽는다. 인간 세상의 연구는 학계에 보고된 성공 사례를 중심으로 발전한다. 성공 뒤의 무수한 실패는 드러나지도 않거니와 성공 위에 성공을 쌓아가는 학계 시스템 속에서 잊혀진다. 그러나 과학AI는 성공도 실패도 모두 배운다. 더 정확하게는 성공과 실패를 이어주는 숨은 요소들을 학습한다. AI에 성공과 실패는 평가지수일 뿐이므로 실패를 부끄러워할 이유가 없고, 시행착오는 컴퓨터 시뮬레이션 속 노동이므로 인간이 굳이 육체적·정신적 고통을 감내할 필요도 없다.

이렇게 적어도 네 가지 능력을 갖춘 과학AI가 새로운 발견을 했다고 치자. 결과를 믿을 수 있을까. AI가 학습한 맥락, AI가 깨우친 원리는 내부 상태 공간의 표상이기에 인간의 인지 과정으로는 이해하기 어렵다. 결론의 근거를 데이터 수준에서 설명하거나 인간의 언어로 풀어쓰는 기계적 해석(Mechanistic interpretability) 기술에서 한 단계 나아가 인간의 사고체계를 반영한 새로운 해석 기술이 필요하다.

데이터 기반 AI(Data-driven AI)의 시대, AI가 이 세상의 데이터를 전부 학습하여 우리가 더 제공할 수 있는 데이터가 남아 있느냐는 농담도 들린다. 그리고 물리지식 기반 AI(Physics-informed AI) 출현으로, 수학이나 물리의 과학적 원리를 AI의 학습에 직접 활용하는 기술이 발전하고 있다. 과학AI가 인간의 데이터와 인간의 과학을 모두 배운 뒤에는 어떤 일이 벌어질까. AI가 스스로 터득한 원리를 인간이 배우는 세상(AI-informed Physics and Mathematics)이 올 것이다.

AI가 과학을 대신한다고 해서 자존심 상할 필요가 전혀 없다.

원하는 '결과'를 얻어내기 위한 인내와 실패의 고통은 덜어내고, 황당한 상상을 깊이 있는 연구로 만드는 '과정'의 즐거움만 더할 뿐이다. 그러므로 과학AI의 세상에서는 더 이상 석학의 이야기에 귀 기울이고 일희일비할 필요 없다.

상상력 좋은 사람이 석학이다.

이상완 KAIST 신경과학-인공지능 융합연구센터장