[fn광장] AI와 인간의 反사실적 사고

인간은 가지 않은 길 아쉬워 하지만
AI는 '반사실적 추론' 기술로 발전
다른 삶을 다 살아본 것처럼 행동
조현병 누나 둔 가정의 삶을 그린
다큐영화 '어떻게 해야 했을까’는
분기점마다 '반사실적 추론' 하게돼

로버트 프로스트의 시 '가지 않은 길'에서는 인생의 갈림길에서 선택하지 않은 길에 대한 미련을 이야기한다. 밀란 쿤데라의 소설 '참을 수 없는 존재의 가벼움'에서는 한 번뿐인 삶의 무게와, 다양한 선택의 무한한 가능성 속 한 번의 삶은 수학적(1/무한대=0)으로는 한없이 가벼울 수 있다는 관점이 양립한다. 블레이크 크라우치의 SF소설 '리커전(Recursion)'에서는 타임머신 기술로 잘못된 선택을 번복할 수 있는 세상에서는 다른 이들의 삶에 죽은 기억을 남겨 정신이 붕괴되는 상상을 한다. 이렇게 인간은 선택한 길을 후회하고 선택하지 않은 길을 아쉬워한다. 이제 인공지능의 세상으로 가보자.

한 번뿐인 삶, 수많은 선택의 무게에 짓눌린 인간과 달리 시뮬레이션 세상에서 여러 번 살아볼 수 있는 인공지능은 실패가 두렵지 않다. 데이터 기반의 인공지능 모델은 매 순간의 결정에 대한 손실(Loss)을 계산하고, 학습을 통해 손실을 최소화한다. 학습 사이클 속 인공지능에는 같은 상황으로 돌아와 다른 선택을 할 수 있는 기회가 주어진다. 다만 이를 위한 계산 비용과 전기료는 오롯이 인간의 몫이다.

후회의 단맛을 본 인공지능은 더 나아가 '반사실적 추론'(Counterfactual inference)이라는 기술로 발전한다. 반사실적 추론은 현재의 결과를 바탕으로 '다른 선택을 했더라면 결과는 어떻게 달라졌을까'라는 질문을 스스로에게 던지고 과거에 선택하지 않았던 행동의 결과를 추론하는 기법이다. 물론 실제 경험해 보지 않고는 정확한 결과를 알 수 없지만, 월드 모델이라는 사전 지식을 가지고 있거나 시뮬레이션 능력을 가진 인공지능이라면 반사실적 추론이 가능하다. A와 B 두 갈래길에서 A를 선택하고 결국 실패했다면, A의 삶을 후회하면서 동시에 비록 경험해보지 않았지만 B선택으로 이어지는 다른 삶을 상상해 본다. 결과적으로 다음 생에서는 두 삶을 다 살아본 것처럼 행동한다.

반사실적 추론은 개인의 선택을 넘어 다수의 인공지능 에이전트로 구성된 팀 전략을 개선하는 데도 도움이 된다. 학교, 회사, 국가 등 집단 속에는 자기 일처럼 적극적인 사람이 있는가 하면 숟가락만 얹는 얄미운 자(Free-rider)도 있다. 집단의 선택으로 얻은 성과와 손실을 어떻게 각 팀원에게 분배할 것인가-이를 시간적 자원분배 문제(Temporal credit assignment)라 하고, 알파고·무인자동차·로봇 등 행동전략을 배워야 하는 다양한 분야에 활용된다.

현재 집단이 얻은 보상을 각 개인의 과거 선택으로 분배할 수 있다면 이상적 보상 시스템이 완성된다. 경제논리에 충실한 자유민주주의와 공평함을 추구하는 공산주의가 겪는 이상과 현실의 괴리와 같이 매우 어려운 문제지만, 인공지능 에이전트 사회에서는 "만약 특정 개인이 다른 선택을 했더라면 집단의 결과는 어떻게 달라졌을까"라는 반사실적 추론 기술이 활약한다. 단순하게 생각하면 집단 전체 보상에서 개인의 반사실적 추론을 빼면 개인의 기여도가 남는다. 타인의 노동에 편승하는 자는 설령 다른 행동을 했더라도 팀의 성과에 미치는 영향이 적을 것이므로 잘 걸러낼 수 있다.

미국의 행동과학자 존 칼훈의 '랫 시티'라는 실험에서는 쥐의 집단에게 일하지 않아도 풍족한 보상이 주어지는 환경을 만들었다. 집단에 기여하기 위해 협동하거나 보상을 추구하는 경쟁이 없는 상황 속 쥐들의 사회는 유토피아가 될 것으로 예상했다. 그러나 쥐들은 이상행동을 보이기 시작하고 결국 그 집단은 살아남지 못한 디스토피아로 실험은 종료되었다. 쥐가 만약 반사실적 추론을 했다면 실험은 해피엔딩이라는 반사실적 생각을 해본다.

다시 인간 세상으로 돌아와 정리해 보면, 반사실적 추론은 매 선택에서 현실과 반사실이라는 기억의 분기점을 만들고 선택의 결과를 경험하는 시점에서 살아보지 않은 삶을 반추한다. 삶의 일회성을 극단적인 방식으로 받아들이는 밀란 쿤데라 소설 속 인물의 대비는 이러한 사고에 익숙한 작가의 고민으로 볼 수도 있겠다. 다큐영화 '어떻게 해야 했을까?'의 감독은 조현병 누나를 둔 가족의 삶을 기록한 영상을 재생하며 관람객에게 선택의 분기점마다 반사실적 추론을 하게 만든다.

'소 잃고 외양간 고친다'는 속담, '후회막급'과 같은 사자성어는 어쩌면 반사실적 사고의 몸부림일지도 모르니 비아냥보다는 따뜻한 격려가 어떤가. 반사실적 세상 속 나는 지금보다 더 나은 삶을 살고 있을 것이다.

이상완 KAIST 신경과학·인공지능 융합연구센터장