인공지능으로 풀어본 인간의 조직문화

인공 신경망은 인간조직과 유사
지속가능한 스케일업 발전시켜
경험치 쌓여 다양한 상황 대처
인공지능 성과배분 문제 관련
부서별로 책임 소재와 더불어
얼마나 논의했는지까지 따져

인간의 조직 문화는 경제적·사회적 요구에 부응하여 발전해 왔다. 조직 문화는 인간 사회에만 적용될까. 인공지능(AI) 에이전트 간 긴밀한 협업이 중요한 에이전틱 AI의 세상, 작은 효율성의 차이가 큰 비용으로 이어지는 거대 AI도 조직 문화에 진심이다. 시뮬레이션 세상 속 AI는 극히 짧은 시간에 인류의 역사보다 더 많은 시행착오를 경험할 수 있고 실패비용도 적다.

인간의 조직 문화가 문과의 영역이라면 AI의 조직 문화는 이과다. 이쯤 되면 AI라는 조직을 키워낸 인간의 성공 방정식이 궁금하지 않은가.

먼저 AI라는 조직은 지속 가능한 스케일업을 고민해 왔다. 인공신경망은 인간의 조직과 유사하게 데이터로부터 상황을 파악하여 결과를 예측하고, 손실함수를 이용해 예측을 평가한다. 이어 신경망 각 부서의 기여도를 역추적하여 계산된 평가 결과를 배분한다. 배분된 페널티에 따라 실수한 부서는 실수를 줄이고, 잘한 부서는 상을 받는다. 이것이 하나의 조직 학습 사이클을 구성하며, 이 과정을 무수히 반복하여 조직을 발전시켜 나간다.

AI는 더 나아가 조직의 발전 과정에 지속 가능성을 추가한다. 이를 구조적 위험 최소화(Structural risk minimization)라 하며 조직의 경험치, 조직의 스케일, 구성의 복잡도 사이의 최적 균형점을 찾는 문제다. 이 문제는 지속 가능한 조직을 만들기 위해 어떠한 잠재적 위험요소에 주목해야 하는지를 알려주기도 한다. AI는 이 이론을 바탕으로 정규화(Regularization)와 같이 조직의 스케일업 속도를 스스로 조절할 수 있는 실질적 가이드라인도 만들어 활용해 왔다.

한편 특정한 구조를 가진 조직은 스케일링하면 조직의 능력치와 지속 가능성이라는 두 마리 토끼를 잡을 수 있다는 것이 밝혀졌다. 오픈AI의 공동창립자인 일리야 수츠케베르는 이러한 믿음을 가지고 AI의 스케일을 키운 대표적 인물이다. 물리적 스케일업으로 성공의 맛을 본 AI는 스케일업의 시야를 넓히기 시작한다. 조직의 경험치가 쌓일수록 다양한 상황에 대처할 수 있으니 능력의 스케일업으로 볼 수 있고, 물리적으로 작은 조직이라 할지라도 실제 상황에서 여러 차례 깊은 논의를 거치는 긴 의사결정의 체인을 사용하는 전략도 일종의 스케일업이다. 생각의 체인(Chain of thoughts)이라는 기술이다. AI는 이렇게 물리적 스케일이라는 패러다임에서 자유로워졌다.

그들의 평가방식은 어떨까. 인간이 정해진 시험을 통해 조직과 사회 구성원의 능력치를 끌어올리는 동안, AI는 피평가자가 잘 모르는 방향으로 평가기준을 계속 수정하거나(적대적 학습 기술), 더 나아가 평가자와 피평가자를 경쟁시킴으로써 둘의 능력치를 동시에 키워왔다(적대적 생성 신경망 기술). 이후 평가는 더욱 진화했다. 조직의 의사결정 과정을 잘게 쪼개고, 의사결정의 시계를 최초 혼돈의 시점까지 한칸씩 거꾸로 돌리기 시작한다. 이때 과거 의사결정에서 배제시킨 요소들을 추가하면서 의사결정 과정을 서서히 파괴한다. 의사결정이 목적인데 왜 굳이 파괴작업을 하는 것일까. 수학적으로 의사결정을 위한 노력의 총량을 고정시켜두면 다양한 의사결정 파괴 과정들은 시간을 자유롭게 앞뒤로 돌릴 수 있는 하나의 "동영상"으로 수렴한다. 이제는 임의의 상황에서 저장해 둔 동영상을 꺼내 의사결정의 시간을 앞으로 빠르게 감으면 된다. 시간 순서를 따르는 의사결정은 공간적인 메모리로 전환되었다.

AI는 조직의 구성원에게 공정하게 성과를 분배하는 문제도 고민해 왔다. 간단한 미분 방정식(벨만 방정식 또는 해밀턴-자코비-벨만 방정식)으로 표현되는 시간적 이윤 할당(Temporal credit assignment)이라는 문제에서는 부서별 책임 소재와 더불어 하나의 부서가 얼마나 많은 논의를 거쳐 결론을 냈는지까지 따진다. AI는 딥러닝으로 이 문제를 풀며 이세돌과 세기의 바둑 대결을 펼쳤고, 무인자동차·로봇·피지컬 AI를 제어하고, GPT·제미나이·클로드에 인간의 선호도와 가치관의 옷을 입히고, 에이전틱 AI의 생각의 체인을 지휘한다.

복잡한 조직의 성과 배분이라 쓰고, 공대 1학년 수준의 간단한 미분 방정식으로 푼다.

AI라는 조직의 운영철학에 대한 감이 온다면 바로 다음 문제 나갑니다. AI 조직을 키워낸 인간의 성공 방정식을 읽고, 인간의 사회·경제·문화의 성공 방정식을 써 보시오. 그런데 방정식은 누가 푸나? 다시 AI로 풀면 된다.

이상완 KAIST 신경과학·인공지능 융합연구센터장