AI도 "네 말은 틀렸어" 하는 시대…토론시켜 거짓말 잡는 국내 기업

[파이낸셜뉴스] 단일 AI 모델의 환각(Hallucination)과 편향성 문제를 해결할 대안으로, 여러 AI가 서로 토론하고 검증하는 '집단지성형' 추론엔진이 국내 기업 손에서 나왔다. 제네시스코텍스AI는 'AI Debate Engine'의 상용화를 공식화했다고 14일 밝혔다.

이 엔진은 ChatGPT, Claude, Gemini, Grok 등 글로벌 프런티어 대형언어모델(LLM)들을 하나의 플랫폼 위에서 상호 토론시키고, 실행 기반 검증을 통해 신뢰도를 극대화하는 차세대 AI 추론 플랫폼이다. 단일 AI가 하나의 답변만 내놓아 발생했던 환각, 편향성, 특정 모델 의존성 문제를 해결하기 위해 회사는 '경쟁(Compete) → 검증(Verify) → 협력(Collaborate)' 프레임워크를 자체 개발해 적용했다.

핵심 기술은 △다중 AI 간 토론을 제어하는 'Multi-Agent Debate Framework' △코드와 실행 결과를 실시간 검증하는 'Execution Verification Engine' △이견을 조율해 합의점을 도출하는 'Consensus Reasoning Engine' △검증 가능한 보상 기반 강화학습 체계인 'RLVR 학습 프레임워크' 등이다. 회사는 이들 기술을 중심으로 국내외 특허 포트폴리오를 구축해 원천 기술의 지식재산권 장벽을 강화한다는 전략이다.

이번 엔진의 학술적 완성도는 제네시스코텍스AI 연구소장 숀킴(Shawn Kim)이 발표한 논문 「Compete then Collaborate」를 통해 먼저 검증받았다. 논문은 단순 지도미세조정(SFT)보다 검증 가능한 보상을 활용한 강화학습(RLVR) 환경이 AI 성능 향상에 더 효과적이라는 점을, 인간이나 AI의 주관적 평가 대신 '실행 결과'를 객관적 심판으로 삼아 입증했다.

특히 이 기술은 1999년 POSTECH 장민 박사가 발표한 '가상 데이터를 이용한 앙상블 학습 알고리즘' 연구의 철학을 잇고 있다는 점에서도 주목받는다. 숀킴 소장은 장민 박사의 앙상블 방법론을 현대 생성형 AI 환경으로 확장해, 다중 AI가 협력적으로 만든 '검증 가능한 커리큘럼'을 강화학습에 접목한 토론 프레임워크로 재구성했다.

숀킴 소장은 "AI를 단순히 모방 학습시키는 시대는 끝났다"며 "스스로 토론하고 검증받으며 동적으로 진화하는 추론 인프라를 마련하는 것이 차세대 AI의 본질"이라고 말했다.

이욱희 제네시스코텍스AI 대표는 "생성형 AI의 패러다임은 더 큰 모델을 만드는 경쟁에서, 서로 다른 AI들이 어떻게 협력하고 토론해 신뢰할 수 있는 결과를 도출하는가의 경쟁으로 전환되고 있다"며 "교육, 법률, 의료, 제약(GMP), 금융 등 고도의 신뢰성이 요구되는 산업별 맞춤형 AI 추론 플랫폼을 구축해 글로벌 시장 선점에 나서겠다"고 밝혔다.

회사는 'Genesis AI Engine' 브랜드로 기업용 맞춤형 AI 에이전트, AI 교육 플랫폼, 디지털 트윈 연계 AI 솔루션, 산업별(Legal/GMP/Healthcare) AI 토론 솔루션을 순차 출시하며 국내외 B2B 시장 공략에 나설 계획이다.

rsunjun@fnnews.com 유선준 기자