'에이닷 엑스' 뛰어넘는 하이퍼스케일AI 개발… 글로벌 정조준

SKT 김태윤 파운데이션 모델 담당
"1000억개 규모로 만들겠다" 목표
계산량 줄고 빠른 추론에 정확도↑
국대AI 5개팀 선정 소버린AI 속도
반도체 기업과 협업 시너지 기대감

"기존 '에이닷 엑스(A.X) 모델의 파라미터 크기가 약 10B(100억개)라면, 다시 만드는 모델은 최소 그것보다 10배 이상 굉장히 큰 모델이 될 거다."

SK텔레콤 김태윤 파운데이션 모델 담당(사진)은 지난 6일 서울 중구 페럼타워에서 진행한 파이낸셜뉴스와 인터뷰에서 이같이 강조했다. 하이퍼스케일 대형언어모델(LLM)을 만들겠다는 목표다.

글로벌 시장에서 거론하는 하이퍼스케일 LLM은 통상 100B(1000억개) 또는 그 이상 규모를 의미한다.

SKT는 정부가 추진하는 '독자 AI 파운데이션 모델'5개 정예팀에 합격해 독자 모델 개발에 속도를 내고 있다. 각 팀은 독자 AI 모델을 개발해 경쟁하며 오는 2027년 최종 2팀만 남는다. 지난 2018년부터 에이닷 엑스 개발을 주도한 김 담당은 컨소시엄 총괄 책임자 역할을 맡고 있다.

김 담당은 "모델 성능이 강력해지면 편리함이 따라온다"면서 "간단한 글 작성부터 코딩 업무, 시스템 자동화 등 다양한 부분에서 (타 AI 모델을) 단기간에 따라잡을 수 있게 된다"고 말했다. 그는 AI 모델 개발을 통해 국민들의 접근성을 높이는 동시에 국내 산업 생태계 전반에 긍정적 파급 효과를 내겠다고 강조했다.

그는 "SK텔레콤 컨소시엄에 참여한 기업들 모두 대규모 서비스 사업을 갖추고 있어, 그 서비스들에 우리 모델을 넣으면 빠르게 확산시킬 수 있다"면서 "SKT 컨소시엄 참여 기업중엔 해외 지사를 둔 곳도 많이 있는 만큼 해외 서비스를 통한 글로벌 확산의 청사진을 그리고 있다"고 언급했다. 특히 한국이 강점을 지닌 반도체 산업과 시너지를 내겠다는 구상이다.

김 담당은 "컨소시엄에서 모델을 만들면서 AI 반도체를 대형 서비스에서 서빙할 수 있는 지 실증을 진행할 예정"이라며 "국내에서 신경망처리장치(NPU) 반도체를 가장 잘하는 리벨리온과 공동으로 최적화 작업을 할 것"이라고 전했다.

김 담당은 자체 개발 AI 모델 구축에도 자신감을 드러냈다.

SKT는 오픈소스를 이용한 AI개발과 함께 토대부터 자체 개발하는 프롬 스크래치(from scratch) 모델도 만들어왔다. 김 담당은 "SK텔레콤은 '에이닷 엑스 3'는 프롬 스크래치, '에이닷 엑스 4'는 오픈소스 활용 등 AI 모델 구축에 있어 투트랙 전략을 쓰고 있다"면서 "둘 다 원천 기술을 확보하고 있어 프롬 스크래치 방식에 기술적 장벽을 특별히 느끼지 않고 있다"고 말했다.

SK텔레콤 컨소시엄은 '전문가 조합(MoE)' 아키텍처로 AI 모델 학습속도를 가속화시킨다는 계획이다. MoE는 여러개의 전문가 모델을 두고, 꼭 필요한 매개변수만 활성화함으로써 계산량을 줄이고, 빠른 추론과 높은 정확성을 달성할 수 있다. 김 담당은 "모델이 크긴 하지만 일부 만을 활성시키며 학습·서빙하기 때문에 굉장히 큰 모델도 빠른 시간 안에 학습할 수 있을 것으로 예상하고 있다"고 전했다.

[e-mail] 장민권 기자