카카오, 경량 AI '카나나' 오픈소스 공개…온디바이스 AI 승부수

[파이낸셜뉴스] 카카오가 자체 개발한 경량 AI 모델 '카나나'의 경량 언어모델(SLM) 4종을 오픈소스로 공개하며 AI 생태계 확대에 나섰다. 스마트폰 등 온디바이스 환경에 최적화한 AI 모델을 개발자와 기업이 상업적으로도 자유롭게 활용할 수 있도록 개방하면서, 자체 AI 기술을 플랫폼 밖으로 확산하는 전략에 속도를 내는 모습이다.

카카오는 허깅페이스에 경량 언어모델(SLM) 4종을 오픈소스로 공개했다고 28일 밝혔다. 카나나(Kanana)-2 경량 언어모델 시리즈로, △Kanana-2-1.3B-base △Kanana-2-1.3B-instruct △Kanana-2-3B-base △Kanana-2-3B-instruct다.

최근 AI 업계는 스마트폰이나 개인용 컴퓨터(PC)에서 직접 구동할 수 있는 경량 AI 모델 개발에 속도를 내고 있다. 글로벌 기업들도 온디바이스 AI를 핵심 전략으로 삼고 경량 오픈소스 모델을 잇달아 공개하고 있다.

카카오가 공개한 모델은 작은 규모에도 한국어와 영어에서 글로벌 수준의 성능을 구현한 것이 특징이다. 유사 크기의 최신 오픈소스 모델과 비교해 한국어·영어·지식·수학·코드 등 주요 벤치마크에서 경쟁력 있는 성능을 기록했다고 카카오는 전했다. 특히 Kanana-2-1.3B-instruct와 함께 개발한 0.9B 모델은 대화와 지식, 코드, 수학, 지시이행, 툴 호출 등 실제 서비스 활용 평가에서도 큐원(Qwen), 젬마(Gemma) 등 동급 글로벌 모델과 유사한 수준의 성능을 보였다.

한국어 특화 토크나이저를 자체 개발해 적용한 점도 특징이다. 토크나이저는 AI가 문장을 처리하기 위해 텍스트를 분할하는 기술로, 한국어에 최적화된 토크나이저를 사용할 수록 연산속도가 빨라지고 비용도 줄어든다. 카카오는 자체 토크나이저를 적용해 기존 대비 한국어 처리 효율을 30% 이상 높였다고 설명했다.

스마트폰과 같이 메모리와 연산 자원이 제한적인 온디바이스 환경에 최적화해 설계됐다는 점도 눈여겨 볼 대목이다. 긴 대화를 처리할 때 메모리 사용량을 줄이기 위해 '슬라이딩 윈도우 어텐션' 구조를 적용했으며, 최대 3만2000토큰 (약 2만4000 단어) 길이의 대화에서도 메모리 사용량을 최대 72.7% 절감하면서 안정적인 성능을 유지하도록 설계했다.
카카오는 이번 모델을 상업적 활용이 가능한 '카나나 오픈 라이선스'로 배포한다. 이에 따라 개발자와 스타트업, 연구기관, 기업 등은 별도 비용 부담 없이 모델을 활용해 AI 서비스를 개발할 수 있다.

카카오 노병석 유니파이드 파운데이션 모델 성과리더는 "에이전틱 AI 시대를 준비하며 클라우드의 대규모 AI와 온디바이스 경량 AI 모두의 중요성을 체감하고 있다"며 "이번 오픈소스 공개 모델들이 더 많은 개발자와 기업의 새로운 AI 서비스 개발로 이어져 국내 AI 생태계 활성화에 기여할 수 있기를 바란다"고 말했다.

[email protected] 조윤주 기자