한국어 검색 성능 높였다…카카오, AI 모델 2종 공개

30억·13억 파라미터 임베딩 모델 오픈소스 제공

[파이낸셜뉴스] 카카오가 한국어 검색 성능과 처리 효율을 높인 임베딩 모델 2종을 오픈소스로 공개했다. 이용자의 질문과 과거 대화, 각종 정보 사이의 의미적 연관성을 찾아내는 기술이다. 정확한 단어를 입력하지 않아도 맥락에 맞는 정보를 검색할 수 있도록 돕는 것으로, 개인화 인공지능(AI) 에이전트 기술 고도화에 속도를 내는 모양새다.

29일 업계에 따르면 카카오는 임베딩 모델 '카나나-2-임베딩' 2종을 개발자 플랫폼 허깅페이스에 선보였다. 이번에 공개한 모델은 30억 파라미터 규모의 '카나나-2-3B-임베딩'과 13억 파라미터 규모의 '카나나-2-1.3B-임베딩'이다. 지난 7월 카나나 소형 언어모델(SLM) 4종을 공개한 데 이어 자체 언어모델 기반 기술을 확장했다.

임베딩은 텍스트의 의미를 수치로 변환해 관련 정보를 찾는 기술이다. 단순히 입력한 단어가 일치하는 정보를 검색하는 대신 질문과 정보의 의미적 유사성을 바탕으로 필요한 내용을 찾아낸다. 예를 들어 이용자가 과거 대화에서 언급한 식당을 다시 찾을 때 정확한 상호명을 기억하지 못하더라도 '조용한 곳', '대화하기 좋은 식당' 등 의미가 비슷한 표현을 통해 관련 정보를 검색할 수 있다. AI 에이전트가 이용자의 과거 대화와 맥락을 활용해 개인화된 답변을 제공하는 데 필요한 기반 기술이다.

카카오에 따르면 이번 모델 2종은 유사 규모의 공개 임베딩 모델인 '라마-네모트론-임베드-1B-v2'와 '큐웬3-임베딩-4B' 등을 비교 대상으로 한 평가에서 한국어 성능이 가장 높았고, 영어 성능은 비슷한 수준을 보였다. 큐웬3-임베딩과 비교해 추론 효율도 높았다. 기존 카나나 임베딩 모델보다 검색 성능을 개선했으며, 메모리 사용량과 추론 속도 측면에서도 수십 배 이상의 효율 향상을 확인했다고 회사 측은 설명했다.

카카오는 자체 소형 언어모델인 '카나나-2-SLM'의 언어 이해 능력을 정보 검색에 활용하도록 학습해 30억파라미터 모델을 개발했다. 이후 큰 모델이 학습한 지식을 작은 모델에 전달하는 지식 증류 기법을 통해 13억파라미터 모델을 구축했다.

임베딩 벡터에 사용하는 숫자의 개수를 조절하는 MRL 기법도 적용됐다. 이를 통해 개발자는 검색 정확도와 저장 공간, 처리 속도 등 서비스 특성에 따라 벡터 크기를 선택할 수 있다.

두 모델에는 연구·개발뿐 아니라 라이선스 조건에 따라 상업적으로도 활용할 수 있는 '카나나 오픈 라이선스'가 적용됐다. 국내외 연구자와 기업은 모델을 직접 검증하고 의미 기반 검색이나 개인화 AI 에이전트 개발에 활용할 수 있다.

카카오는 앞으로 더 큰 언어모델을 기반으로 임베딩 학습과 지식 증류 연구를 이어가며 검색 성능과 활용 효율을 함께 높인 모델을 개발할 계획이다.

노병석 카카오 유니파이드 파운데이션 모델 성과리더는 "AI 에이전트가 이용자에게 필요한 도움을 제공하려면 질문에 답하는 능력과 함께 흩어진 정보 속에서 필요한 정보를 정확히 찾아내는 기술이 중요하다"며 "이번 공개를 통해 연구자와 개발자들이 한국어에 강점을 가진 임베딩 기술을 다양한 서비스에 활용할 수 있도록 돕고, 검색 성능과 효율을 함께 높이는 연구를 이어갈 것"이라고 말했다.

[email protected] 최혜림 기자