사용자 말투·감정까지 학습하는 초개인화 LLM 가속기
개인정보 유출 없고 초저전력으로 스마트폰서도 구동
ISSCC, 하이라이트 논문선정...내년 제품화
개인정보 유출 없고 초저전력으로 스마트폰서도 구동
ISSCC, 하이라이트 논문선정...내년 제품화
[파이낸셜뉴스] #. 온라인에서 A와 B의 대화가 이어진다. A와 대화하는 B는 대화중 A의 피드백을 수집해 저장한다. A가 좋아하는 것은 무엇인지, A가 자주 사용하는 말투나 습관은 무엇인지도 학습해 기억해둔다. B는 이를 바탕으로 A와 실시간으로 맞춤형 커뮤니케이션을 이어간다.
16일 KAIST(한국과학기술원) 인공지능반도체대학원 유회준 교수 연구팀이 공개한 개인 맞춤형 거대 언어 모델(LLM) 가속기 ‘소울메이트(SoulMate)’ 와 사람 간 대화 시연 모습이다.
유 교수는 "생텍쥐페리 소설 '어린왕자'에서 어린왕자가 여우와 우정을 쌓으며 서로 길들여지는 것에서 영감을 받아 개발하게 됐다"며 "'소울메이트'는 메모리 공유와 피드백 두 가지가 중요하며 이는 개인 특화가 뚜렷하다. 개인의 프라이버시를 완벽히 보호하면서도 언제 어디서나 나를 가장 잘 이해하는 ‘베프(Best Friend)’와 같은 존재가 될 것"이라고 설명했다.
현재 일상적으로 사용하는 챗GPT(ChatGPT)와 같은 LLM이 수많은 질문에 능숙하게 답하지만, 정작 사용자의 사소한 습관이나 이전 대화 맥락등은 알지 못하는 것과는 차이가 있다.
실제 이번 기술은 기억된 대화 내용을 바탕으로 맞춤형 답변을 생성하는 검색증강생성(RAG) 기술과 사용자의 피드백을 즉각 반영해 학습하는 로우 랭크 미세조정(LoRA) 기술을 반도체 내부에 직접 구현했다. 이를 통해 0.2초(216.4ms) 라는 실시간 속도로 사용자에게 응답하며 동시에 학습까지 수행한다. 또 스마트폰 프로세서 소비전력의 500분의 1 수준인 초저전력으로도 복잡한 학습과 추론을 동시에 수행할 수 있어 스마트폰 등 모바일 기기에서도 배터리 걱정없이 구동될 수 있다. 특히 모든 개인 데이터가 외부 서버로 전송되지 않고 기기 내부에서만 처리되는 ‘보안 완결형 AI’ 구조를 구현해 개인정보 유출 우려를 근본적으로 차단했다.
‘소울메이트’ AI반도체는 교원 창업기업인‘(주)온뉴로AI’를 통해 2027년경 제품화할 예정이다. 반려로봇 등 개인 AI 기기에 적용될 것이라는 기대다. 연구팀은 이 기술이 향후 스마트폰, 웨어러블 기기, 차량AI나 반려로봇 등 개인형 AI 디바이스와 같은 차세대 플랫폼과 결합해 개인화 인공지능 서비스 시대를 열 것으로 내다보고 있다.
이번 연구는 홍성연 박사과정 연구원이 제1 저자로 참여했으며 지난 2월 16일부터 미국 샌프란시스코에서 열린 국제고체회로설계학회(ISSCC)에서 ‘하이라이트 논문(Highlight Paper)’으로 선정된 바 있다.jiany@fnnews.com 연지안 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지