서강대 MLLMs의 환각 문제 완화 연구, AAAI 2025 논문 채택

좌측 상단부터 시계 방향으로 최준석 컴퓨터공학과 교수, 박예지 석박통합 학생, 장부루 인공지능학과 교수, 이덕영 학생.(서강대 제공)

(서울=뉴스1) 장성희 기자 = 서강대는 최준석 컴퓨터공학과 교수 연구실 소속 박예지 석박통합 학생과 장부루 인공지능학과 교수 연구실의 이덕영 학생이 수행한 다중 모달 거대언어모델(MLLMs)의 환각 문제 완화 연구가 AAAI 2025 논문으로 채택됐다고 15일 밝혔다.

AAAI는 인공지능 분야에서 세계적으로 권위 있는 학술대회로 BK 우수국제학술대회(인정 IF 4.0)로 등록돼 있다. 올해는 2월 25일부터 3월 4일까지 미국 필라델피아에서 대회가 개최된다.

연구진은 추가 학습 없이 디코딩 과정만으로 환각 문제를 완화하는 대조적 디코딩(Contrastive Decoding) 기법 ConVis를 제안했다. ConVis는 텍스트-이미지 생성 모델이 생성한 캡션으로 이미지를 복원한 뒤, 복원 이미지와 원본 이미지 간의 대조적 확률 분포를 비교해 환각 신호를 억제하는 방식으로 작동된다.

연구진은 ConVis가 AI 모델의 신뢰성과 실용성을 저해하는 환각 문제를 효과적으로 완화할 수 있음을 보였다. 추가적인 데이터 수집이나 복잡한 학습 과정 없이 기존 시스템에 간단히 적용할 수 있다는 점에서 활용 가능성이 클 것으로 기대된다.

학계와 산업계에서도 활용 논의가 이뤄질 것으로 보인다.