'위험 구역선 신중하게'… 서울시립대 학부생, 세계 최고 AI 학회 논문 발표
고상기 교수팀, 위험도 따라 판단 주기 조절하는 'RARe' 개발
[파이낸셜뉴스] 서울시립대학교 인공지능학과 학부연구생들이 주도한 AI 안전 제어 기술 연구 논문이 세계 최고 권위 학회에서 성과를 인정받았다.
서울시립대는 인공지능학과 고상기 교수 연구팀의 연구 논문이 인공지능 분야 최고 권위 학회인 신경정보처리시스템학회(NeurIPS 2026) 메인 트랙에 채택됐다고 7일 밝혔다. 올해 NeurIPS 메인 트랙에는 3만여편의 논문이 제출됐으며, 전체의 25.7%에 해당하는 논문만 엄선돼 채택됐다.
이번 연구는 인공지능이 스스로 학습하는 강화학습 과정에서 안전성을 높이는 기술을 다뤘다. 기존 강화학습 AI는 처리 속도를 높이기 위해 한 번 선택한 행동을 일정 시간 동안 그대로 반복하는 방식을 활용해 왔다. 하지만 이 방식은 AI의 판단이 완전하지 않은 학습 초기에 낭떠러지나 장애물 같은 위험 구역 근처에서도 이전 행동을 무작정 길게 반복해 사고를 유발하는 한계가 있었다.
연구팀은 상황의 위험도에 따라 행동을 반복하는 길이를 스스로 조정하는 기술인 'RARe'를 개발했다. 안전하고 평탄한 구역에서는 같은 행동을 오래 유지해 학습과 판단 속도를 높이고, 위험 구역에 가까워지면 행동 반복 주기를 짧게 줄여 정밀하게 상황을 제어하도록 만든 것이다.
실제 테스트 결과, 연구팀이 제안한 기술은 기존 AI 제어 방식보다 정확하게 위험을 회피하면서도 높은 학습 효율을 보였다.
이번 연구는 고상기 교수의 지도 아래 학부연구생인 박현우 학생(제1저자)과 엄준혁 학생(제2저자), 석사과정 성백륜 학생(공동저자)이 함께 새로운 아이디어를 제안하고 실험으로 검증한 학생 주도 연구다. 연구팀은 이번에 개발된 AI 기술이 향후 자율주행차의 위험 대처 능력을 높이거나 산업용 로봇의 안전한 작업 제어 등 고도의 안전성이 요구되는 AI 분야에 적용될 수 있을 것으로 기대하고 있다.
[email protected] 김만기 기자
