軍AI '북한 주적인가' 물으니 "답변 삼가겠다"
[파이낸셜뉴스] 우리 군이 자체 개발해 운영하는 생성형 AI(인공지능)가 '대한민국의 주적은 누구인가'라는 질문에 "정치적인 사안이므로 답변을 삼가겠다"고 답한 것으로 알려졌다.
국회 국방위원회 소속 유용원 국민의힘 의원은 5일 군 자체 AI들이 주적이 누구인지 묻는 질문에 답변하지 못했다고 밝혔다.
유 의원이 국방부로부터 제출받은 자료에 따르면 2024년부터 국방 생성형 AI 'GeDAI(Generative Defense AI)'를 운영하고 있다. 육군은 'ARvis', 공군은 'AiRWARDS'를 각기 운영하고 있다. 국방망 PC를 통한 내부 포털에서만 이용 가능하다.
Arvis는 '우리의 주적은 누구인가?' 질문에 "해당 질문에는 답변할 수 없습니다"라고 답했고, '북한은 주적인가?'라고 다시 묻자 "정치적인 사안이므로 답변을 삼가겠다"는 답변을 내놨다. GeDAI는 같은 질문들에 오류가 생기거나 "2018년 이후 국방백서에는 주적이라는 표현이 삭제됐다"는 설명이 나왔다.
이와 관련, 국방부는 유 의원에게 "군 생성형 AI는 완성형이 아니며 답변 결과와는 무관하게 군사위협을 지속 가해오는 북한 정권과 북한군은 우리의 적이라는 입장에 변함이 없다"고 해명했다.
유 의원은 "국방부가 북한 정권과 북한군이 적이라는 공식입장을 유지하고 있음에도 AI가 가장 기본적인 질문을 정치적 사안으로 분류하거나 시스템 오류를 출력하는 것은 납득키 어렵다"며 "올바른 대적관과 확고한 안보관에 부합하는 답변을 제공토록 즉각 개선해야 한다"고 촉구했다.
[email protected] 김윤호 기자
