"AI가 만든 허위 문헌 그대로"…공무원 훈련보고서 11건 적발, 훈련비 환수

인사처 최근 3년 국외훈련 보고서 1385건 점검
확인 불가 정보, 이모지 등 AI 부적절 활용 확인
인사처, 전 부처에 생성형 AI 활용 지침 첫 배포

[파이낸셜뉴스] 정부가 최근 3년간 제출된 공무원 국외훈련 결과보고서 1385건을 점검한 결과 11건에서 생성형 인공지능(AI)을 부적절하게 활용한 사례를 적발했다. 챗GPT·제미나이 등 AI가 만들어낸 허위 문헌이나 사실 오류를 검증 없이 보고서에 반영한 사례가 확인되면서 인사혁신처는 해당 교육생에 대해 훈련비 환수 조치에 나서는 한편 전 부처에 AI 활용 지침을 처음 배포하기로 했다.

22일 인사혁신처에 따르면 공무원 훈련 결과보고서 작성 과정에서 활용할 수 있는 '생성형 인공지능 활용 지침'을 전 부처에 배포하고, AI 부적절 활용사례 집중 점검 결과를 공개했다.

이번 지침은 자료 수집이나 번역 등 교육훈련 과정에서 AI 활용이 일상화됐지만, 올바른 사용 기준이 없어 발생할 수 있는 연구윤리 문제를 예방하기 위해 마련됐다.

생성형 AI를 교육훈련과 연구 과정의 보조적 도구로 사용할 수는 있지만, 최종 결과물에 대한 책임은 훈련생 본인에게 있다는 점을 명확히 한 것이 핵심이다.

지침은 AI 활용 과정에서 지켜야 할 기본원칙으로 연구 내용의 진실성 추구, 활용 사실의 투명한 공개, 공정성 유지, 윤리적 활용, 비판적 시각, 개인정보 보호 등을 제시했다. AI가 제시한 내용은 사실관계와 출처를 직접 확인해야 하며, 보고서 작성 과정에서 AI를 활용한 경우 그 사실을 숨기지 않고 밝혀야 한다는 취지다.

인사처는 여러 연구기관과 대학의 유사 지침을 분석하고, AI 연구윤리 관련 전문가 자문을 거쳐 지침을 마련했다. 지침에는 훈련생들의 이해를 돕기 위한 위반사례 예시와 자가 진단용 점검표도 포함됐다.

앞서 인사처는 최근 3년간 제출된 국외훈련 결과보고서 1385건을 대상으로 생성형 AI 부적절 활용 여부를 집중 점검했다.

자가 점검, 소속 부처와 인사처의 단계별 검증, 외부 전문가 심의를 거쳐 최종적으로 11건의 보고서에서 부적절 활용사례가 확인됐다.

적발 사례에는 AI가 사실과 다른 내용을 그럴듯하게 만들어내는 '환각', 확인이 불가능한 문헌정보, 이모지, 특수기호 사용 등이 포함됐다. 인사처는 해당 교육생들에 대해 훈련비 환수 등의 조치를 진행하고 있다.

김성훈 인사처 차장은 "이번 지침을 통해 공무원들이 교육훈련 과정에서 책임 의식을 갖고 인공지능을 올바르게 사용할 수 있게 되길 바란다"며 "공무원 교육훈련이 성과를 창출할 수 있도록 지속적으로 관리를 강화해 나가겠다"고 말했다.

[e-mail] 이보미 기자