(서울=뉴스1) 나연준 기자 = 정부가 외부 사이버 위협으로부터 인공지능(AI) 모델·서비스를 보호하기 위해 중요 정보 입력금지 등 기업과 국민이 참조할 수 있는 구체적인 보안 수칙을 발표했다.
과학기술정보통신부와 한국인터넷진흥원(KISA)은 10일 '인공지능 보안 안내서'를 공개했다.
과기정통부는 산·학·연 전문가들과 함께 국내‧외 AI 보안 정책 관련 사례 등을 분석하고 관계기관·업계 대상으로 의견 수렴을 거쳐 AI 모델 개발자, 서비스 제공자, 이용자 등이 보안 측면에서 참고할 수 있는 '인공지능 보안 안내서'를 마련했다.
안내서는 보안 3대 요소(기밀성, 무결성, 가용성)를 기반으로 개발자, 서비스 제공자 대상 인공지능 생애주기 전 단계 보안 요구사항, 이용자의 인공지능 보안 수칙 등 총 113개의 항목으로 구성됐다.
모델 개발 단계에서 AI 모델 위험 관리, 데이터 암호화, 실시간 모니터링 등 인공지능 보안 내재화를 실현하기 위한 보안 요구사항을 제시했다.
또한 서비스 제공 단계에서는 서비스 이상 행위 탐지, API·인터페이스 보안, 백업시스템 구축 등 서비스 복원력 관점에서 보안 요구사항을 담았다.
나아가 중요 정보 입력금지, 인공지능 악용 금지 등 이용자를 위한 구체적인 보안 수칙도 포함했다.
안내서는 국제 기준 및 가이드라인 등을 참고해 AI 보안 요구사항을 글로벌 수준으로 정립해 해외 모델에도 적용할 수 있도록 범용성과 글로벌 규범 간 호환성도 확보했다.
임정규 과기정통부 정보보호네트워크정책관은 "인공지능 보안 안내서는 고도화되는 사이버 위협 속에서 인공지능을 안전하게 개발·활용할 수 있도록 하는 중요한 이정표가 될 것"이라며 "새로운 보안 위협을 모니터링해 반영하는 등 보안 안내서를 지속 업데이트 해나갈 예정"이라고 말했다.
인공지능 보안 안내서는 과기정통부, KISA 홈페이지에서 무료로 내려받아 사용할 수 있다.
※ 저작권자 ⓒ 뉴스1코리아, 무단전재-재배포 금지