외부 사이버 위협으로부터 보호 위한 가이드
AI 생애주기 전 단계, 이용자 보안 수칙 구성
[서울=뉴시스]박은비 기자 = 외부 사이버 위협으로부터 인공지능(AI) 모델·서비스를 보호하기 위한 정부 'AI 보안 안내서'가 마련됐다.
과학기술정보통신부와 한국인터넷진흥원(KISA)은 기업과 국민이 참조할 수 있는 안내서를 발간했다고 10일 밝혔다.
인공지능전환(AX) 시대가 본격화되면서 국민 일상을 넘어 국가 경제·사회 전 영역에서 AI 기반 서비스 도입이 확대되는 추세다. 그동안 정부가 AI 관련 지침과 가이드라인 등을 발간해왔지만 AI 생성물, 추론 과정 등에 대한 신뢰성, 윤리적 활용 관점에서만 다뤄졌다.
이에 이번 안내서는 국내·외 AI 보안 정책 관련 사례 등을 분석하고 관계기관과 업계를 대상으로 의견 수렴을 거쳐 AI 모델 개발자, 서비스 제공자, 이용자들이 보안 측면에서 참고할 수 있게 했다.
AI 보안 안내서는 AI 모델·시스템에 대한 보안 3대 요소(기밀성, 무결성, 가용성)을 기반으로 개발자, 서비스 제공자 대상 AI 생애주기 전 단계 보안 요구사항과 이용자 AI 보안 수칙 등 113개 항목으로 구성됐다.
국제 기준과 가이드라인을 참고해 AI 보안 요구사항을 글로벌 수준으로 정립한 게 특징이다. 이를 통해 국내 모델뿐만 아니라 해외 모델에도 적용할 수 있게 했다.
구체적으로는 모델 개발 단계에서 AI 모델 위험 관리, 데이터 암호화, 실시간 모니터링 등 AI 보안 내재화를 실현하기 위한 보안 요구사항을 제시했다. 또 서비스 제공 단계에서는 서비스 이상 행위 탐지, API·인터페이스 보안, 백업시스템 구축 등 서비스 복원력 관점에서의 보안 요구사항을 담았다.
마지막으로 중요 정보 입력 금지, AI 악용 금지 등 이용자를 위한 구체적인 보안 수칙도 안내했다.
AI 보안 안내서는 과기정통부와 KISA 홈페이지에서 내려받을 수 있다.
임정규 과기정통부 정보보호네트워크정책관은 "이번 AI 보안 안내서는 고도화되는 사이버 위협 속에서 AI를 안전하게 개발·활용할 수 있게 하는 중요한 이정표가 될 것"이라며 "AI에 대한 새로운 보안 위협을 모니터링해서 반영하는 등 보안 안내서를 지속 업데이트해나갈 예정"이라고 말했다.
☞공감언론 뉴시스 silverline@newsis.com <저작권자ⓒ 공감언론 뉴시스통신사. 무단전재-재배포 금지.>
저작권자ⓒ 공감언론 뉴시스통신사. 무단전재-재배포 금지