사장님이 AI 쓰지말래도 77%는 몰래 쓴다…기업 보안 '사각지대'
파수 AI, 국내 기업·기관 담당자 151명 조사
[파이낸셜뉴스] 기업이 생성형 인공지능(AI) 사용을 금지하더라도 임직원들의 개인 계정 AI 활용은 막기 어렵다는 진단이 나왔다. 조직 차원에서 AI 사용을 차단한 경우에도 응답자의 77%가 개인 계정으로 AI를 사용하고 있어, 보안 위협을 줄이기 위해서는 AI 사용 현황에 대한 가시성 확보와 관리체계 강화가 필요하다는 지적이다.
파수 AI는 국내 주요 기업 및 기관의 AI·정보기술(IT)·보안 담당자 151명을 대상으로 진행한 설문조사를 바탕으로 '통제 밖의 지능-국내 조직의 섀도우 AI 사용 실태와 대응 현황' 보고서를 28일 발표했다.
섀도우 AI는 조직의 승인이나 관리 없이 임직원이 업무에 사용하는 생성형 AI를 뜻한다. 조사 결과 조직 내 생성형 AI 사용을 원칙적으로 차단한다고 답한 비율은 15%였다. 하지만 해당 응답 그룹에서도 개인 계정 생성형 AI 사용률은 77%에 달했다. 전체 응답자 중 업무에 개인 계정 AI를 사용하고 있다는 비율은 89%였다.
임직원의 개인 계정 AI 사용 현황을 파악하고 통제하는 조직은 전체의 19%에 그쳤다. 섀도우 AI 사용에 따른 가장 큰 우려로는 △제3자 모델 학습에 내부 핵심 데이터 활용 △개인정보보호법 및 유럽연합 일반개인정보보호법(GDPR) 등 규제 위반 △사용 이력 추적 불가로 사고 대응 곤란 등이 꼽혔다.
섀도우 AI 사용 원인으로는 명확한 사용 정책·가이드라인이 부재하다는 점이 29%로 가장 많았다. 회사 계정·시스템에 사용 이력이 남는 것을 피하고 부족한 사내 AI 성능을 보완하기 위한 것도 주요 원인으로 지목됐다.
보안 위험을 줄이기 위한 방안으로는 안전한 사내 AI 도구 제공이 26%로 가장 많았다. AI 사용 현황에 대한 가시성 확보와 명확한 사용 정책·가이드라인 수립, 프롬프트 입력 단계에서 민감정보를 통제하는 기술 도입 등도 주요 방안으로 꼽혔다.
손종곤 파수 AI 상무는 "이번 조사는 섀도우 AI가 금지만으로는 막기 어렵다는 점을 보여준다. 명확한 정책과 안전한 대안을 제공하고 AI 사용 현황에 대한 가시성을 확보하는 것이 핵심"이라며 "다양한 유출 경로를 종합적으로 관리하고 AI 사용 현황 전반에 가시성을 제공하는 AI 보안 플랫폼을 조만간 선보일 예정"이라고 말했다.
[email protected] 최혜림 기자
