"AI 활용 테러 예방, 인권침해 위험도"…경찰대학 연구 국제학술지 게재

조정혜 경위, AI 대테러 전략 효과·인권 위험 분석
무차별 감시·알고리즘 편향 우려…독립적 감시체계 제안

[파이낸셜뉴스] 인공지능(AI)을 활용한 테러 예방 활동이 확대되는 가운데 무분별한 정보 수집과 알고리즘의 편향이 인권침해는 물론 대테러 정책의 실효성까지 떨어뜨릴 수 있다는 연구 결과가 나왔다. AI 기술의 활용 범위를 명확히 규정하고 독립적인 감시체계를 마련해야 한다는 제언도 제시됐다.

경찰대학 치안정책연구소는 조정혜 경위가 AI 기반 예방적 대테러 전략의 효과와 인권침해 가능성을 분석한 논문을 스코퍼스(SCOPUS) 등재 국제학술지 'Security and Human Rights'에 게재했다고 15일 밝혔다.

논문 제목은 'AI 시대의 예방적 대테러: 전략적 효과성과 인권침해 위험'이다. 온라인 공간을 중심으로 테러 위협이 변화하면서 각국이 AI를 활용한 사전 대응에 나서는 상황을 살펴보고, 이러한 방식이 국가안보와 인권 보호에 미치는 영향을 분석했다.

연구에서는 AI 기반 대테러 활동에 수반될 수 있는 인권 위험을 크게 세 가지로 구분했다. 대규모 정보 수집과 감시에 따른 사생활 침해, 알고리즘 편향에 따른 특정 집단의 차별적 표적화, AI 판단 과정의 불투명성으로 인한 적법절차 훼손이다.

조 경위는 유엔 인권최고대표사무소(OHCHR)의 원칙을 분석 기준으로 삼아 유럽연합(EU)의 인공지능법(AI Act)과 유럽안보협력기구(OSCE)의 관련 규범을 검토했다.

연구는 광범위한 감시와 불명확한 판단 기준이 시민의 신뢰를 떨어뜨릴 수 있다고 지적했다. 알고리즘의 예측이 빗나가거나 정상적인 활동을 위험 신호로 잘못 판단하면 한정된 치안 인력이 비효율적으로 배치될 가능성도 있다는 설명이다.

특정 집단을 대상으로 과도하게 권리를 제한할 경우 사회적 소외와 반발을 심화시키고, 장기적으로는 급진화 위험을 높일 수 있다는 점도 짚었다.

이에 따라 연구는 인권 보호를 대테러 활동의 효율성을 저해하는 제약으로만 볼 것이 아니라, 정책의 효과와 지속가능성을 좌우하는 핵심 조건으로 고려해야 한다고 강조했다.

AI 기반 대테러 활동의 법적·제도적 기반을 강화하기 위한 과제도 제안했다. 구체적으로 명확한 법적 근거를 마련하고 정보 수집과 분석 범위를 필요한 최소 수준으로 제한해야 한다고 봤다.

기본권 제한의 필요성과 비례성을 지속적으로 평가하는 한편 알고리즘의 투명성과 판단 과정에 대한 설명 가능성을 확보해야 한다는 의견도 제시했다. 책임성을 강화하고 독립적인 감시체계를 구축하는 방안도 포함됐다.

연구는 AI를 이용한 온라인 극단주의 콘텐츠 분석과 급진화 징후 탐색 등 예방적 대테러 활동의 활용 가능성 자체를 부정하지는 않았다. 다만 기술적 효율성과 인권 보호가 함께 작동하려면 법적 정당성과 시민의 신뢰, 민주적 통제체계를 갖춰야 한다는 점을 내세웠다.

논문이 게재된 'Security and Human Rights'는 네덜란드 헬싱키위원회의 후원 아래 1990년 창간된 국제학술지다. 유럽안보협력기구의 활동 및 원칙과 관련된 주제를 다루며 안보 위협 속에서 인권을 보호하고 증진하기 위한 논의를 다룬다.
조 경위는 지난 2024년 국가공무원인재개발원이 주관한 제42회 공공인적자원개발 경연(공공HRD콘테스트) 연구개발 분야에서 1위를 차지한 바 있다.

한편 경찰대학 부설 치안정책연구소는 1980년 개소해 2015년 확대·개편됐다. 현재 기획운영과와 공공안전연구부·과학수사연구부, 8개 연구실·연구센터로 구성돼 있다.

[email protected] 김예지 기자