AI로 딥페이크 성범죄물 찾고 지운다…정부 ,삭제·차단 공동대응
행안부·성평등가족부·방미통위, 기술 협력 업무 협약 체결
국과수 협업 'AI 딥페이크 탐지·분석모델' 관계기관 공유
[파이낸셜뉴스] 정부가 생성형 인공지능(AI)을 악용한 딥페이크 성범죄에 대응하기 위해 AI 탐지 기술을 피해영상물 삭제·차단과 피해자 보호 절차에 본격 연계한다. 행정안전부가 국립과학수사연구원과 협업해 개발한 'AI 딥페이크 탐지·분석모델'을 관계기관이 함께 활용하도록 해 온라인상에서 빠르게 퍼지는 피해영상물에 대한 초동 대응 속도를 높이겠다는 취지다.
25일 행정안전부에 따르면 성평등가족부, 방송미디어통신위원회는 정부서울청사에서 '딥페이크 성범죄 대응 기술협력을 위한 업무협약'을 체결했다. 협약식에는 김민재 행안부 차관, 정구창 성평등가족부 차관, 고민수 방송미디어통신위원회 상임위원 등이 참석했다.
이번 협약은 생성형 AI 기술 발전으로 딥페이크 성범죄물이 더 정교해지고, 온라인 플랫폼을 통해 짧은 시간 안에 확산되는 데 대응하기 위해 마련됐다. 피해영상물이 한 번 유포되면 삭제하더라도 재유포되거나 일부 변형돼 다시 퍼지는 경우가 많아, 탐지·분석부터 삭제·차단, 피해자 지원까지 이어지는 대응 체계가 중요해졌다는 판단이다.
협약에 따라 세 기관은 AI 딥페이크 탐지·분석모델 공유와 활용, 피해영상물 탐지·삭제·차단 절차 연계, 2차 피해 방지를 위한 정보보호·보안조치 등에 협력한다.
행안부는 AI 기술 발전 속도에 맞춰 탐지·분석모델을 고도화하고, 딥페이크 성범죄 대응 현장에서 활용할 수 있도록 관계기관에 제공한다. 이 모델은 피해영상물이나 의심 콘텐츠가 접수됐을 때 1차 탐지·분석에 활용된다. 분석 결과는 이후 삭제·차단 요청과 피해자 지원 절차로 이어진다.
성평등가족부는 기존에 활용 중인 민간 딥 페이크 탐지 모델과 이번 AI 탐지·분석모델을 병행해 피해 영상물과 의심 콘텐츠 분석·삭제 업무에 활용한다. 또 피해영상물 처리와 보안 관련 업무기준을 마련해 피해자 보호와 2차 피해 방지 체계를 강화할 계획이다.
방송미디어통신위원회는 딥페이크 성범죄 의심 콘텐츠의 온라인 유통에 대응하고, 플랫폼 사업자와의 삭제·차단 협력 체계를 강화한다. 재유포되거나 변형된 콘텐츠에 대응하기 위해 관계기관 간 정보 공유도 확대하기로 했다.
정부는 피해영상물 처리 과정에서 개인정보와 피해자 인권 보호를 최우선으로 고려하고, 불필요한 복제·공유·보관을 제한하는 등 보안 관리 기준을 강화할 방침이다.
윤호중 행안부 장관은 "딥페이크 성범죄는 피해 확산 속도가 빠르고, 재유포·변형으로 인한 2차 피해 우려가 큰 만큼 관계기관 간 신속한 공동 대응이 중요하다"며 "AI 딥페이크 탐지·분석모델을 관계기관과 공유하고, 탐지·분석부터 삭제·차단, 피해자 보호까지 이어지는 기술 기반 협력 체계를 구축해 나가겠다"고 밝혔다.
spring@fnnews.com 이보미 기자
