알엔딥, AI기술로 ‘아동성착취 불법영상 유포방지’ 기술 개발

"국내 기관과 협조...아동포르노 등 검출 기술 개발 공유"

[파이낸셜뉴스]


최근 N번방을 비롯해 온라인 커뮤니티에 내 ‘딥페이크물’ 유포에 대한 피해가 심각한 가운데 알엔딥의 레드 인공지능(AI)가 관심을 끌고 있다. 레드 AI는 딥페이크 검출 기술을 바탕으로 불법적으로 활용되고 있는 페이크 영상까지 검출 가능해 온라인 커뮤니케이션 내 유포되고 있는 불법 영상에 대응할 수 있어서다.

인공지능(AI) 플랫폼 개발 전문기업 알엔딥은 24일 약 30만장의 성인 노출 사진을 학습시켜 성인물 여부를 확인해 불법콘텐츠 확산을 막을 수 있는 기술을 개발했다고 밝혔다.

알엔딥이 개발중인 딥페이크 검출 기술은 AI 딥러닝 기반으로 구현된 기술로 사진 및 영상 속 얼굴을 자동으로 찾아내 1초내에 페이크 여부를 판단한다.

다양한 데이터 셋을 확보해 인공지능에 학습시켜 정교하게 합성된 사진도 감별해 내는 정확도가 매우 높은 기술이다. 이러한 기술로 사진의 페이크 여부를 쉽게 찾아내 페이크 물로 판별된 컨텐츠의 업로드, 다운로드 및 유포를 원천적으로 막을 수 있다.

현재 알엔딥은 욕설 검출 및 방지 기술의 연내 개발 완료를 목표로 하고 있다. 이 기술은 문장 내 포함된 욕설뿐만 아니라 문맥상 공격성이 표출된 표현 등을 찾아내고 이를 수치화하는 기술이다.

알엔딥에 따르면 레드AI는 인공지능에 설정된 값에 따라 입력된 사진 및 영상의 프레임을 검사해 유해 영상 및 특정 노출부위에 모자이크를 생성하게 된다. 모자이크의 크기, 모양, 투명도 등을 임의로 설정할 수 있으며 특정 부위만 흐릿하게 블러링(Bluring) 처리 또한 가능하다.
또한 영상 내 특정 노출 부위를 정확하게 알아내어 어느정도 노출이 되는 지 분석이 가능하다.

알엔딥 관계자는 “이 기술은 단순 검사 방식보다 검사 속도가 매우 빠르기 때문에 영상의 길이가 길 경우에도 모자이크 생성 시간을 단축할 수 있다”며 "사회적으로 문제가 대두되고 있는 아동포르노 검출에도 활용될 수 있을 것으로 보인다"고 강조했다.

알엔딥은 향후 국내외 기관과의 협조 하에 아동포르노 등을 검출하는 기술을 개발해 공유할 예정이다.

kjw@fnnews.com 강재웅 기자