"국내 기관과 협조...아동포르노 등 검출 기술 개발 공유"
[파이낸셜뉴스]
최근 N번방을 비롯해 온라인 커뮤니티에 내 ‘딥페이크물’ 유포에 대한 피해가 심각한 가운데 알엔딥의 레드 인공지능(AI)가 관심을 끌고 있다. 레드 AI는 딥페이크 검출 기술을 바탕으로 불법적으로 활용되고 있는 페이크 영상까지 검출 가능해 온라인 커뮤니케이션 내 유포되고 있는 불법 영상에 대응할 수 있어서다.
인공지능(AI) 플랫폼 개발 전문기업 알엔딥은 24일 약 30만장의 성인 노출 사진을 학습시켜 성인물 여부를 확인해 불법콘텐츠 확산을 막을 수 있는 기술을 개발했다고 밝혔다.
알엔딥이 개발중인 딥페이크 검출 기술은 AI 딥러닝 기반으로 구현된 기술로 사진 및 영상 속 얼굴을 자동으로 찾아내 1초내에 페이크 여부를 판단한다.
다양한 데이터 셋을 확보해 인공지능에 학습시켜 정교하게 합성된 사진도 감별해 내는 정확도가 매우 높은 기술이다.
현재 알엔딥은 욕설 검출 및 방지 기술의 연내 개발 완료를 목표로 하고 있다. 이 기술은 문장 내 포함된 욕설뿐만 아니라 문맥상 공격성이 표출된 표현 등을 찾아내고 이를 수치화하는 기술이다.
알엔딥에 따르면 레드AI는 인공지능에 설정된 값에 따라 입력된 사진 및 영상의 프레임을 검사해 유해 영상 및 특정 노출부위에 모자이크를 생성하게 된다. 모자이크의 크기, 모양, 투명도 등을 임의로 설정할 수 있으며 특정 부위만 흐릿하게 블러링(Bluring) 처리 또한 가능하다. 또한 영상 내 특정 노출 부위를 정확하게 알아내어 어느정도 노출이 되는 지 분석이 가능하다.
알엔딥 관계자는 “이 기술은 단순 검사 방식보다 검사 속도가 매우 빠르기 때문에 영상의 길이가 길 경우에도 모자이크 생성 시간을 단축할 수 있다”며 "사회적으로 문제가 대두되고 있는 아동포르노 검출에도 활용될 수 있을 것으로 보인다"고 강조했다.
알엔딥은 향후 국내외 기관과의 협조 하에 아동포르노 등을 검출하는 기술을 개발해 공유할 예정이다.
kjw@fnnews.com 강재웅 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지