영상이해 AI 스타트업 파일러, "광고 예산 19.3% 민감 영상에 집행...브랜드 위협"

[파이낸셜뉴스] 영상 플랫폼에 집행되는 광고 예산의 19.3%는 민감 영상에 집행돼 브랜드 안전성을 위협하고 있다는 분석 결과가 나왔다.

영상이해 AI 스타트업 파일러는 ‘AIGC 시대의 AI 슬롭(Slop) 확산 리포트’를 발간하고, 생성형 AI 기술 발전의 이면에 나타난 저품질 콘텐츠의 확산 실태와 그 위험성을 분석했다고 4일 밝혔다.

리포트에 따르면 현재 영상 플랫폼에 집행되는 기업 광고 예산의 19.3%가 ‘AI 슬롭’을 포함한 저품질 콘텐츠 및 민감 영상에 연계되어 쓰이고 있는 것으로 나타났다.

최근 한국이 세계 최대의 AI 슬롭 소비국으로 조사된 만큼 국내 광고 환경의 브랜드 세이프티 확보가 시급한 상황이다.

저품질 유해 콘텐츠는 기업 차원에서도 심각한 비용 손실과 정성적 피해를 초래하고 있다는 설명이다. 광고가 유해 콘텐츠와 연계될 경우 브랜드 신뢰도는 최대 60%까지 감소하며, 구매 의도 역시 절반까지 떨어지는 것으로 분석됐다. 또한 기업 영상 광고 예산의 최대 55%가 이러한 유해 콘텐츠에 노출되어 무의미하게 낭비되고 있는 실정이다.

파일러는 일반 이용자와 기업이 AI 슬롭을 식별할 수 있는 판별 방법도 함께 공개했다. 인물의 관절이나 디테일이 뭉개지는 시각적 결함, 맥락 없는 문구의 반복이나 부족한 인과관계, 출처 없는 정보 등으로 확인할 수 있는 내용적 결함, 지나치게 일관적인 톤과 맥락 없는 컷 전환 등의 반복적 결함이 주요 점검 포인트다.

파일러는 저품질, 유해 콘텐츠를 차단하는 ‘AiD’ 솔루션에 ‘브랜드 민감영상 카테고리’ 기능도 새롭게 선보였다. 이를 통해 기업들은 공통적인 유해 요소 차단은 물론, 각 브랜드의 철학이나 캠페인 성격에 따라 광고 주목도가 낮은 콘텐츠까지 맞춤형으로 선별할 수 있게 된다는 설명이다.

파일러는 독자 개발한 영상이해 AI 모델 ‘안타레스’를 기반으로 하루 250만 건 이상, 누적 60억 건 이상의 영상을 분석하고 있다고 전했다. 영상 이해 기술을 통해 실시간으로 저품질 유해 콘텐츠를 차단하는 솔루션 ‘AiD’는 유해 콘텐츠 노출 빈도를 평균 85% 줄이고 있으며, 낭비되는 예산도 총 예산의 3% 내외 수준으로 절감하는 성과를 거두고 있다.

오재호 파일러 대표는 “생성형 AI의 발전이 창작의 자유를 넓혔지만, 동시에 저품질 AI 슬롭의 범람이라는 새로운 사회적 리스크를 낳았다”며 “단순한 생성 여부 판별을 넘어 영상의 본질과 맥락을 이해할 수 있는 기술력을 바탕으로 기업들이 확신을 갖고 마케팅을 전개할 수 있는 안전한 디지털 광고 인프라를 구축하겠다”고 강조했다.

[e-mail] 주원규 기자