딥페이크 가려낸다...유튜브 "AI로 만든 영상, 자동 라벨링"[글로벌AI브리핑]

[파이낸셜뉴스] 유튜브가 인공지능(AI)으로 만들어진 영상을 자동으로 감지해 라벨을 부착하기로 했다. AI로 생성한 딥페이크 영상을 자체 기술로 식별해내겠다는 것이다.

유튜브는 지난 2024년부터 AI 생성 영상에 'AI'라는 라벨을 붙여왔지만, 그동안은 창작자가 스스로 신고하는 방식이었다. 그러나 앞으로는 유튜브가 자체적으로 AI 생성 영상을 찾아내 AI 투명성을 강화하겠다고 나섰다.

27일(현지시간) 유튜브는 공식 블로그를 통해 "창작자가 AI 사용 여부를 명시하지 않더라도, 유튜브 시스템이 상당한 포토리얼리스틱 AI 사용을 감지하면 자동으로 라벨을 적용할 것"이라고 밝혔다.

유튜브가 인공지능(AI)으로 만들어진 영상을 자동으로 감지해 라벨을 부착하기로 했다. AI로 생성한 딥페이크 영상을 자체 기술로 식별해내겠다는 것이다. (출처=연합뉴스)

'AI'라벨의 라벨 위치도 개선된다. 그동안 'AI' 라벨이 설명란 아래쪽에 부착돼 있어 사용자가 별도로 설명을 열어봐야 하는 등 눈에 띄지 않는다는 지적이 있었다.

앞으로는 일반 동영상의 경우 플레이어 바로 아래 눈에 띄는 위치에 'AI'라벨이 표시된다. 숏츠 영상은 영상 화면 위에 오버레이 형태로 노출된다. 유튜브는 "라벨을 전면에 배치해 시청자가 한눈에 콘텐츠의 성격을 파악할 수 있게 했다"고 설명했다.

AI로 만들지 읺은 영상에 'AI'라벨이 잘못 부착된 경우 창작자는 유튜브 스튜디오를 통해 정정을 요청할 수 있다.

그러나 유튜브 자체 AI 영상 도구인 비오(Veo)나 드림스크린(Dream Screen)으로 제작된 콘텐츠는 'AI'라벨이 영구적으로 유지된다.

콘텐츠 출처증명(C2PA) 메타데이터 안에 AI 생성 콘텐츠라는 표시가 붙은 경우에도 라벨은 유지된다.

유튜브는 "라벨 부착이 알고리즘 추천이나 광고 수익에는 영향을 주지 않는다"고 명시했다.

유튜브의 이번 조치는 구글이 AI 영상 생성 도구 옴니(Omni)를 공개하는 등 AI 영상 생성이 일반화되는 가운데, 딥페이크 등 AI 콘텐츠로 인한 사회적 우려가 확산되는데 대한 플랫폼 차원의 대응책이라는 점에서 관심이 집중된다.

[e-mail] 이구순 기자