네이버에 '딥페이크' 검색하면 '유의' 문구 뜬다

생성형 AI, 딥페이크 등으로 인한 피해 방지 안내

네이버 딥페이크 관련 공지. 네이버 제공

[파이낸셜뉴스] 네이버가 생성형 인공지능(AI), 딥페이크 등으로 인해 발생할 수 있는 피해에 대한 방지책을 발표했다. 오는 4월 총선을 앞두고 허위 뉴스 유포 등을 방지하기 위함이다. 딥페이크 관련 검색어를 입력할 경우 기술 활용에 대한 주의를 당부하는 문구를 제공하는 등 구체적인 조치에 나설 계획이다.

28일 네이버는 공식 블로그를 통해 이 같은 내용이 담긴 피해 방지 정책을 발표했다.

우선 이날부터 검색창에 딥페이크 관련 검색어를 입력할 경우 딥페이크 기술 활용에 대한 주의를 당부하는 안내 문구가 뜬다. 검색어는 딥페이크를 부적절하게 사용하거나 관련 정보를 찾고자 하는 의도가 포함된 검색어를 대상으로 한다.

검색 이용자가 정보를 소비하는 과정에서 딥페이크 기술의 악용 사례에 대해 경각심을 가질 수 있도록 하는 것이 목표다.

피해 사례 신고 창구도 마련했다. 신고 창구를 통해 딥페이크 악용 사례로 인한 피해 유형이나 피해 신고 방법 등을 안내하는 도움말을 제공하고, 이용자가 피해에 대응할 수 있게 한다.

또 블로그, 카페 등에서 동영상 등을 이용한 게시물을 작성할 때 새로 시행된 공직선거법을 미처 인지하지 못해 가이드라인에 저촉되지 않도록 딥페이크 관련 안내 문구를 제공해 사용자가 관련 내용을 확인하고 주의할 수 있도록 한다.

아울러 네이버는 4월 총선을 앞두고 자사 AI나 뉴스 서비스를 점검 중이다. 생성형 AI 서비스인 클로바 X와 큐:(CUE:) 서비스를 선거와 관련된 정보 요청이나 예측 등을 위해 사용하는 경우 생성형 AI의 기술적 한계를 명확히 하고 제공이 어렵다는 점을 안내할 예정이다. 또 다양한 형태의 사용자 질문이나 요청 형태로 인해 일부 관련 정보가 제공될 수 있는 점을 고려해 선거 기간 동안 클로바 X와 큐: 서비스 대화창 하단에 선거 관련 사용자 주의 안내 문구를 제공한다.

네이버는 뉴스 댓글 집중 모니터링 기간 동안 전담 담당자를 확대하는 등 24시간 모니터링을 강화하고, 각 부서 핫라인을 구축해 이슈 발생시 빠르게 대응해 나갈 방침이다.

한편 주요 플랫폼들은 자체적으로 딥페이크 등 기술 악용 사례에 대해 점검하고, 대책을 내놓을 예정이다. 앞서 네이버, 카카오, 구글코리아, 메타, SK커뮤니케이션즈, 틱톡 등은 자율협의체를 구성해 악의적으로 제작된 딥페이크 콘텐츠에 대한 공동 대응에 나설 계획이라고 밝힌 바 있다.

이들은 악의적 선거 딥페이크 관련 위험 완화를 위한 노력, 악의적 선거 딥페이크 유포 방지를 위한 기업 간 논의, 외부 전문가 그룹과의 지속적 논의 등 대응 방안을 마련해 빠른 시일 내에 발표할 예정이다.

[e-mail] 임수빈 기자