최민희 "AI 워터마크, 사람이 인식할 수 있도록 의무화해야"

국회 과학기술정보방송통신위원회 위원장인 최민희 더불어민주당 의원이 인공지능(AI) 기본법에서 워터마크 표시에 대해 사람이 인식할 수 있는 수준으로 의무화할 것을 촉구했다.

최 의원은 13일 국회 과방위 국정감사에서 “기계가 아닌 사람이 보기에 ‘이것은 AI구나’ 알게 해줘야 한다”며 이 같이 말했다.

최 의원은 AI 기본법 시행령에서 워터마크 표시에 대해 묻자 류제명 과기정통부 2차관은 “워터마크를 표시하도록 했다”며 “그런데 기술적으로 업계 부담을 최소화하고 방향, 소비자를 보호하는 점을 고려해 기준을 세웠다”고 답했다.

최 의원은 그 기준을 기계가 판독할 수 있도록 했다는 점을 거론하면서 “그게 말이 되나. 사람이 피해를 보면 사람이 판독할 수 있어야 한다”며 “규제 완화 동의하지만 이건 재고해야 한다”고 강조했다.

앞서 배경훈 부총리 겸 과기정통부 장관은 이날 국정감사 현장에서 자신을 소재로 한 딥페이크 동영상이 재생된 것에 대해 유감을 표하기도 했다. 김장겸 국민의힘 의원은 질의 중 이춘석 의원이 배 부총리와 만남 자리를 갖는 딥페이크 동영상을 보여줬다. 이 의원은 차명으로 AI 관련 주식을 투자한 혐의를 받고 있다.

이와 관련해 최 의원은 배 부총리 겸 장관에게 “아까 그 페이크에 대해 가짜임이 명확히 알 수 있도록 표시해 달라는 것 아닌가”라고 질의하자 배 부총리 겸 장관이 “맞다”고 했다.

최 의원은 “아무리 업계가 (규제 완화) 요구해도 안 되는 건 안 되는 것”이라며 “AI 투명성 부분에 대해 좀 더 깊이 고민해 주시기 바란다. 이 요구는 반드시 들어줘야 한다”고 목소리를 높였다. 이에 류 차관은 “검토하겠다”고 했다.

[e-mail] 구자윤 기자