AI, IP 바꾸며 사람인 척 하는데… 검색조작 책임은 플랫폼 몫?

최근 발의된 정보통신망법 개정안
매크로 활용 순위·후기 조작 금지
패턴 모방 수법에 차단 어려운데
사업자에 과도한 방지 의무 우려
과기정통부 "신중한 검토 필요"

인공지능(AI) 이용자 보호를 위한 규제 입법이 확대되면서 사업자의 책임 범위와 처벌 기준을 둘러싼 논란이 커지고 있다. 검색·후기 조작과 청소년의 챗봇 과몰입 등 부작용을 막겠다는 취지지만, 기술적으로 차단하기 어려운 행위까지 사업자에게 방지 의무를 부과하면서 규제의 실효성에 의문이 제기된다. 직접적인 위법 행위자와 간접 가담자 간 처벌의 형평성 문제도 불거지면서 입법의 적정성이 쟁점으로 떠올랐다.

■조작 막겠다지만…처벌 형평성 논란

1일 국회와 관련 업계에 따르면 박정훈 국민의힘 의원이 최근 발의한 정보통신망법 개정안은 매크로 등 자동화 프로그램을 이용한 검색 순위·상품 후기·조회수 조작을 금지하고, 관련 행위의 알선·중개와 프로그램·계정 유통까지 규제하도록 했다. 플랫폼 사업자에게도 부정 조작 방지 의무를 부과한다.

문제는 처벌 기준과 사업자의 책임 범위다. 국회 과학기술정보방송통신위원회 수석전문위원실은 직접 조작자와 간접 가담자 간 처벌의 형평성을 지적했다. 직접 조작자에게 업무방해죄를 적용하려면 범죄 성립 요건을 입증해야 하지만, 간접 가담자에 대한 처벌 조항에는 구체적인 피해 발생이 요건으로 명시돼 있지 않다. 직접 조작자는 처벌받지 않고 이를 도운 사람만 처벌받거나, 실제 피해 없이 부당한 이익을 얻으려는 목적만으로 처벌받을 수 있다는 우려다.

플랫폼 사업자에게 부과하는 방지 의무도 범위가 불명확하다. 어떤 조작 행위를 어느 수준까지 차단해야 하는지 구체적인 기준이 없어 법적 분쟁으로 이어질 가능성이 있다. 기술적으로 부정 조작을 사전에 차단할 수 있는지도 관건이다.

과학기술정보통신부 역시 신중한 검토가 필요하다는 의견을 냈다. AI가 사람의 입력 패턴을 모방하거나 접속 IP를 수시로 변경하는 등 조작 수법이 정교해져 사전 차단이 어렵다는 이유에서다. 기존 법률에도 이용자 보호 의무가 규정돼 있는 만큼 신설 규제와의 관계를 명확히 해야 한다는 입장이다.

■청소년 대상 AI 챗봇 규제도 본격화

청소년의 AI 챗봇 이용에 대한 규제도 확대되고 있다. 조인철 더불어민주당 의원이 발의한 정보통신망법 개정안은 대화형 정보통신서비스와 생성형 AI 사업자에게 아동·청소년 보호 의무를 부과하는 내용을 담았다. AI 챗봇에 대한 정서적 의존과 자해·자살 관련 유해 대화, 부적절한 성적 콘텐츠 노출 등을 예방하기 위한 취지다. 국내 사업자들도 보호 조치를 강화하고 있다. 뤼튼테크놀로지스와 스캐터랩 등은 청소년 이용 시간 제한과 연령 확인, 유해 콘텐츠 차단 등 자체적인 안전장치를 도입하고 있다.

글로벌 시장도 흐름은 비슷하다. 미국 뉴욕주는 미성년자의 AI 챗봇 이용에 대한 보호 조치를 법제화했으며, 캘리포니아주 역시 AI 챗봇 사업자에게 아동 안전성 평가와 위험 완화 조치 등을 요구하는 법률을 마련했다. 미국 연방거래위원회(FTC)는 AI로 생성한 허위 소비자 후기와 가짜 팔로워·조회수 거래 등을 금지하는 규정을 시행하고 있다.

다만 청소년 보호를 위한 안전장치와 검색 조작 방지 의무는 규제 대상과 기술적 통제 방식이 다르다. AI 챗봇 사업자는 이용 시간이나 유해 응답을 관리할 수 있지만, 외부 이용자가 자동화 프로그램을 활용해 검색·후기 등을 조작하는 행위까지 플랫폼이 사전에 완전히 차단하기는 어렵다. 사업자의 통제 가능성과 실제 이행할 수 있는 조치를 구분해 규제 기준을 마련해야 한다는 지적이 나오는 배경이다.

업계 관계자는 "정부도 사업자에게 책임을 부과하는 데 그치지 말고 기술적으로 실현 가능한 기준을 설계하고 이행 여부를 합리적으로 관리·감독할 책임이 있다"고 말했다.

[email protected] 장민권 기자