[단독] AI 챗봇 과몰입 막을 안전장치 필요…입조처, AI기본법 조항 신설 제안

입법조사처, AI기본법 제32조의2 안전조항 신설 제안
생성형 AI 위험도 따라 3단계 차등 안전관리 의무 제시
이주희 의원, 청소년 과몰입 방지 정통망법 개정안 발의

[파이낸셜뉴스] 청소년의 인공지능(AI) 챗봇 과몰입과 정서적 의존에 대한 우려가 커지는 가운데 국회입법조사처가 AI기본법에 생성형 AI 안전관리 의무를 규정한 별도 조항을 신설할 것을 제안했다. 프런티어급 최첨단 AI에 한정된 현행 안전규율을 보완해 일반 생성형 AI 사업자에도 위험평가와 안전조치 의무를 부과하자는 것이다. 생성형 AI 확산 속도를 따라가지 못하는 현행 안전관리 체계에 대한 입법적 보완 필요성이 본격 제기된 셈이다.

15일 국회 과학기술정보방송통신위원회 소속 이주희 더불어민주당 의원이 국회입법조사처로부터 제출받은 '생성형 AI의 안전규율 도입 방향' 회답서에 따르면 입법조사처는 AI기본법에 제32조의2를 신설해 생성형 AI 사업자의 안전관리 의무를 별도로 규정하는 방안을 제안했다.

핵심은 현행 AI기본법의 안전관리 사각지대를 해소하는 것이다. 현행 AI기본법 제32조와 시행령 제24조는 △누적 연산량 10²⁶ FLOPs 이상 △현존 최첨단 AI 기술 적용 △중대한 위험 수반 등 세 가지 요건을 모두 충족하는 AI에 한해 안전성 확보 의무를 부과한다. 사실상 대규모·최첨단 프런티어 AI를 대상으로 한 규정이다.

이 때문에 해당 요건을 충족하지 않는 일반 생성형 AI 서비스에는 제32조에 따른 안전성 확보 의무가 적용되지 않는다.

입법조사처는 기존 제32조의 적용 요건을 완화하는 방식보다 별도 조항 신설이 적절하다고 판단했다. 프런티어 모델을 대상으로 한 제32조의 규율 범위를 확대하면 당초 입법 취지가 흐려질 수 있다는 이유에서다. 별도 조항에 사업자의 사전 위험평가·완화와 안전조치 이행·공개 의무를 규정하고, 세부 기준은 시행령 등에 위임하도록 제안했다. 정부의 사실조사·시정명령을 규정한 제40조와 연계해 실효성을 확보할 필요성도 강조했다.

안전관리 의무는 서비스 위험도에 따라 3단계로 차등 적용하는 방안을 제시했다. 일반 생성형 AI에는 안전정책 수립·공개 의무를, 위해 가능성이 큰 AI에는 사전 위험평가와 안전성 시험 등을 적용하는 방식이다. 대규모·최첨단 AI 등에는 강화된 모델 평가와 사고보고, 사이버보안 조치 등을 요구하도록 했다.

미성년자 보호를 위한 법률 간 연령 기준 차이도 개선 과제로 지목됐다. 개인정보보호법은 만 14세 미만의 개인정보 처리에 법정대리인 동의를 요구하지만, 청소년보호법은 19세 미만을 보호 대상으로 규정해 14~18세 청소년의 AI 챗봇 개인정보 관리 공백 우려가 크다. 입법조사처는 역할극형 챗봇에 보호자 동의와 이용시간 설정, 심야 알림 제한, 위험대화 탐지 적용 등을 검토할 필요가 있다고 봤다.

이주희 의원은 최근 19세 미만 이용자의 연령·본인 확인, 과몰입 주의사항 및 이용시간 표시, 이용시간 제한 수단 등을 제공하도록 하는 정보통신망법 개정안을 대표발의했다. 이주희 의원은 "청소년의 AI 사용을 아예 금지할 수는 없다"면서도 "장시간 이용이나 과몰입을 막기 위한 보호장치는 반드시 필요하다"고 말했다.

[email protected] 최혜림 기자