캘리포니아, AI 챗봇 규제 1호…미성년 보호 법제화

뉴섬 주지사, 아동·청소년 보호 위한 AI 안전장치 법안 서명
10대의 극단선택 사건 계기로 챗봇 책임 강화

[파이낸셜뉴스] 미국 캘리포니아주가 아동·청소년의 인공지능(AI) 챗봇 이용을 규제하는 첫 법안을 제정했다.

개빈 뉴섬 캘리포니아 주지사는 13일(현지시간) AI와 같은 신기술로부터 아동을 보호하기 위한 안전장치 마련 법안에 서명했다고 밝혔다. 이 법안은 내년 1월 1일부터 발효되며, AI 챗봇 운영 기업은 플랫폼 이용자의 연령 확인 기능과 함께 챗봇의 모든 답변이 인공적으로 생성된 것임을 명확히 표시해야 한다.

특히 '동반자 챗봇'으로 불리며 친밀한 대화 기능을 제공하는 챗봇 플랫폼은 이용자의 자살 충동이나 자해 표현을 식별하고 대응할 수 있는 절차를 마련해 주 공중보건부에 보고하도록 의무화했다. 챗봇이 의료 전문가처럼 행세하는 것도 금지되며 미성년 이용자에게는 이용 중 일정 시간마다 '휴식 알림'을 띄워야 한다.

또 챗봇이 생성한 성적으로 노골적인 이미지를 미성년자가 볼 수 없도록 차단해야 하며 불법 딥페이크 영상으로 금전적 이익을 취할 경우 건당 최대 25만달러(약 3억6000만원)의 벌금이 부과된다.

뉴섬 주지사는 "챗봇과 소셜미디어 같은 신기술은 영감을 주고 사람들을 연결할 수 있지만 안전장치가 없다면 아이들을 착취하고 오도하며 위험에 빠뜨릴 수 있다"며 "규제되지 않은 기술로 인해 피해를 본 청소년들의 비극적인 사례를 이미 목격해 왔다. 기업들이 제한과 책임 없이 운영하도록 두지 않겠다"고 강조했다.

이번 입법은 미국에서 처음으로 AI 챗봇 운영자에게 안전 프로토콜 마련을 의무화한 사례다. 미 기술매체 테크크런치는 "캘리포니아주가 AI 챗봇 규제의 선도주가 됐다"고 전했다. 일리노이, 네바다, 유타 등 일부 주는 이미 AI 챗봇을 정신건강 상담이나 치료 수단으로 사용하는 행위를 제한하거나 금지하는 법안을 통과시킨 바 있다.

#캘리포니아 #AI챗봇 #아동보호 #뉴섬주지사 #딥페이크 #청소년안전

[e-mail] 김경민 기자