아동의 AI 과의존 예방…초록우산, 아동권리 헌장 선포
아동의 AI 과의존 예방…초록우산, 아동권리 헌장 선포
[파이낸셜뉴스] 인공지능(AI)이 아동의 정서적 의존을 유도하지 않도록 하고, 개발 단계부터 아동에게 미칠 위험을 살피도록 하는 시민사회 헌장이 나왔다. AI 안전을 확보할 책임을 아동에게 떠넘기지 않는다는 원칙도 담겼다.
12일 아동복지전문기관 초록우산에 따르면 국제인공지능윤리협회와 공동으로 '아동권리기반 AI 헌장'을 마련해 선포했다. 철학·윤리·AI·법률 전문가들이 유엔아동권리협약을 토대로 작성했으며, 초록우산 아동권리옹호단 200여명의 의견을 반영했다.
헌장은 6장 20개 조항으로 구성됐다. 아동의 존엄성과 최선의 이익을 기본 원칙으로 삼고, 차별 없는 AI 접근과 학습 기회, 의견 제시와 참여, 위험으로부터의 보호와 피해 구제 등을 다룬다.
아동과 감정을 주고받는 것처럼 대화하는 AI에는 상대가 사람이 아닌 AI임을 지속적으로 알리는 기능을 갖추도록 했다. 아동의 정서적 의존을 강화하거나 취약성을 이용해 상업적으로 착취하는 설계·운영도 금지 원칙으로 제시했다.
아동의 권리와 안전에 중대한 영향을 미칠 수 있는 AI는 개발·도입이나 중요한 변경에 앞서 '아동권리영향평가'를 거치도록 했다. 다만 헌장은 법적 구속력이 있는 규제 문서가 아니라 각 주체의 실천 방향을 제안하는 선언이다.
AI와 아동의 관계는 국제적으로도 보호 과제로 다뤄지고 있다. 유엔아동기금(유니세프)은 지난 6월 정책자료에서 아동이 AI 챗봇을 정보·학습뿐 아니라 조언과 정서적 지원을 얻는 데도 활용한다며, 피해 발생 후 대응에서 예방 중심으로 접근을 전환할 필요성을 제시했다.
초록우산은 헌장을 정부와 디지털 플랫폼 기업 등에 전달하고, AI 정책·가이드라인과 서비스 개발·운영에 반영되도록 협력을 추진할 계획이다.
황영기 초록우산 회장은 "아동 안전과 권리는 AI 활용 이전의 설계에서부터 반영해야 할 중요한 기준"이라고 말했다.
[email protected] 장인서 기자
