"AI 개발·활용할 때 인간중심·개인정보 보호 원칙지켜야"

정부, AI 윤리원칙 확정·제정
"노동·일자리 변화, 저작권, AI 과의존, 채용·평가의 기준점"
규제 아닌 자율규범...사회적 신뢰 높일 기반

[파이낸셜뉴스] 인공지능(AI) 활용이 이미 사회적 필수요건으로 자리잡은 가운데, 정부가 건전한 AI 개발·활용을 위한 AI 윤리원칙을 제정해 공표했다.

AI 윤리원칙은 사회 전 영역에 적용돼 각 분야 윤리기준과 지침의 토대가 된다.

과학기술정보통신부와 정보통신정책연구원(KISDI)은 24일 과학기술관계장관회의에서 '대한민국 인공지능 윤리원칙'이 심의·의결을 거쳐 지난 21일 확정됐다고 밝혔다.

AI윤리원칙은 법률이나 규제가 아니라 개발자와 사회 구성원들이 자율적으로 지켜나가야 할 규범으로, 강제정을 갖지는 않는다.

윤리원칙은 AI 시대에 추구해야 할 3대 가치로 △인간의 존엄성 △사회의 공공선 △인류의 지속가능성을 제시했다.

이를 실현하기 위한 7대 원칙으로 △인간 중심성 △프라이버시 보호 △공정성·포용성 △책임성 △안전성 △신뢰성 △투명성을 담았다.

인간 중심성은 AI가 사람의 판단과 창의성, 문제 해결 능력을 지원하는 방향으로 활용돼야 한다는 것이다.

프라이버시 보호는 개인정보를 필요한 범위에서 처리하고 정보 주체의 자기 결정권을 존중하도록 했다.

공정성·포용성에서는 AI의 편향에 따른 부당한 차별을 방지하고 모든 사람이 AI의 혜택과 기회에 공평하게 접근할 수 있도록 노력할 것을 제시했다.

책임성은 각 주체가 역할과 책임을 명확히 이행하고 문제가 발생하면 책임 소재를 밝히고 피해를 구제하도록 하는 내용이다.

안전성은 생명·신체·정신적 건강과 재산상 피해를 방지하고 오남용이나 외부 공격에 대비하도록 했다.

신뢰성을 위해서는 목적과 활용 맥락에 맞는 성능 기준을 설정하고 점검하도록 했으며, 투명성 원칙에서는 AI 활용 여부와 수준, 한계 등 필요한 정보를 이해하기 쉽게 제공하도록 했다.

정부는 AI윤리원칙을 제정한 배경이 AI 확산이 가져온 기회와 과제라고 강조했다.

AI는 산업의 생산성을 높이고 새로운 서비스를 창출하며, 기후변화, 고령화, 지역 격차 등 사회적 과제 해결에도 활용되고 있다.

반면 최근 AI가 사람의 명령 없이 외부 시스템을 해킹하는 등 실제로 사람에게 유익하게 작용하는지에 대한 의문이 제기되고 있다. 또 AI 도입으로 노동시장의 변화, 저작권 침해 등 기존 역학관계를 바꾸는 사례가 발생하는가 하면, 청소년·아동들의 삶에 영향을 미치는 판단을 내리는 등 부작용도 제기되고 있다.

이같은 사회적 문제를 해결하는데 기준점을 제시하기 위해 AI윤리원칙을 제정한 것이다.

배경훈 과기정통부 부총리 겸 장관은 "AI 혁신을 가속하는 것과 안전하고 신뢰할 수 있는 AI 환경을 조성하는 것은 서로 대립하는 과제가 아니다"라며 "대한민국 인공지능 윤리원칙이 AI에 대한 사회적 신뢰를 높이고, 바람직한 개발·활용과 그 혜택의 확산을 돕는 실천의 기준으로 자리 잡도록 뒷받침하겠다"고 말했다.

[email protected] 이구순 기자