IT IT일반

AI 개발·활용 사람 중심으로… 피해 구제하고 책임소재 명확히

이구순 기자
파이낸셜뉴스

정부, 대한민국 AI 윤리원칙 확정

인공지능(AI)이 산업과 일상 전반에 빠르게 파고들면서 정부가 AI 개발부터 이용까지 적용할 국가 차원의 윤리원칙을 내놨다. AI가 사람의 판단을 대신하는 영역이 넓어지고 해킹이나 저작권 침해, 노동시장 변화 등 새로운 문제가 잇따르자 AI를 '어떻게 개발하고 사용할 것인가'에 대한 공통 기준을 세운 것이다.

과학기술정보통신부와 정보통신정책연구원(KISDI)은 24일 과학기술관계장관회의에서 '대한민국 인공지능 윤리원칙'이 심의·의결을 거쳐 확정됐다고 밝혔다. 이번 원칙의 핵심은 AI 기술이 고도화되더라도 사람을 중심에 둬야 한다는 것이다.

정부는 AI 시대에 추구해야 할 가치로 △인간의 존엄성 △사회의 공공선 △인류의 지속가능성 등 3개 가치를 제시했다. 이를 실현하기 위한 원칙으로 △인간 중심성 △프라이버시 보호 △공정성·포용성 △책임성 △안전성 △신뢰성 △투명성 등 7가지를 정했다.

AI가 사람의 판단과 창의성, 문제 해결 능력을 지원하는 방향으로 활용돼야 하고 개인정보는 필요한 범위에서 처리하도록 했다. AI의 편향에 따른 부당한 차별을 막고 문제가 발생하면 책임 소재를 밝히고 피해를 구제해야 한다는 내용도 담겼다. AI의 오남용이나 외부 공격에 대비하는 한편 이용자에게 AI 활용 여부와 한계 등에 대한 정보도 제공하도록 했다.

다만 이번 윤리원칙은 법률이나 규제와 달리 강제성을 갖지는 않는다. 개발자와 이용자 등 사회 구성원들이 자율적으로 지켜야 할 규범이다. 대신 사회 전 영역에서 AI를 개발·활용할 때 참고하는 공통 기준으로 활용하고 향후 분야별 윤리기준과 세부 지침을 마련하는 토대로 삼는다.

정부가 국가 차원의 기준을 마련한 것은 AI가 가져오는 효용만큼 부작용에 대한 우려도 커지고 있어서다. AI는 산업 생산성을 높이고 새로운 서비스를 만들어내는 동시에 기후변화와 고령화, 지역 격차 등 사회적 문제를 해결하는 데 활용되고 있다.

반면 최근에는 AI가 사람의 명령 없이 외부 시스템을 해킹하는 사례가 나타나는 등 AI가 인간에게 유익한 방향으로 작동하는지에 대한 의문도 제기되고 있다. AI 도입이 노동시장에 영향을 미치고 저작권 침해와 같은 기존 사회의 이해관계를 흔드는 문제도 발생하고 있다. 특히 AI가 아동·청소년의 삶에 영향을 미치는 판단까지 내리면서 AI의 영향력을 어디까지 허용할 것인지도 새로운 과제로 떠올랐다. 정부는 AI의 활용 범위가 넓어질수록 개별 기업이나 이용자의 판단 만으로 대응하기 어려운 만큼 이번 윤리원칙을 AI 개발·활용 과정에서 판단의 기준점으로 삼는다는 방침이다.

[email protected] 이구순 기자


#인공지능 #윤리원칙 #과학기술정보통신부
※ 저작권자 © 파이낸셜뉴스, 무단전재-재배포 금지

기자 정보