AI 만들고 쓸때 지켜야할 AI윤리 8월 나온다…규제 아닌 자율규범
과기정통부-KISDI, 대한민국 AI 윤리원칙(안) 대토론회 개최
3대 가치·7개 원칙 공개하고 의견 수렴
"혁신 돕는 윤리 돼야"
[파이낸셜뉴스] 정부가 인공지능(AI) 개발과 활용 전반에 적용할 AI 윤리원칙을 이달 중 확정한다. AI 기술의 급속한 발전과 함께 해킹 등 범죄에 악용되거나 대량살상 무기로 활용되는 사례가 잇따르면서 세계 각국은 AI 개발과 활용에 적용할 윤리규범 마련에 본격 나서고 있다.
우리 정부도 AI 혁신을 지원하면서도 인간의 윤리를 훼손하지 않는 AI 윤리 원칙을 확정, AI와 인류의 공존을 위한 기준을 마련한다는 계획이다.
AI윤리기준은 법률이나 규제가 아닌 자율규범으로 마련돼 기업이나 개발자들이 스스로 점검하고 따라야 하는 규범으로 마련된다.
14일 과학기술정보통신부와 정보통신정책연구원(KISDI)은 서울 프레지던트호텔에서 '대한민국 인공지능 윤리원칙' 대토론회를 열어 3대 가치·7개 원칙을 골자로 하는 AI윤리원칙(안)을 제시했다.
AI 윤리원칙의 3대 가치는 △인간의 존엄성 △사회의 공공선 △인류의 지속가능성이다.
3대 가치를 실현할 수 있는 7개 원칙은 △인간중심성 △프라이버시 보호 △공정성·포용성 △책임성 △안전성 △신뢰성 △투명성이다.
정부는 AI기본법에 의해 지난해 말부터 AI 윤리원칙 수립을 추진해왔다. 2020년 마련된 '인공지능 윤리기준'을 계승하면서도 에이전틱 AI, 피지컬 AI 등 새로운 기술 흐름과 AI 기본법 시행 이후 달라진 정책 여건을 반영해 새로 정비하는 작업이다.
과기정통부와 KISDI는 지난 5월 1차 초안을 공개하고 각계 의견을 수렴해 총 116건의 서면 의견을 받아 이번 수정안을 마련했다.
이날 토론회에서 이상욱 한양대 교수(AI사회정책포럼 위원장)는 "AI윤리원칙이 혁신을 제약하는 요소가 아니라 바람직한 AI 개발·활용을 돕고 이를 실제로 가능하게 하는 역할을 해야 한다"고 강조했다.
산업계에서는 윤리원칙이 새로운 규제나 획일적 의무로 작용해서는 안 된다는 의견이 나왔다. 김경훈 카카오 AI Safety 리더는 "윤리적 권고와 법적 의무가 혼동되지 않아야 한다"며 자율규범이 규제로 작동하지 않아야 한다는 점을 강조했다. 김현주 한국인공지능·소프트웨어산업협회 본부장 "에이전트형·피지컬 AI 등 신기술과 입법 사이의 시차를 윤리가 보완해야 한다"고 강조했다.
변순용 서울교대 교수(한국인공지능윤리학회장)는 "AI가 사회의 기본 인프라가 된 만큼, 위험하고 조심해야 하는 대상으로만 보는 인식에서 벗어날 필요가 있다"며 AI윤리원칙이 일반인들의 불안을 해소할 장치가 될 수 있다고 강조했다.
우리나라 뿐 아니라 세계적으로도 AI 윤리 기준 정비 작업이 본격화되고 있다. 경제협력개발기구(OECD)는 지난 2019년 인권과 민주주의 가치를 존중하는 신뢰할 수 있는 AI를 표방하며 △포용적 성장 △인권·법치 존중 △투명성·설명가능성 △안전성·견고성 △책임성을 담은 권고를 채택했다.
유엔 산하 유네스코도 2021년 193개 회원국 만장일치로 141개 항목의 '인공지능 윤리 권고'를 채택해 인권과 인간 존엄을 핵심 가치로 하는 세계 최초의 AI 윤리 국제 표준을 마련했다.
일본에서는 △인간 존엄성 △포용성△지속가능성이라는 가치와 △안전 △공정성 △프라이버시 △보안 등 10대 원칙을 담은 AI가이드라인을 제정해 적용중이다.
유럽연합(EU)는 AI법 안에 윤리규정을 포함해 법률적 강제규정으로 운영중이다.
과기정통부는 이번 공개토론회에서 제시된 의견을 종합적으로 검토해 AI윤리원칙(안)을 보완하고 8월 중 '대한민국 AI윤리원칙'을 제정해 공표할 계획이다.
과기정통부 김경만 AI정책실장은 "'대한민국 인공지능 윤리원칙'은 AI 기본사회를 위해 우리 모두가 함께 지켜나가야 할 기준으로, 다양한 사회구성원의 목소리를 담기 위해 노력하고 있다"며 "이번 토론회에서 제기된 의견까지 충실히 반영해 윤리원칙을 제정하고, 향후 정부·기업·시민 등 모든 주체가 각자의 위치에서 이를 실천해 나갈 수 있도록 적극 뒷받침 하겠다"고 밝혔다.
[email protected] 이구순 기자
