복지·인허가에 AI 활용해도 최종 책임은 '사람'…"문제 땐 피해 구제"

행안부, '공공부문 AI 윤리기준' 확정
AI 판단 사람이 검토·개입…활용 수준 따라 최대 68개 항목 점검

[파이낸셜뉴스] 정부가 복지 대상자 선정이나 인허가, 위험 예측 등에 인공지능(AI)을 활용하더라도 최종 책임과 통제는 사람이 맡도록 했다. AI의 판단과 결정을 사람이 검토하고 개입할 수 있도록 하고, 문제가 발생했을 때 사후관리와 피해구제를 할 수 있는 체계도 마련한다.

행정안전부는 1일 이 같은 내용을 담은 '공공부문 인공지능 윤리기준'을 최종 확정했다.

공공 업무에서 AI 활용이 확산하면서 편향된 결정이나 개인정보 침해 등에 대한 우려가 커진 데 따른 것이다. AI를 활용한 행정 혁신을 추진하면서 국민의 기본권을 보호하고 신뢰를 확보하기 위한 취지다.

AI 윤리를 둘러싼 논의는 국내외에서 이어져 왔다. 주요 국가와 국제기구가 AI 윤리 지침을 발표했고, 과학기술정보통신부도 사회 전 영역에 적용할 '인공지능 윤리원칙'을 제정했다. 행안부는 국내외 AI 윤리기준 분석과 전문가 자문을 거쳐 지난해 11월 초안을 마련한 뒤 관계기관과 학계 전문가 등의 검토와 의견 수렴을 거쳐 최종안을 확정했다.

이번 윤리기준은 △공공성 △형평성 △투명성 △책임성 △안전성 △프라이버시 보호 등 6개 핵심가치를 담았다. 이를 실제 업무에서 점검할 수 있도록 68개 세부 항목으로 구체화했다.

점검 항목은 AI 활용 수준에 따라 달라진다. AI를 기초적으로 활용하는 '적용' 단계에서는 27개 항목을 점검한다. AI가 사람의 의사결정을 지원하는 '응용' 단계는 57개, AI의 자율결정을 기반으로 하는 '융합' 단계는 68개 항목을 점검한다.

특히 AI가 국민의 권리와 생활에 직접 영향을 미치는 업무에 활용될 때는 사람의 책임과 통제를 분명히 했다. 복지 대상자 선정과 인허가, 위험 예측 등이 대표적이다. AI 서비스의 기획부터 제공까지 책임 주체를 명확히 하고, AI의 판단과 결정에 사람이 검토하고 개입할 수 있는 인적 감독 체계를 두도록 했다. 아울러 문제가 발생했을 때를 대비한 사후관리와 피해구제 체계도 마련한다.

AI를 모든 국민에게 공정하고 차별 없이 제공하고 도입과 활용 과정은 투명하게 공개하도록 했다. 국민에게 피해를 주지 않도록 안전하게 운영하고, 개인정보와 사생활을 침해하지 않도록 보호 장치도 수립한다.
행안부는 윤리기준이 실제 업무에 적용될 수 있도록 공공부문 종사자를 대상으로 교육 프로그램을 운영할 계획이다. 새롭게 등장하는 AI 윤리 문제는 점검 사항에 반영해 기준을 계속 보완하기로 했다.

윤호중 행안부 장관은 "인공지능 기술이 행정 혁신의 핵심 동력이 되고 있는 만큼, 그 밑바탕에는 국민의 기본권을 보호하고 신뢰를 확보하기 위한 윤리적 토대가 반드시 필요하다"며 "이번에 마련한 윤리기준과 68개 자율점검 항목을 통해 공공분야 전반에 AI 윤리가 자연스럽게 자리 잡고, 인공지능을 공정하고 안전하게 활용할 수 있는 행정 환경을 만들어 가겠다"고 말했다.

[email protected] 이보미 기자