[파이낸셜뉴스] "최근 통신사와 카드사 사이버 침해사고로 IT 시스템에 대한 신뢰성이 근본적인 도전에 직면하고 있다. 이번 얼라이언스가 누구나 신뢰할 수 있는 검·인증 체계를 만드는 구심점이 되기를 기대한다."
류제명 과학기술정보통신부 제 2차관은 30일 서울 중구 롯데호텔서울에서 열린 ‘인공지능(AI) 신뢰성 얼라이언스 발족식 및 창립총회’에서 "대통령과 과학기술부총리도 AI 발전이라는 동전의 양면에서 보안과 신뢰성 문제를 비중 있게 보고 있다"며 이같이 말했다.
얼라이언스는 ‘AI 기본법’ 제 30조에 따라 AI의 안전성과 신뢰성 확보를 위해 민간 자율 검·인증을 활성화하고 산업계 수요에 부응하는 실효적 인증 체계를 마련해 모두가 신뢰할 수 있는 AI 생태계 조성을 목표로 구성됐다. 초대 의장은 유네스코 세계과학기술윤리위원회 부위원장을 역임한 이상욱 한양대 교수가 맡는다.
현장에는 류 차관과 손승현 한국정보통신기술협회(TTA) 회장, 황종성 한국지능정보사회진흥원(NIA) 원장, 김경훈 카카오 이사, 손지윤 네이버 전무, 김민재 NC AI CTO, 유태준 마음AI 대표, 김동환 포티투마루 대표, 최경진 가천대 교수, 이재호 서울시립대 교수, 윤상민 국민대 교수 등 산·학·연·관 관계자 약 100명이 참석했다.
‘신뢰성 있는 AI를 위한 카카오의 노력’을 주제로 기조발제한 김 이사는 카카오가 추진 중인 AI 신뢰성 확보 방안을 소개했다. 김 이사는 중간 단계, 상위 단계, 보편 원칙으로 구성된 카카오의 10개 AI 윤리 원칙을 발표하며 “우리가 AI를 생각할 때 생산성을 향상하는 단순한 도구가 아니라 동료애를 느끼며 친구 또는 의지할 수 있는 대상으로 본다는 연구 결과가 나왔다”며 “기존 9개 원칙 체계였지만 지난해 4월 과도한 AI 의존도를 경계해야 한다는 점을 반영해 ‘이용자의 주체성’ 원칙을 신설했다”고 강조했다.
김 이사는 AI 서비스의 리스크를 검토하는 프로세스도 고도화하고 있다며 “외부 출시 목적일 경우 ‘안전한 AI를 위한 핵심 체크리스트’를 ERM 위원회 안건으로도 상정해 심층적으로 논의한다”고 밝혔다.
이어 최 교수, 이 교수, 윤 교수가 각각 정책·거버넌스 분과, 기술·표준 분과, 인증·교육 분과의 활동 계획을 발표했다. 정책·거버넌스 분과는 국내외 정책과 법제를 분석한다. 특히 AI 기본법과 하위 법령 간 정합성을 고려한 검·인증 기준, 절차, 검·인증기관 품질관리체계 구축을 추진한다. 최 교수는 “AI는 전 세계 모든 시장을 상대로 나가야 하는데 한국에서만 통용되는 인증 체계를 갖춘다는 것은 의미가 없다”며 “정부와 협력해 글로벌 상호 호환성을 갖춘 기준을 만들겠다”고 말했다.
기술·표준 분과는 신뢰성 검·인증을 위한 평가기술·도구를 연구하며 에이전틱 AI, 피지컬 AI 등 분야별 인증 기준과 방법론을 표준화한다. 인증·교육 분과는 기업을 대상으로 인증 절차를 안내하며 관련 교육 개최와 심사원 자격 제도 개발도 담당한다.
토의 세션에서는 'AI 기본법상 AI 산업 진흥과 신뢰성 확보를 모두 달성하기 위한 검·인증 제도 고려 사항' 등 얼라이언스 발전 방향이 논의됐다.
psh@fnnews.com 박성현 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지