[파이낸셜뉴스] 전 세계적으로 인공지능(AI)이 확산되며 오용·편향·환각 위험이 커지는 상황에서 AI 안전 확보가 산업 성장의 전제조건이라는 지적이 제기된다. 'AI 안전'이 국가 주권과 산업 경쟁력을 좌우하는 핵심 과제이며 한국은 '세계에서 가장 안전한 AI를 만드는 국가'로 도약해야 한다는 목소리가 나온다.
이날 서울 여의도 국회에서는 박정·이인선·강승규·김형동·이정헌 의원이 주최하고 한국통신사업자연합회(KTOA) AI 미래가치 포럼이 주관하는 '글로벌 AI 안전 생태계 주권 확보를 위한 정책토론회'가 열렸다. 국회의원, 정부 관계자, 산업계, 학계, 법조계 등 각계각층의 전문가들이 참석해 대한민국의 AI 안전 주권 확보 방안을 논의했다.
이성엽 AI 미래가치 포럼 의장은 환영사를 통해 "이번 토론회를 시작으로 AI 안전 생태계 주권을 어떻게 실질적으로 확보해 나갈지 논의하는 것이 핵심 과제"라고 말했다.
이후 AI 안전 시급성에 대한 김명주 AI 안전연구소 소장의 발언이 이어졌다. 김 소장은 "제프리 힌턴 교수는 AI 혜택의 2배를 부작용 처리에 쏟아부어야 한다고 경고했고, 데미스 하사비스는 AI 악용이 일자리 대재앙보다 더 심각하다고 했다"며 안전한 AI 생태계 조성의 중요성을 역설했다. 김 소장은 "한국어 웹 콘텐츠가 0.6%에 불과한 현실은 데이터 주권 위기로 볼 수 있으며 일반인이 AI를 활용해 화학·생물학·방사선·핵(CBRN) 정보를 추출하는 위험 등에 대응하기 위해 한국형 안전 데이터셋 구축과 안전분야 국제표준 선점이 시급하다"고 강조했다.
이성엽 의장이 진행한 종합토론에는 이진수 과학기술정보통신부 국장, 문정욱 정보통신정책연구원(KISDI) 실장, 황정현 법무법인 세종 변호사, 민대기 이화여대 교수, 안정민 한림대 교수, 김진기 항공대 교수가 참여했다.
전문가들은 한국 상황에 맞는 안전 평가 체계가 필요하다고 입을 모았다. 안정민 교수는 "현행 AI 규제가 유럽연합 인공지능법(EU AI Act)처럼 절차 중심의 컴플라이언스 모델에 편중돼 있어 실제 위험 감소 효과가 불확실하다. 기업 행정 부담만 커지는 구조"라며 "성능·공정성·신뢰성 기반의 정량적 안전 기준이 필요하다"고 설명했다. 민대기 교수는 "AI 안전이 규제가 아니라 지속 가능한 혁신과 글로벌 시장 진입의 핵심 기반"이라며 "우리 산업 특성에 맞는 한국형 AI 안전 평가체계 구축이 필요하다"고 제언했다.
국제 협력에 기반하되 규범 주권을 확보해야 한다는 의견도 나왔다. 문정욱 실장은 "진정한 AI 경쟁력은 윤리, 안전, 표준이 결합될 때 비로소 완성된다"며 "한국이 개발한 전문가·시민 참여 기반의 윤리 영향 평가 모델을 국제사회에 프로세스 표준으로 제안하고 국가 간 영향 평가 상호 인정 체계를 구축하는 등 국제협력 기반을 마련해야 한다"고 주장했다. 황정현 변호사는 "AI 위험은 초국경적으로 확산되므로 국가 단독 규제로는 한계가 있고 국제 협력 기반의 거버넌스가 필수"라며 "한국이 규범 종속을 피하려면 자체적 AI 안전성 평가·데이터 거버넌스·국제 표준 주도권 확보가 국가 전략으로 필요하다"고 말했다.
고품질 데이터셋 마련에 국가가 나서야 한다는 목소리도 있었다. 김진기 교수는 "AI 결과의 부정확성은 시장경쟁을 통해 조정될 수 있지만 악이용은 기술·운영·인적 개입을 포함한 지속적 대응 체계가 필요하다"며 "한국은 경쟁력 있는 AI 생태계 조성을 위해 고품질 한국어 학습데이터셋 구축을 국가 차원의 연구개발(R&D)로 인식하고 정부가 적극 지원해야 한다"고 강조했다.
kaya@fnnews.com 최혜림 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지