오픈AI, 한국 AI안전연구소와 맞손…美·英·日 이어 네 번째
[파이낸셜뉴스] 오픈AI가 한국 인공지능(AI)안전연구소와 고위험 AI 안전성 평가 협력에 나선다. 오픈AI가 각국 AI안전연구소와 공식 협력 체계를 구축한 것은 미국·영국·일본에 이어 한국이 네 번째다.
과학기술정보통신부는 17일 서울 한국전자통신연구원(ETRI) 서울사무소에서 AI안전연구소와 오픈AI가 고위험 분야 AI 안전 협력 강화를 위한 업무협약(MOU)을 체결했다고 밝혔다.
이번 협약은 지난해 10월 과기정통부와 오픈AI가 체결한 AI 협력 양해각서의 후속 조치다. 양측은 올해 두 차례 진행된 과기정통부와 오픈AI 간 고위급 면담을 통해 AI 안전 분야 협력 방안을 논의해 왔으며, 이를 바탕으로 AI안전연구소와 오픈AI 간 실질적 협력 체계를 구축하게 됐다.
오픈AI와 AI안전연구소는 앞으로 고위험 분야별 AI 안전성 평가 방법론과 벤치마크, 모범사례를 공유한다. 또한 한국어와 한국 사회·문화적 맥락을 반영한 AI 안전성 평가 체계 개발을 위한 기술 정보를 교환하고, 국제적으로 활용 가능한 AI 안전 평가 기준 마련에도 협력할 계획이다.
최근 고성능 AI 모델과 자율형 AI 에이전트가 빠르게 확산되면서 안전성 검증과 위험 평가 체계 구축은 글로벌 AI 정책의 핵심 과제로 부상하고 있다. 특히 국가 안보와 핵심 인프라, 사이버보안 등 고위험 영역에서 AI 활용이 늘어나면서 국가 차원의 안전성 검증 체계 마련 필요성도 커지고 있다.
정부는 이번 협약을 계기로 한국이 글로벌 AI 안전 거버넌스 논의에서 역할을 확대할 수 있을 것으로 기대하고 있다. 미국과 영국, 일본에 이어 오픈AI와 직접 협력 체계를 구축함에 따라 최첨단 AI 모델의 위험성 검증과 평가 기준 마련 과정에도 참여할 수 있게 됐다는 설명이다.
이진수 과기정통부 인공지능정책기획관은 "고성능 AI와 자율형 에이전트 AI 등 최첨단 AI 모델의 안전성 확보를 위해 글로벌 선도기업과의 협력을 강화하고 AI 안전성 평가 체계를 고도화해야 할 시점"이라며 "이번 협약을 계기로 양 기관이 급변하는 AI 기술 환경에 대응해 최첨단 AI 안전 확보를 위해 적극 협력하길 기대한다"고 말했다.
김명주 AI안전연구소장은 "AI가 국가 핵심 인프라와 안보에 미치는 영향이 커질수록 고위험 분야에 대한 엄밀한 안전 평가는 선택이 아닌 필수"라며 "오픈AI와 함께 최첨단 AI의 위험을 과학적으로 검증하고 국제적으로 통용되는 평가 체계 구축에 기여하겠다"고 밝혔다.
이상현 오픈AI 아시아태평양 정책 총괄은 "한국은 AI 기술 활용과 혁신이 빠르게 이뤄지고 있는 중요한 국가"라며 "AI안전연구소와의 협력을 통해 고위험 분야 AI 안전성 평가에 대한 지식과 모범사례를 공유하고 신뢰할 수 있는 AI 개발과 안전한 이용 환경 조성에 기여하겠다"고 말했다.
AI안전연구소와 오픈AI는 업무협약 체결 이후에 실무 협의를 거쳐 구체적인 협력 과제와 일정을 확정해 나갈 예정이다.
yjjoe@fnnews.com 조윤주 기자
