英, AI 사전안전성 검증 강화…美 자율규제에 제동[글로벌AI브리핑]
[파이낸셜뉴스] 영국이 첨단 인공지능(AI) 모델의 출시 전 안전성 검증을 강화하고, AI 에이전트가 일으키는 사고에 대응할 체계를 마련하겠다고 강조했다. AI 개발기업의 자율적인 안전관리에 의존하지 않고 정부가 직접 위험을 평가하고 통제할 역량을 갖추겠다는 것이다. 12일(현지시간) 카니슈카 나라얀 영국 AI 담당 국무장관은 런던 임페리얼 칼리지 연설을 통해 "영국을 AI로 공격하기 가장 어려운 국가 중 하나가 되도록 하겠다"며 영국 정부의 AI 안전 정책을 발표했다.
나라얀 장관은 특히 AI 개발 빅테크 들을 향해 "위험을 충분히 통제할 수 없다면 AI 시스템을 출시하지 말라"고 촉구했다.
영국 정부는 우선 AI안전연구소(AISI)가 최신 AI 모델이 출시되기 전에 독립적으로 평가하도록 하고, AI 모델의 위험과 안전장치의 실효성을 점검하기로 했다. 구글의 최신 모델 '제미나이 4 아르곤'도 평가 대상에 포함됐다.
또 AI 에이전트가 사람의 감독을 벗어나 심각한 사고를 일으킬 경우에 대비해 대응 체계를 마련하고, 사이버보안·회복력 관련 법률을 통해 AI 관련 사고와 사고 직전의 위험 상황을 파악·보고하는 방안도 검토한다.
특히 나라얀 장관은 "영국 정부는 공공기관 시스템의 사이버 취약점을 찾아내는 데 첨단 AI를 활용하고 있으며, 기존 시범사업에서 취약점 1352건을 찾아 조치했다"고 밝혔다. AI로 인한 사이버 위협이 커지는 가운데, AI를 방어체계 강화의 무기로 최대한 활용하겠다는 것이다 .
이번 조치는 미국 빅테크와의 긴장 속에서 나왔다.
영국은 그동안 주요 AI 기업의 최신 모델을 출시 전에 제공받아 사전 안전성을 평가해 왔는데, 최근 미국 정부가 일부 AI 기업에 신형 AI 모델을 영국 연구진에 사전 제공하지 말라고 요청했다는 소식이 나오는 등 AI 사전 안전성 검사를 둘러싼 긴장이 고조되는 분위기다.
AI로 인한 사이버 위협의 우려가 확산되고 있지만, 도널드 크럼프 미국 대통령은 AI 안전성에 대한 규제를 기업의 자율규제에 맡기겠다는 정책을 밀어붙이고 있다.
한편 마이크로소프트(MS)의 브래드 스미스 사장은 "AI가 우유나 세탁기보다 규제를 덜 받고 있다"며 AI 안전 규칙과 사고 대응 장치, 독립적인 평가의 필요성을 주장 하는 등 AI 안전성 자율규제에 대한 문제를 지적하기도 했다.
[email protected] 이구순 기자
