美 정부, AI 모델 출시 전 들여다본다

[파이낸셜뉴스] 미국 정부가 빅테크 기업들의 인공지능(AI) 모델을 시장에 출시히기 전 보안과 기능에 대한 사전평가 하기로 했다. 그간 AI에 대한 규제 완화만 강조하던 미국 정부가 앤스로픽의 '미토스(Mythos)' 충격 이후 감독 수위를 높이는 방향으로 정책 방향이 전환되고 있는 것으로 보인다.

4일(현지시간) 워싱턴포스트 등 주요 외신들에 따르면 미국 상무부 산하 AI 표준 및 혁신 센터(CAISI·Center for AI Standards and Innovation)는구글, 마이크로소프트(MS), 일론 머스크의 xAI가 개발한 새 AI 모델을 일반에 공개하기 전에 시험 평가하기로 합의했다고 공식 발표했다.

CASI는 지난 2024년 오픈AI와 앤스로픽에 대해 AI 기술 사전 검증 협정을 맺었는데, 이번에 다른 AI 기업으로 확대한 것이다.

이번 협약에 따라 구글, MS, xAI는 자사 AI 기술에 대한 조기 접근 권한을 CAISI에 제공하기로 했다. CAISI는 이들 AI모델 배포 전 평가를 통해 첨단 AI 역량을 보다 정확히 평가하고 AI 보안 수준을 향상시키겠다고 밝혔다.

이번 협정에는 기업들이 출시 전 검증에서 충족해야 할 구체적인 기준이나 규제 조항은 포함되지 않았다.

크리스 폴 CAISI 국장은 성명을 통해 "독립적이고 엄격한 측정 과학은 최첨단 AI와 그것이 국가안보에 미치는 영향을 이해하는 데 필수적"이라고 말했다.

미국 행정부의 AI모델 출시 전 검증 확대는 AI 산업 규제에 대한 트럼프 행정부의 태도 변화로 보인다는게 외신들의 분석이다.

지난해 1월 공식 출범한 2기 트럼프 행정부는 "AI 기업들이 자유롭게 혁신할 수 있어야 한다"는 입장을 밝히며 바이든 행정부가 도입했던 AI 기업의 자체 안전성 테스트 결과 제출 의무를 철회한 바 있다.

지난해 12월에는 연방정부가 승인하지 않은 AI 규제를 도입하는 주(州)를 상대로 법무부가 소송을 제기하도록 지시하는 행정명령에도 서명하는 등 AI규제 완화에 앞장서 왔다.

그러나 이번에 출시 전 검증을 확대하면서 AI산업에 대한 규제를 강화하는 모습을 보이고 있는 것이다.

전문가들은 앤스로픽의 보안 특화 AI '미토스' 발표 이후 AI의 국가안보 위협에 대한 경고가 나오면서 트럼프 행정부의 AI에 대한 규제 정책이 변화를 보이고 있다고 분석했다.

한편 미국 상무부는 이번 협정이 정부의 직접적인 기술 수정 명령을 의미하는 것은 아니라고 설명했다. 상무부는 "이번 협정은 정보 공유와 자발적 제품 개선을 지원하고, 정부가 AI 역량과 국제 AI 경쟁 상황을 명확히 이해하도록 돕기 위한 것"이라고 밝혔다.

[e-mail] 이구순 기자