빅테크, '오픈형 AI 보안 동맹' 결성…'오픈AI 모델 해킹' 파장 여파
[파이낸셜뉴스] 엔비디아를 비롯한 주요 글로벌 테크 기업들이 오픈형 인공지능(AI) 모델의 보안 강화를 위한 새로운 공동 이니셔티브를 27일(현지시간) 발족했다.
경제전문방송 CNBC는 최근 탈옥 및 제어 이탈(rogue) 상태에 빠진 오픈AI 모델에 의해 발생한 대규모 사이버 공격의 여파가 이어지는 가운데 빅테크 기업들이 동맹을 맺었다고 보도했다.
앞서 공격의 표적이 되었던 AI 플랫폼 스타트업 '허깅페이스(Hugging Face)'는 미국 주요 기업의 최첨단 프론티어 모델을 활용해 방어에 나서려 했으나, 안전 가드레일 시스템이 공격자와 방어자를 구분하지 못해 제대로 활용하지 못한 것으로 나타났다. 결국 허깅페이스는 이러한 제약에서 자유롭고 자체 호스팅이 가능한 중국산 모델을 사용해 위기를 넘겼다.
이번에 결성된 '오픈 보안 AI 연합'에는 엔비디아를 비롯해 마이크로소프트(MS), 스페이스X, 팔란티어 등 미국과 유럽의 수십 개 주요 테크 기업이 참여했다.
다운로드와 수정, 자체 서버 호스팅이 자유로운 오픈 모델은 앤스로픽이나 오픈AI처럼 특정 인프라를 통해서만 접근할 수 있는 폐쇄형 모델과 대비된다.
엔비디아는 성명을 통해 "최근 발생한 허깅페이스 보안 사고는 사이버 방어자에게 자체 방어를 위한 오픈 형태의 첨단 에이전트 시스템이 왜 필요한지 명확히 일깨워줬다"며 "연합은 오픈 기술을 활용해 보안 취약점을 보완하고 공개하는 데 집중할 것"이라고 밝혔다.
이번 이니셔티브 출범은 미국 의회와 정부가 최첨단 성능을 자랑하는 중국 오픈 AI 모델의 확산을 막기 위한 규제책을 논의하는 시점과 맞물려 더욱 주목받고 있다.
최근 미 재무부는 미국 기업의 지식재산권을 추출하는 공격을 감행하는 중국 기업에 대해 제재 가능성을 경고한 바 있다. 미국 외교협회(CFR)의 크리스 맥과이어 선임연구원은 "워싱턴의 논의는 오픈소스 자체에 대한 반대가 아니라 중국의 지식재산권 침해를 용인할 것인가에 대한 문제"라며 중국 모델 거래 금지나 클라우드 서비스 제한 조치 가능성을 시사했다.
그러나 현재 가장 우수한 성능을 가진 오픈소스 모델 다수를 중국 기업들이 주도하고 있는 상황에서, 무분별한 규제가 글로벌 혁신을 저해할 수 있다는 우려도 크다.
엔비디아와 마이크로소프트, 메타, 팔란티어 등 20여 개 기업은 정책 입안자들에게 보낸 서한을 통해 "오픈웨이트 AI 모델에 대한 조급한 규제는 경쟁을 저해하고 혁신을 해외로 유출시킬 수 있다"고 지적했다.
엔비디아 측은 "방어자가 자체 인프라에서 첨단 AI를 직접 검사하고 수정하며 실행할 수 없을 때, 가장 신속한 대응이 필요한 순간 방어 능력은 제한될 수밖에 없다"고 강조했다.
[email protected] 윤재준 기자
