국제 국제경제

AI 속도전에 브레이크…MS도 "인간 통제 벗어나선 안돼"

이병철 기자

파이낸셜뉴스

AI끼리 '인간이 모르는 언어' 소통도 차단
2027년부터 새 행동강령 개발에 반영

【파이낸셜뉴스 뉴욕=이병철 특파원】 인공지능(AI) 개발 속도를 둘러싼 빅테크의 기류가 빠르게 바뀌고 있다. 앤트로픽과 오픈AI 수장들이 AI 개발 속도를 늦추는 데 공감대를 형성한 데 이어 마이크로소프트(MS)가 AI가 인간을 대체하거나 스스로 목표를 설정하지 못하도록 하는 행동강령을 내놨다. 성능 경쟁을 벌여온 AI 기업들이 초지능의 위험을 통제하기 위한 '안전 경쟁'으로 무게중심을 옮기는 모습이다.

MS는 14일(현지시간) 자사의 AI 모델 개발과 운영에 적용할 잠정 행동강령을 공개했다. 약 5개월간 준비한 것으로 외부 의견을 수렴한 뒤 개정해 2027년부터 AI 개발에 반영할 예정이다.

행동강령의 핵심은 AI를 철저히 인간의 통제 아래 두는 것이다. 'MAI'로 불리는 MS의 AI 모델은 인간이 설정한 목표를 따라야 하며 스스로 별도의 목표를 만들어서는 안 된다. 잘못된 행동을 숨기거나 자신의 추론과 행동 기록을 왜곡·은폐하는 것도 금지된다.

특히 AI끼리 인간이 이해할 수 없는 언어로 소통하는 것도 막는다. MS는 MAI 모델이 다른 AI 에이전트나 시스템과 소통할 때 인간이 쉽게 이해할 수 없는 '뉴럴리즈(neuralese)'를 사용하지 못하도록 했다. 최근 AI 에이전트가 인간의 통제를 벗어나 독자적으로 행동할 수 있다는 우려를 반영한 조치다.

무스타파 술레이만 MS AI 모델 개발 책임자는 CNBC에 "사람들은 AI가 인간을 대체하려 하지 않고 항상 인간에게 봉사한다는 보다 명확한 약속을 원했다"고 말했다. 그는 AI가 인간의 의존성을 키우거나 아첨하는 대신 인간의 판단과 자율성, 주체성을 강화해야 한다고 강조했다.

AI 업계에서는 최근 개발 속도를 늦춰야 한다는 목소리가 잇따르고 있다. 다리오 아모데이 앤트로픽 최고경영자(CEO)가 AI 모델 성능 향상 속도를 늦출 것을 제안하자 샘 올트먼 오픈AI CEO가 지지했고 일론 머스크 스페이스X CEO도 "다리오가 옳다"고 밝혔다.

사티아 나델라 MS CEO 역시 "AI 정렬을 제대로 구현하기 위해 필요한 연구와 집중, 신중한 개발 속도를 환영한다"고 밝혔다. 미 의회에서도 AI 안전장치를 강화해야 한다는 요구가 커지고 있다.

AI 기업들이 더 강력한 모델을 먼저 내놓기 위해 벌여온 속도전에 스스로 제동을 걸기 시작하면서 글로벌 AI 경쟁이 새로운 국면에 접어들고 있다.