AI 오판에 中 선박 군사작전 직전까지…미군, 실행 직전 오류 발견
[파이낸셜뉴스] 미군이 인공지능(AI)이 생성한 잘못된 정보를 근거로 중국 선박에 대한 군사작전을 준비했다가 실행 직전 오류를 확인해 중단한 사실이 뒤늦게 알려졌다.
18일(현지시간) CNN에 따르면 이란전이 진행되던 올해 봄 미군 내부에는 중동에 있던 중국 선박 한 척이 핵무기 프로그램에 사용될 수 있는 구성 요소를 운반하고 있다는 내용의 정보 보고서가 공유됐다.
보고서가 회람되자 미군은 해당 선박을 차단하기 위한 작전 준비에 착수했다. 무장 병력이 선박에 승선할 준비를 마쳤고 군용기까지 출격한 상태였던 것으로 전해졌다.
하지만 작전 실행을앞두고 당국자들이 보고서 내용을 재검토하는 과정에서 문제가 발견됐다. 보고서는 미 특수작전사령부 소속 분석관이 AI를 활용해 작성한 것으로, 분석 과정에서 챗봇이 중국 선박의 화물을 핵무기 프로그램과 관련된 물품으로 잘못 판단한 것으로 파악됐다.
한 소식통은 CNN에 해당 정보가 "전적으로 거짓이었다"며 이 때문에 "거의 전쟁이 시작될 뻔했다"고 전했다. 실제 미군이 중국 선박을 상대로 무력 작전에 나섰다면 미중 간 군사적 긴장이 급격히 고조될 가능성이 있었던 셈이다.
오류가 발생한 과정은 한 분석관이 미 태평양 특수작전사령부에서 확보한 중국 선박의 화물 목록 관련 정보를 챗봇에 입력하면서 시작됐다. 챗봇은 공개 정보와 미 정부가 보유한 기밀 신호정보 등을 종합해 분석한 뒤 선박의 화물이 핵무기 프로그램과 연관돼 있다는 잘못된 결론을 제시했다.
분석관은 이 결과를 다시 AI에 입력해 미군에서 사용하는 표준 정보 보고서 형태로 작성한 뒤 내부에 배포했다. AI가 정보 분석뿐 아니라 보고서 작성 과정에도 활용되면서 잘못된 판단이 정식 정보 문건 형태로 유통된 것이다.
CNN은 이번 사례가 미 국방부와 정보기관이 AI 도입에 속도를 내는 상황에서 AI의 오류를 걸러내는 검증 체계가 제대로 갖춰지지 않을 경우 실제 군사적 오판으로 이어질 수 있음을 보여준다고 지적했다.
피트 헤그세스 미 국방장관은 지난 1월 'AI 가속화 전략'을 발표하고 정보 분석과 표적 선정 등 국방 업무 전반에서 AI 활용을 확대하고 있다. 다만 미 정부 기관마다 사용하는 AI 도구와 안전 기준이 서로 다른 데다 AI가 만들어낸 정보를 어떤 절차와 기준으로 검증할지에 대한 통일된 지침도 마련되지 않은 것으로 전해졌다.
특히 실제 공격 여부를 결정하는 표적 선정 과정에서도 AI 활용이 늘고 있다는 점이 문제로 꼽힌다. 한 소식통은 "표적 선정에 AI 활용이 분명히 확대되는 추세"라면서도 민간인 피해나 아군 오인 공격 등을 방지하기 위한 구체적인 지침은 부족한 상황이라고 설명했다.
[email protected] 윤홍집 기자
