"美, AI로 작성한 허위보고서에 中과 전쟁 치를 뻔" CNN
[파이낸셜뉴스]
미국이 지난봄 인공지능(AI)의 가짜 보고서에 속아 하마터면 중국과 전쟁을 치를 뻔했다고 CNN이 18일(현지시간) 소식통들을 인용해 보도했다.
보도에 따르면 이란 전쟁이 한창이던 당시 미군 내부에는 중국 선박 한 척이 중동에서 핵무기 프로그램 관련 구성 요소를 운반 중이라는 내용의 정보 보고서가 순식간에 회람됐다.
소식통 4명에 따르면 미군은 곧바로 이 선박을 차단하기 위해 움직였다. 무장한 군인들이 선박에 승선할 준비를 마쳤고, 상공에는 군용기가 전개됐다.
그러나 작전 실행 직전 당국자들이 보고서를 면밀히 검토한 끝에 해당 보고서의 문제점을 찾아냈다. 특수전사령부 분석관이 AI의 도움을 받아 보고서를 작성했으며, 그가 활용한 챗봇이 선박에 실린 화물을 잘못 식별했음을 확인했다.
한 소식통에 따르면 이 보고서는 "완전한 거짓"이었지만 "거의 전쟁이 날 뻔했다." 중국 선박에 대한 미국의 어떤 군사 작전도 두 나라 사이의 무장 충돌로 번질 위험이 있었기 때문이다.
미중 두 양강의 무력 충돌을 부를 뻔했던 문제의 보고서는 미 태평양 특수전사령부에서 나온 중국 선박의 화물 목록 관련 정보에 대해 한 분석관이 챗봇에 질문하면서 시작됐다. 챗봇은 공개 정보와 미 정부의 기밀 신호 정보를 통합 분석한 끝에 이 화물이 핵무기 프로그램과 관련됐다는 잘못된 결론을 내렸다.
분석관은 다시 AI를 활용해 이 내용을 미군 표준 정보 보고서 형식으로 작성한 뒤 내부에 유포했다.
전직 미 고위 당국자는 군과 정보 분석관들이 사용하는 AI 시스템은 "대부분 겉포장만 바꾼 상용 제품 복사본"으로 오류를 일으킬 수 있다고 지적했다.
CNN은 미 국방부와 정보기관이 AI 활용을 빠르게 늘리는 가운데 군사적 오판 위험이 높아지고 있음을 보여주는 사례라고 지적했다.
피트 헤그세스 국방장관은 지난 1월 'AI 가속화 전략'을 통해 정보 분석과 표적 선정 등 군 업무 전반에 AI 도입을 확대하고 있다. 신속한 전장 내 의사결정으로 적대국에 비해 한발 앞서 나가야 한다는 것이다.
미 당국자들은 그러나 정부 각 부처가 서로 다른 명령과 안전 기준 아래 각기 다른 도구를 사용한다면서 통일된 검증 기준이 없어 신뢰성에 큰 차이가 있다고 우려했다.
한 소식통은 "AI는 부실한 아이디어에 더 빠르게 도달하게 만들 뿐"이라고 경고했다.
[email protected] 송경재 기자
