메뉴 보기
미군이 인공지능(AI)이 잘못 분석한 정보를 토대로 중동에 있던 중국 선박이 핵무기 프로그램 관련 물자를 운반한다고 판단해 차단 작전을 준비했던 것으로 전해졌다.
작전 직전 해당 정보가 AI의 오류에서 비롯된 사실이 드러나면서 미·중 간 군사적 충돌로 이어질 뻔한 것으로 알려졌다.
미국 CNN방송은 복수의 소식통을 인용해 올해 봄 이란전이 진행되던 당시 미군 내부에서 중국 선박 한 척이 핵무기 프로그램 관련 구성 요소를 수송하고 있다는 내용의 정보보고서가 회람됐다고 18일(현지시간) 보도했다.
미군은 해당 선박을 차단하기 위한 작전에 들어갈 준비를 했다. 무장한 미군 병력이 선박에 오를 준비를 했고 군용기까지 출격한 상태였던 것으로 전해졌다.
그러나 작전 실행 직전 당국자들이 보고서를 추가로 검토하는 과정에서 해당 보고서가 특수작전사령부 분석관이 AI의 도움을 받아 작성한 사실이 드러났다. 분석관이 사용한 챗봇이 선박에 실려 있던 화물을 잘못 식별한 것으로 확인되면서 작전은 실행되지 않았다.
한 소식통은 해당 보고서가 “전적으로 거짓이었다”며 이로 인해 “거의 전쟁이 시작될 뻔했다”고 말했다.
문제가 된 보고서는 한 분석관이 미 태평양 특수작전사령부에서 나온 중국 선박의 화물 목록 관련 정보를 챗봇에 질의하면서 시작됐다.
챗봇은 공개 정보와 미 정부가 보유한 기밀 신호 정보를 통합해 분석한 뒤 해당 선박의 화물이 핵무기 프로그램과 관련됐다는 잘못된 결론을 내렸다. 분석관은 이를 다시 AI를 활용해 미군의 표준 정보보고서 형식으로 작성한 뒤 내부에 배포한 것으로 전해졌다.
CNN은 이번 사건이 미 국방부와 정보기관이 AI 활용을 빠르게 확대하는 가운데 AI의 오류가 실제 군사적 오판으로 이어질 수 있는 위험성을 보여준다고 지적했다.
미국은 정보 분석과 표적 선정 등 군 업무 전반에 AI 도입을 확대하고 있다. 피트 헤그세스 국방장관은 지난 1월 ‘AI 가속화 전략’을 발표하며 군의 AI 활용 확대 방침을 밝혔다.
하지만 CNN에 따르면 미국 정부 내 각 조직이 서로 다른 AI 도구와 안전 기준을 사용하고 있으며, AI가 생성한 정보를 어떻게 검증할지에 대한 통일된 기준도 마련되지 않은 상태다.
특히 군의 공격 표적 선정 과정에서도 AI 활용이 확대되고 있는 것으로 전해졌다. 한 소식통은 “표적 선정에 AI 활용이 분명히 확대되는 추세”라며 “민간인 피해나 아군 오인 공격을 어떻게 막을지에 대한 실질적인 지침은 없다”고 말했다.
일부 정보 당국자들은 AI가 분석가들에게 정보를 더 빠르게 생산하고 배포하도록 압박하면서 오류가 발생할 여지를 키우고 있다고 지적했다. 또 다른 소식통은 “AI는 잘못된 결론에 더 빨리 도달하게 만든다”고 말했다.
