최근 미국과 이란의 전쟁은 인공지능(AI)이 실제 전쟁 수행의 중심으로 들어왔음을 보여준다. 미군은 AI 기반의 ‘메이븐 스마트 시스템’을 이용해 위성과 무인기 등에서 들어오는 방대한 정보를 분석하고 표적의 우선순위를 정하는 일을 과거와는 비교할 수 없을 정도로 빠르게 진행한다. 실제로 개전 첫 24시간에만 약 1000개의 표적을 타격했는데, 이는 AI 도입 이전의 약 열 배에 이르는 속도였다.
그러나 그 이면에는 끔찍한 사고도 있었다. 이란의 한 초등학교가 미군의 공격을 받아 많은 어린이가 희생됐던 것이다. 이 공격이 데이터 오류 탓인지 AI의 오판 탓인지 단정할 수 없지만, 전쟁에서 AI의 활용이 장밋빛 미래만을 보장하지는 않는다는 사실을 보여준다.
ChatGPT를 활용해 제작한 AI 기반 미래전 이미지.
그럼에도 군에서 AI의 활용을 피하기는 어렵다. 사회 전반에서 AI가 엄청나게 빠르게 확산되고 있고, 전쟁에서도 상대가 AI로 막대한 정보를 몇 초 만에 처리하여 공격해 오는데 한쪽만 과거 방식에 머물 수는 없는 노릇이다.
AI는 지휘관에게 전장의 마찰과 우연을 줄이고, 부대를 자신의 의도대로 더 잘 지휘하고 통제할 수 있으리라는 기대를 준다. 군대는 새로운 기술이 등장할 때마다 이러한 문제를 해결하기 위해 적극적으로 활용해 왔으며, 전령과 전신, 무선통신과 위성통신, C4I 체계는 모두 그런 기대와 약속을 담은 기술이었다.
그런데 AI는 여기서 한 걸음 더 나아간다. 과거의 기술이 인간을 보조했다면, AI는 이제 인간의 판단과 행동 일부를 직접 대신할 수 있다. 로봇과 결합하면 전장을 관찰하고 판단해 행동하는 과정의 상당 부분을 기계가 담당할 수도 있다.
하지만 그렇다고 전장의 마찰이 사라질 것으로 보이지는 않는다. 상대 역시 AI를 사용하기 때문이다. 상대도 가짜 표적과 잘못된 데이터를 만들고 통신과 전파를 교란해 알고리즘을 속이려 할 것이다. 앞으로의 마찰은 잘못된 데이터와 알고리즘의 오류, 인간과 기계 사이의 신뢰에서 생길 수 있다.
바로 여기서 전쟁의 역사에서 반복되어 온 기술결정론의 함정이 나타난다. 새로운 기술이 가져다주는 우위가 곧 전쟁의 승리로 이어진다고 믿는 것이다. 그러나 전쟁은 근본적으로 피아의 상호 작용이자 의지의 대결이다. 또한 군사적 성공을 원하는 정치적 결과, 즉 전쟁의 승리로 바꾸는 일은 AI가 세상을 지배하지 않는 한 여전히 인간의 몫이다.
따라서 가장 큰 위험은 인간이 AI를 믿고 전쟁까지 자신의 뜻대로 통제할 수 있다고 착각하는 것이다. 더 나아가 AI를 어디까지 믿고 어디까지 맡길 것인가가 우리에게 주어진 중요한 과제이다. 인간은 AI에 맹목적인 믿음을 가져서는 안 된다. AI의 판단에 의문을 제기할 수 있어야 하고, 필요하다면 그 판단에 따른 행동을 멈출 수도 있어야 한다. 전장을 통제하려는 인간의 오래된 꿈이 AI 시대에 또 다른 전쟁의 실패를 불러오지 않도록 하기 위해서다.