국제사회가 이른바 ‘킬러 로봇’으로 불리는 자율살상무기의 규제와 금지 방안을 논의하며 대응책 마련에 나선다.
하지만 인공지능(AI) 기술의 발전과 군사적 활용 속도가 빨라 실효성 있는 국제 규범을 마련할 수 있을지는 불투명하다는 지적이 나온다.
15일(현지시간) AFP통신에 따르면 유엔은 16일 스위스 제네바 유엔 본부에서 회의를 열고 자율살상무기의 규제·금지 방안을 논의한다.
자율살상무기는 인간의 직접적인 개입 없이 표적을 식별하고 공격 대상을 선정해 타격할 수 있는 무기 체계를 말한다.
과거 대인지뢰처럼 특정 조건에서 작동하는 무기도 넓은 의미의 자율살상무기로 볼 수 있지만, 최근에는 인간의 개입 없이 표적을 식별하고 공격하는 AI 기술이 각종 무기 체계에 접목되면서 활용 범위와 작전 능력이 크게 확대되고 있다.
대표적인 사례가 AI를 탑재한 드론이다. 이러한 무기는 사전에 인간이 지정하지 않은 표적을 스스로 선정해 공격할 수 있으며, 전장 상황에 적응하는 능력도 갖추고 있다.
AI 기반 무기 체계가 현대전의 양상을 바꾸면서 자율살상무기 사용은 전장에서 점차 일상화되고 있다는 평가가 나온다.
제네바 안보정책센터의 글로벌·신흥 위험 담당자인 장-마르크 리클리는 지난 2월 말 시작된 이란 전쟁에서 미국이 하루 최대 1000여개의 이란 내 표적을 공격하기도 했다고 설명했다. 중국 국방부도 지난 1월 자율드론 무리를 ‘전쟁의 새로운 얼굴’이라고 표현했다.
이처럼 자율살상무기의 군사적 활용이 확대되면서 국제사회에서는 무기 사용 결정 과정에 인간이 어느 정도까지 개입해야 하는지를 놓고 의견이 엇갈리고 있다.
미국은 무기 운용 과정에서 ‘적절한 수준의 인간 판단’이 이뤄져야 한다는 입장인 반면, 프랑스는 인간이 의사결정 과정에 반드시 참여해야 한다고 주장하며 자율살상무기를 금지하고, 부분적인 자율살상무기 시스템만 허용하고 있다.
국제기구와 AI 업계에서도 우려의 목소리가 이어지고 있다.
안토니우 구테흐스 유엔 사무총장과 미르야나 스폴야리크 국제적십자위원회(ICRC) 위원장은 지난 8월 공동 성명에서 기계가 인간을 자율적으로 공격 대상으로 지정하는 상황이 도덕적 한계선을 넘어설 위험이 있다고 경고했다.
다리오 아모데이 앤트로픽 최고경영자(CEO)도 올해 완전 자율무기를 운용하는 데 최첨단 AI 시스템을 신뢰하기에는 아직 기술적 한계가 있다고 지적했다.
이번 회의가 자율살상무기 문제를 해결하는 데 충분한 역할을 할 수 있을지는 미지수다. 전문가들은 논의의 범위가 제한적인 데다 AI 무기의 발전 속도가 국제사회의 규제 논의를 앞서고 있다고 지적한다.
리클리는 이번 회의가 전장에서 AI를 둘러싼 모든 문제를 포괄하지 못한다고 비판했다. AI가 표적을 추천하는 기능 등 인간의 판단을 보조하는 기술은 논의에서 충분히 다뤄지지 않고 있어 실질적인 해결책을 마련하는 데 한계가 있다는 설명이다.
영국 케임브리지의 연구원 제럴드 마코는 ‘스몰 월드 저널’ 기고문에서 치열한 군사 경쟁 속에 완전 자율살상 공격을 일상화한 첫 번째 국가가 등장하면 다른 국가들의 기대 수준과 무기 운용 기준까지 바뀔 수 있다고 전망했다.