죄의식 없는 킬러 로봇… 인류 멸망 가져올 수도

스티븐 호킹·유엔 등
AI살상무기 개발 반대
국제협약 필요성 제기

미국의 공상 추리 소설 작가 아이작 아시모프의 원작을 토대로 2004년에 출시된 영화 ‘아이, 로봇’은 인간의 통제를 벗어난 로봇의 세계를 그리고 있다. 영화는 인류가 실제로 로봇에 의해 말살되는 최악의 시나리오가 전개될 수 있다는 경고음이 발령했다. 인공지능을 가진 킬러 로봇은 어떤 인간 병사보다 똑똑하고, 육체적으로 더 강하며, 인간처럼 감정에 휘말려 실수를 하는 일이 없다. 무엇보다 로봇은 죄의식이 없다. 현재까지 개발된 킬러 로봇은 세계 최고의 인간 병사보다 강하다. 바둑의 세계 최강자 이세돌이 알파고에 1대 4로 밀린 게 결코 우연이 아니다.

미 국방부는 스스로 생각하고, 판단하면서 작전을 수행하는 인공지능 로봇과 무기 개발을 적극 추진하고 있다. 킬러 로봇은 폭약이나 핵무기 개발에 비유할 수 있는 혁명적인 무기가 될 것이다. 그러나 미국 학계에서는 인공지능 무기 개발 경쟁에 따라 인류가 기계에 의해 멸망의 길로 치달을 수 있다는 우려의 목소리가 커지고 있다. 인공지능을 가진 무기가 스스로 공격 목표물을 판단해 살상을 하게 되면 요인 암살뿐 아니라 ‘인종 청소’와 같은 대량 학살 사건도 얼마든지 발생할 수 있기 때문이다.

영화 ‘터미네이터 제니시스’에 등장하는 로봇.

천체 물리학자인 스티븐 호킹이나 놈 촘스키 MIT 명예교수 등이 인공지능 무기개발에 반대하는 대표적인 인사들이다. 유엔도 인공지능을 이용한 살상 무기 개발 금지를 위한 국제 협약의 필요성을 제기하고 있다. 법적, 정치적 안전 장치가 없으면 무인 무기가 특정 국가나 국제 사회에서 통제 불능의 상태로 치닫고, 그 결과 인류가 기존 전쟁과는 차원이 다른 참화를 입을 가능성이 크다는 게 이들의 주장이다.

반면 인공지능 무기 옹호론자는 인공지능 무기가 특정 목표물이나 인물만을 겨냥하기 때문에 오히려 재래식 무기보다 인명 살상을 줄일 수 있다고 주장한다. 또한, 지뢰나 폭발물 제거, 빌딩 소개 작전 등 희생자가 발생할 수 있는 위험한 임무를 인공지능 로봇이 대신 수행할 수 있다고 강조하고 있다. 문제는 인공지능을 통해 스스로 생각하고, 판단하고, 결정하는 로봇이 도덕적인 판단을 내리기 어렵다는 데 있다.

워싱턴=국기연 특파원