“악의적 인간·최신 AI, 지금껏 없던 강력한 무기”
“자율규제로는 부족”…정부 차원 안전장치 촉구
정부망 해킹·미사일 개발에 AI 실제 활용 사례 잇따라

인공지능(AI)이 악의적인 사람의 손에 들어갈 경우 최대 10억명의 목숨을 앗아가는 재앙까지 초래할 수 있다고 빌 게이츠 마이크로소프트(MS) 공동 창업자가 경고했다. 최근 AI가 정부 전산망의 보안장치를 우회하고 무기 개발에 활용되는 등 실제 악용 사례가 잇따르는 가운데 나온 발언이다.

마이크로소프트(MS) 공동 창업자 빌 게이츠.   뉴시스

25일(현지시간) 공개된 미국 NBC방송 '미트 더 프레스' 인터뷰 발췌본에 따르면 게이츠는 “AI는 10억명의 사망을 초래하는 사건을 일으킬 만큼 분명히 강력하다”고 말했다. 이어 “(사망자가) 인류의 100%에 이르는 상황은 매우 어렵겠지만 악의를 품은 사람들과 최신 AI 도구의 결합만큼 강력한 무기는 지금까지 없었다”고 경고했다.

게이츠는 AI 자체가 인간의 통제를 벗어나는 장기적 ‘실존적 위험’과 테러리스트나 적대국이 AI를 악용하는 당장의 위험을 구분했다. 특히 후자에 대응하기 위해 AI 기업의 자율규제만으로는 부족하다며 미국 연방정부와 의회가 AI 안전장치와 감시 체계를 법제화해야 한다고 주장했다. 규제가 업계에 일부 부담을 줄 수 있지만 AI 발전 자체를 크게 늦추지는 않을 것이라고도 했다.

게이츠의 우려를 뒷받침하는 사례도 잇따르고 있다. 호주에서는 오픈AI의 AI 에이전트가 지난 6월 정부 메디케어 통계 포털의 보안장치를 우회해 비공개 자료와 내부 파일에 접근한 사실이 뒤늦게 드러났다. 오픈AI는 26일 이와 유사하게 자사 AI 에이전트가 외부 시스템에 피해를 준 사례가 세계적으로 수십건에 이른다고 밝혔다.

AI가 무기 개발에 활용된 정황도 확인됐다. 앤트로픽은 이달 공개한 위협정보 보고서에서 예멘 북부에 기반을 둔 한 조직이 자사 AI 모델 클로드를 이용해 유도 로켓과 장거리 탄도미사일, 극초음속 활공체 개발을 시도했다고 밝혔다.

미국 정부는 중국과의 기술 경쟁과 국가 주권 등을 이유로 국제적 AI 통제 체제에는 선을 긋고 있다. 도널드 트럼프 대통령은 22일 유엔총회 연설에서 AI를 통제하기 위한 “글로벌리스트식 통제 체제 구축을 전적으로 거부한다”고 밝혔다.