“AI 오남용 막자” 잇단 규제 도입 비관론에도 부정 못할 성장동력 신흥국 등 다양한 시각·수요 고려 ‘글로벌 AI 거버넌스’ 구축 나서야
지난 10일 세계지식포럼에 초대된 ‘칩 워(Chip War)’의 저자 크리스 밀러 교수의 강연장에는 준비된 좌석 뒤쪽으로도 관중이 빽빽하게 들어섰다. 밀러 교수는 인공지능(AI) 기술의 부상으로 반도체 패권을 위한 사활적 전투가 펼쳐지는 ‘칩 워 2.0’의 시대가 도래하고 있음을 예고했다.
최근 우리 사회에서도 문제가 되고 있는 딥페이크 역시 AI 기술에서 출발한다. 2019년 가봉 대통령 건강 이상설의 발원이 된 딥페이크는 군사 쿠데타로 이어질 뻔했다. 2021년 북대서양조약기구(NATO·나토) 고위 관료들은 딥페이크 기술로 생성된 가짜 우크라이나 총리 데니스 시미할과 영상통화를 하는 해프닝을 벌였다. 2022년 볼로디미르 젤렌스키 우크라이나 대통령이 군인들에게 항복하라는 메시지를 전달하는 가짜 영상은 전장에 혼란을 야기했다. 최근에는 유명인뿐만 아니라 일반인도 마구잡이로 생성, 유통되는 딥페이크의 피해자가 되고 있다.
최윤정 세종연구소 외교전략센터장
군사 분야에서는 AI가 새로운 무기 시스템, 드론, 자율 무기에서의 사용이 확대됨에 따라 인간의 통제가 줄어들고 살상에 대한 저항이 약화될 수 있다는 우려가 제기된다. AI가 핵 명령 및 통제 시스템에 포함될 경우, 의사 결정 속도가 빨라지면서 사고 발생 가능성도 높아질 수 있다. 나아가 AI는 핵보다 더욱 가공할 만한 비대칭전력의 핵심 기술이자 미래 전쟁의 게임체인저가 될 것으로 주목받고 있다.
이에 각국 정부와 국제기구들도 AI의 올바른 사용을 위한 여러 가지 규제를 도입하기 시작했다. 이는 주로 저작권, 프라이버시, 성별, 인종 등에 관련된 규범 차원의 논의, EU의 AI법과 같은 국가 또는 지역 차원의 법률 및 규제, 그리고 유엔과 주요 7개국(G7)이 주도하는 국제 AI 거버넌스 등으로 나눌 수 있을 것이다. 오는 22∼23일 유엔 총회에서는 ‘미래정상회의’를 개최하고 AI를 집중 논의할 예정이다. 결국 다양한 층위에서 진행되는 AI 논의는 서로 융합하여 포용적인 글로벌 AI 거버넌스로 결집되어야 할 것이다.
한편 포용적인 글로벌 AI 거버넌스 구축을 위해서는 AI에 대한 다양한 시각과 수요를 고려해야 할 필요가 있다. AI는 규제의 대상일 뿐만 아니라 강력한 성장 동력이 될 수 있다. AI의 오남용을 막기 위한 규제의 수립과 함께 AI의 긍정적 측면에 대한 접근도 동시에 필요하다. 그리고 북반구 선진국들 외에 경제성장 열망층을 형성하는 글로벌 사우스 국가들의 참여도 이끌어내야 할 것이다.
특히 글로벌 사우스 국가들은 AI를 전통적인 산업 발전의 문제를 극복하기 위한 새로운 접근법으로 간주하고 있다. 동남아시아국가연합(ASEAN·아세안)에 국한하여 살펴보면, 필리핀은 AI를 국가발전의 핵심 요소로 보며 2024년 국가 AI 전략 로드맵 2.0을 발표했다. 핵심은 헬스케어, 농업과 같은 주력 분야에서 AI를 통합하여 생산성과 효율성을 높이는 것이다. 말레이시아, 태국도 각각 국가 차원의 AI 로드맵과 전략을 발표했다. 미얀마나 라오스처럼 AI 준비 상태가 낮은 국가와의 격차를 해소하려는 노력도 필요하다. 자동화로 인한 일자리 상실과 같은 사회적 위험을 완화하는 안전망 구축도 함께 고려되어야 할 것이다.
세계지식포럼 강연 다음 날 필자와 만난 밀러 교수는 AI의 중심이 되기 위한 중동 국가들의 경쟁도 치열하다고 전했다. 밀러 교수의 다음 행선지는 사우디아라비아였다. 사우디 정부가 주최하는 글로벌 AI 서밋 2024는 올해 AI 분야의 가장 중요한 행사로 기대를 모으고 있다.
한국은 정부의 AI 준비 수준(Government AI Readiness Index)에서 세계 6위를 기록하고, AI 논의를 이끄는 선도국 중 하나다. 지난 5월21일 AI 서울 정상회의에서 안전하고 혁신적이며 포용적인 AI를 위한 ‘서울 선언 및 의향서’를 발표한 데 이어 9월 9∼10일에는 90여개국 정부 대표를 초청하여 ‘AI의 책임 있는 군사적 이용(REAIM)’에 관한 회의를 개최했다. AI가 가져올 기회와 위기에 모두 적극적으로 대응하는 한편 국제 무대에서도 서울 선언의 정신에 입각하여 더욱 의미 있는 역할을 할 수 있기를 기대한다.