메뉴 보기
인공지능(AI)의 발전이 급격히 이루어지며 공상과학(SF) 영화 등에서만 봤던 ‘AI의 위협’에 대한 우려도 점점 커지고 있다. AI가 인간을 감시하거나, 심지어 영화 ‘터미네이터 2’에서처럼 핵무기를 인간의 동의 없이 발사할 수 있다는 공포까지 생겨난 것이다. AI 발전을 견인한 기술경쟁의 두 축인 미국과 중국이 커지는 우려에 대응하기 위한 초기 논의에 나섰다.
6일(현지시간) 미국 월스트리트저널(WSJ)은 소식통을 인용해 AI 경쟁이 통제 불가능한 위기로 번지는 것을 막기 위해 양국이 공식 대화 채널 구축을 검토 중이라고 보도했다. 미국 측에서는 스콧 베선트 재무장관이 AI 협상 라인을 총괄하고 있으며 중국은 아직 공식 카운터파트를 확정하지 않은 상태로 랴오민 재정부 부부장이 관련 논의에 참여하고 있는 것으로 전해졌다.
현재 논의되는 내용에는 예상치 못한 AI 모델 오작동, 자율무기 시스템 위험, 비국가 행위자의 오픈소스 AI 악용, 사이버 공격 등 AI 기반 안보 리스크 관리가 포함된 것으로 보인다. 양국 내부에서는 장기적으로 AI 핫라인 구축 가능성까지 거론되고 있다고 WSJ는 전했다. AI 핫라인은 과거 미국과 옛소련 사이 핵위기 통제 시스템처럼 AI 충돌 위험을 관리하기 위한 고위급 직통 소통망 개념이라고 이 매체는 설명했다.
양국이 공식 AI 협의체를 출범시킬 경우 이는 트럼프 행정부 출범 이후 첫 미·중 AI 대화가 된다. 14~15일 중국 베이징에서 열릴 도널드 트럼프 대통령과 시진핑 중국 국가주석 간의 미·중 정상회담 테이블에 AI 문제가 올라가 논의가 더 빠르게 구체화될 가능성도 언급되고 있다.
이미 미·중은 조 바이든 행정부 시절인 2023년 관련 대화를 나눠 “핵 발사 결정 권한은 AI가 아니라 인간이 유지한다”는 기본 원칙에 합의한 바 있으나, 이후 트럼프 행정부가 출범하며 추가적 진전은 제한적이었다고 WSJ는 전했다. 그러나 이후 3년 만에 AI가 눈부시게 발전하며 양국 정부의 인식도 변화했다. 이 매체는 “강력한 AI 모델 개발 경쟁이 어느 쪽도 감당하지 못할 위기를 초래할 수 있다는 인식을 양국이 공유하고 있다”고 최근 분위기를 전했다.
특히, 미국은 AI 모델의 사전 심사 도입 논의가 구체화되는 등 최근 정부 내부에서 AI에 대한 인식 변화가 빨라지고 있다. 트럼프 대통령은 2기 집권 이후 AI가 중국과의 경쟁에서 승리하는 데 필수적이라는 인식 아래 불개입 입장을 지속해서 유지해왔으며, AI 개발과 활용에 안전장치를 도입해온 바이든 행정부의 규제도 지속해서 철폐해왔다. 그러나 전문가 수준의 소프트웨어 취약점 탐지 능력을 갖춘 앤트로픽의 ‘미토스’가 지난달 등장한 뒤로 트럼프 행정부 내에서도 AI가 국가 보안 시스템 자체를 뒤흔들 수 있다는 우려가 커지고 있는 것으로 알려졌다.
이미 바이든 행정부와 논의를 해왔던 중국 정부도 트럼프 행정부와 논의에는 적극적이다. 워싱턴 주재 중국 대사관의 류펑위 대변인은 중국이 AI 위험 완화와 관련해 소통할 준비가 되어 있다고 밝혔다.
다만, AI 위험 관리를 위한 양국 간 공식 채널과 핫라인이 마련돼도 제대로 작동할지는 미지수다. AI가 향후 글로벌 주도권을 잡는 데에 필수적이라는 인식 속 양국간 경쟁이 워낙 치열하기 때문이다. 경쟁에서 우위를 점할 수 있는 신기술이 등장할 경우, 논의했던 안전장치들이 작동할지 장담할 수 없다는 것이다. 미국과 중국은 이미 안보 등과 관련한 국방 전용 전화선과 기타 위기 대응 채널을 유지하고 있지만, 정작 위기 때는 이 핫라인이 제대로 작동하지 않았다. 러시 도시 미국 외교협회(CFR) 연구원은 “근본적인 문제는 핫라인을 구축할 것인가가 아니라 핫라인이 사용될 것인가”라며 “2001년 미국 EP-3 정찰기가 중국 전투기와 충돌했을 때와 2023년 중국 정찰 풍선이 미국 영공을 통과했을 때, 중국 당국자들이 핫라인에 응답하지 않았다”고 지적했다.
이런 우려에 미·중 AI 개발진 간의 민간 차원의 논의도 이어지고 있다. 미국 측 인사들과 중국 칭화대 및 주요 AI 기업 관계자들이 참여해 첨단 AI 모델 안전성 문제와 ‘가드레일(안전장치)’ 설계 등이 논의 중이라고 WSJ는 전했다.
