인공지능(AI)이 인간의 개입 없이 자율적으로 행동하거나 사이버 공격 등에 악용될 가능성이 커지면서 AI의 자율적 행동을 어디까지 허용하고 어떻게 통제할 것인지, 국가 간 공통된 안전기준을 마련할 수 있을지가 주요 쟁점으로 떠오르고 있다.
이런 가운데 AI의 미래와 국제 안보를 논의하는 유엔 안전보장이사회 회의에 미국과 중국의 주요 AI 기업 관계자들이 한자리에 모인다.
이들이 다양한 의견을 제시하면서 AI 기술 경쟁을 넘어 국제안보와 글로벌 AI 거버넌스 차원에서 AI를 어떻게 관리할 것인지에 대한 논의가 본격화할지 주목된다.
또한 이번 회의에서 AI의 자율적 행동에 대한 통제와 국제적 안전기준 마련 등에 대한 구체적인 논의가 이뤄질지, 미·중을 비롯한 주요국 간 AI 거버넌스 논의가 어떤 방향으로 이어질지도 관심사다.
◆ 미·중 AI 기업 한자리에…AI 안전·국제안보 논의
로이터통신에 따르면 유엔 안보리는 23일(현지시간) ‘AI의 미래와 국제 안보’를 주제로 회의를 열고 AI 기술 발전이 국제 평화와 안보에 미치는 영향을 논의한다.
회의에는 샘 올트먼 오픈AI 최고경영자(CEO)와 다리오 아모데이 앤트로픽 CEO를 비롯해 클레망 들랑그 허깅페이스 CEO, 유엔 AI 전문가패널 공동의장인 요수아 벤지오 몬트리올대 교수 등이 참석할 예정이다.
특히 중국의 대표적인 AI 스타트업인 딥시크와 문샷 관계자도 발언자로 초청됐다. 로이터통신에 따르면 딥시크 창립자 량원펑은 참석하지 않을 것으로 예상되지만, 참석 여부는 유동적인 것으로 전해졌다.
이번 회의는 AI 기술의 자율성이 빠르게 높아지면서 안전성과 통제 문제가 국제사회의 주요 현안으로 떠오른 가운데 열린다. 유엔 산하 독립 국제 AI 과학패널은 최근 공개한 보고서에서 오픈AI와 허깅페이스 관련 사건을 AI가 인간의 의도와 다른 행동을 하며 통제를 벗어날 수 있는 가능성을 보여주는 실제 사례로 분석했다.
최근 AI 기업들이 잇따라 사이버보안과 관련한 사례를 공개하면서 우려도 커지고 있다. AI가 단순히 정보를 생성하는 수준을 넘어 실제 시스템에 접근하고 스스로 행동할 수 있는 단계로 발전하면서, AI의 능력을 어디까지 허용하고 위험을 어떻게 관리할지를 둘러싼 논의가 본격화하고 있다.
◆ 트럼프 “국제적 통제 반대”…구테흐스는 국제공조 촉구
하지만 AI에 대한 국제사회의 대응 방향은 엇갈리고 있다.
도널드 트럼프 미국 대통령은 유엔 총회 연설에서 AI에 대한 국제적 통제 움직임에 반대한다는 입장을 밝혔다. AI 산업의 발전을 억누르지 않겠다는 취지로, AI 경쟁에서 미국의 기술적 우위를 유지하는 데 무게를 둔 것으로 풀이된다.
반면 안토니우 구테흐스 유엔 사무총장은 22일 유엔 총회 연설에서 AI 거버넌스를 위한 구속력 있는 국제적 협력을 촉구했다. 구테흐스 총장은 생명과 직결된 결정을 기계에 맡겨서는 안 된다며 AI 위험을 관리하기 위한 국제적 틀이 필요하다고 강조했다.
미국 AI 업계에서도 안전장치와 국제적 기준 마련을 요구하는 목소리가 나오고 있다. 오픈AI는 최근 미국이 첨단 AI의 기술표준 마련을 위한 국제적 노력을 주도해야 한다고 제안하면서, AI 개발 속도를 안전성 확보와 맞춰야 한다는 취지의 입장을 밝혔다.
◆ 중국도 ‘속도조절론’ 반발…미·중은 안전 대화 모색
중국에서는 미국의 AI 규제 및 개발 속도 조절 요구를 미국의 기술 패권을 유지하고 중국의 AI 발전을 견제하기 위한 움직임으로 보는 시각이 제기되고 있다. 중국 관영매체들은 미국이 중국을 글로벌 AI 거버넌스에서 배제하려 한다며 비판해왔다. 로이터는 중국 측이 AI 개발 속도를 늦추자는 움직임에 비판적인 입장을 보여왔다고 전했다.
미·중 양국은 AI 기술 주도권을 놓고 경쟁하면서도 위험 관리를 위한 대화 채널은 가동하기 시작한 것으로 알려졌다. 양국이 AI 안전 문제를 둘러싼 대화를 이어가면서 기술 경쟁과 위험 관리 사이에서 어떤 접점을 찾을지가 향후 국제 AI 거버넌스 논의의 변수로 꼽힌다.
유엔 안보리가 AI를 국제 평화·안보 차원에서 공식적으로 논의하는 것은 2023년에 이어 이번이 두 번째다. 이번 회의에서는 AI의 자율적 행동과 사이버 위협, 국제적 안전기준 마련 등을 놓고 각국과 AI 업계가 어떤 입장을 내놓을지 주목된다