인공지능(AI) 안전 문제가 유엔총회의 주요 의제로 오른다. AI 개발 속도가 안전장치 마련보다 빠르다는 우려가 커지는 가운데 각국 정상과 국제기구, AI 기업 관계자들이 안전기준과 국제 공조 방안을 논의한다.
특히 유엔 안전보장이사회(이하 안보리)가 AI와 국제 평화·안보를 주제로 별도 회의를 열고, 샘 올트먼 오픈AI 최고경영자(CEO)가 직접 브리핑에 나설 예정이어서 관심이 쏠린다.
20일 외신 등에 따르면 안토니우 구테흐스 유엔 사무총장은 최근 기자들과 만나 AI 개발 최전선에서 제기되는 우려를 외면해서는 안 된다며 AI가 유엔총회 기간 세계 정상들과의 주요 논의 주제가 될 것이라고 밝혔다.
유엔총회 일반토론은 현지시간 22일부터 28일까지 진행된다. 올해 제81차 총회는 ‘신뢰 회복, 변화 관리: 모두를 위해 성과를 내는 유엔’을 주제로 각국 정상과 정부 대표들이 국제 현안을 논의한다.
23일에는 AI 안전 문제를 집중적으로 다루는 안보리 회의도 열린다. 9월 안보리 의장국인 프랑스가 소집한 회의로, 장노엘 바로 프랑스 유럽·외무장관이 주재할 예정이다.
이번 회의 구상에는 AI에 대한 통제력을 잃을 위험과 최신 AI 모델이 국제 평화·안보에 영향을 미치는 행위에 활용될 가능성 등이 주요 논점으로 담겼다. 안전하고 책임 있는 AI 개발을 위해 국제사회가 공동 대응할 필요성도 논의될 예정이다.
올트먼 CEO도 이 회의에 직접 참석해 브리핑할 예정이다. 오픈AI 측은 그가 국제적 협력과 공통 안전기준 마련의 필요성 등을 강조할 것으로 예상된다고 밝혔다.
올트먼 CEO는 최근 AI 개발 속도와 안전 문제를 둘러싼 논의에 목소리를 내고 있다. 다리오 아모데이 앤트로픽 CEO 등 주요 AI 업계 인사들도 개발 속도를 조절하고 안전장치를 강화할 필요성을 제기하면서 국제적인 AI 안전 논의가 확대되고 있다.
24일에는 AI 안전단체 ‘AI 세이프티 커넥트’가 주도하고 유엔개발계획(UNDP)과 유네스코, 일부 회원국 대표부 등이 공동 주최하는 AI 위기 대응 관련 부대행사도 유엔본부에서 열릴 예정이다.
이 자리에서는 AI 모델 출시 전 안전성 시험과 독립적인 제3자 평가, 국제적으로 통용될 수 있는 공통 안전기준 마련, AI 관련 위기 발생 시 국가 간 공조 방안 등이 논의될 것으로 알려졌다.
관건은 AI 기업들이 내놓는 안전 약속을 국제사회 차원의 구체적인 규범과 협력 체계로 발전시킬 수 있을지다.
AI 거버넌스 전문가이자 ‘AI 세이프티 커넥트’ 공동설립자인 니콜라 미아유는 이번 유엔총회를 계기로 기업의 AI 안전 약속에 국제사회가 무엇을 요구하고 누가 이를 감시할 것인지에 대한 논의가 구체화할 수 있다고 내다봤다.
구테흐스 사무총장도 AI 안전 문제를 개별 국가의 대응만으로 해결하기 어려운 과제로 보고 국제 공조의 필요성을 강조하고 있다. 그는 AI 역량이 높은 국가들이 정보를 공유하고 투명성과 안전장치를 확보하는 한편 궁극적으로 AI 위험을 관리할 다자 체제를 구축해야 한다는 입장이다.
그러나 AI 기술 주도권을 둘러싼 미국과 중국의 경쟁이 치열한 만큼 국제적인 공통 기준 마련이 쉽지 않을 것이라는 관측도 나온다.
미국과 중국은 AI 기술 경쟁에서 각각 자국의 기술 경쟁력과 산업적 우위를 확보하는 데 주력하고 있다. 이런 상황에서 AI 개발 속도와 규제 수준, 안전기준 등을 둘러싼 국가별 이해관계를 조율하는 것이 국제사회의 과제로 남아 있다.
유엔총회 고위급 주간에 이어 예정된 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석의 정상회담에서도 AI 문제가 논의될 가능성이 거론된다. 이에 따라 유엔에서 제기된 AI 안전 및 국제 공조 논의가 미중 간 협의로까지 이어질 수 있을지 주목된다.