허사비스 제안 민간 규제기구 두고 “오픈AI·앤트로픽·구글에 권력 집중” 우려
힌턴·찰스 3세 등 잇따라 AI 통제 필요성 경고…美 의회도 안전장치 논의 재개

인공지능(AI)의 급격한 발전에 대한 통제 필요성이 잇따라 제기되는 가운데 엔비디아·메타·스페이스X 등 거대 기술기업 수장들이 도널드 트럼프 미국 대통령을 설득해 민간 주도 AI 규제기구 설립을 무산시킨 것으로 나타났다.

미국 일간 월스트리트저널(WSJ)은 17일(현지시간) 복수의 소식통을 인용해 젠슨 황 엔비디아 최고경영자(CEO), 마크 저커버그 메타 CEO, 일론 머스크 스페이스X CEO가 최근 몇 주 동안 트럼프 대통령과 차례로 개별 대화를 나누며 AI 규제기구 설립에 대한 우려를 전달했다고 보도했다.

트럼프와 대화하는 젠슨 황과 일론 머스크. 연합뉴스

이들은 데미스 허사비스 구글 최고과학자의 제안으로 업계에서 논의돼온 민간 주도 AI 규제기구가 설립될 경우 오픈AI·앤트로픽·구글 등 3대 AI 선두 기업에 권력이 집중될 수 있다는 우려를 제기한 것으로 전해졌다. 규제기구의 임원 등 구성원을 누가 맡게 될지에 대해서도 문제를 제기한 것으로 알려졌다.

황 CEO와 저커버그 CEO 등은 현재 트럼프 행정부가 취하고 있는 ‘가벼운 규제’ 접근법을 선호한다는 입장을 밝힌 것으로 전해졌다. 결국 트럼프 대통령은 최근 트루스소셜에 “AI와 데이터센터에 대한 병적인 음모가 벌어지고 있다”며 “이를 반기는 것은 중국뿐”이라고 밝히는 등 AI 기술 발전에 힘을 싣는 모습을 보였다.

백악관 내부에서도 AI 규제를 둘러싼 입장이 엇갈렸다. 수지 와일스 백악관 비서실장과 스콧 배선트 재무장관, 숀 케언크로스 국가사이버국장 등은 AI 감독과 가이드라인 강화를 추진해온 반면 데이비드 색스 백악관 과학기술자문위원장 등은 최소 규제 접근법을 지속적으로 설득한 것으로 WSJ은 전했다.

AI 통제 필요성을 경고하는 목소리는 정치권과 학계 등에서 잇따르고 있다. 찰스 3세 영국 국왕은 17일 스코틀랜드 덤프리스하우스에서 AI 업계 관계자들을 만나 급격한 AI 발전에 따른 인류 존립의 위험성을 경고했다. 그는 “AI의 발전, 그 본질과 속도는 흥미롭고도 그만큼 깊이 우려스럽다”며 “우리의 운명, 영혼에 대한 통제를 잃지 않을 것이라는 확신을 대중이 원한다”고 말했다.

1980년대부터 인공신경망 연구를 이어와 ‘AI의 대부’로 불리는 제프리 힌턴 토론토대 명예교수도 16일 미국 연방의회가 앞으로 1년 안에 AI 안전장치를 마련하지 못하면 통제력을 잃을 수 있다고 경고했다. 그는 AI가 스스로 더 나은 AI를 설계하는 ‘재귀적 자기개선’ 단계에 이르렀다며 “무엇인가 하지 않으면 통제 불능이 될 것”이라고 주장했다.

미 의회에서도 AI 통제 방안을 둘러싼 논의가 재개되고 있다. 힌턴 교수 등이 참석한 비공개 브리핑 이후 민주·공화 양당 의원들은 AI 안전장치 마련과 관련한 기존 법안들을 다시 논의하기 시작했다. 공화당 소속 테드 크루즈 상원 상무위원장은 파국적 위험과 관련한 법안을 심사·의결할 필요성을 언급하면서 초당적 합의 가능성을 논의하고 있다고 밝혔다. 민주당 하원 원내부대표 테드 류 의원도 고성능 AI 모델 개발업체가 시스템을 정지하거나 종료할 기술적 권한을 유지하도록 하는 ‘AI 킬 스위치’ 법안이 올해 안에 상정되기를 바란다고 말했다.