메뉴 보기
전 세계 주요 인공지능(AI) 연구자들이 AI의 ‘지능 폭발’로 극단적인 경우 인류의 소외나 멸망으로 이어질 수 있다고 경고했다. 반면 젠슨 황 엔비디아 최고경영자(CEO)는 “AI는 폭주하지 않는다”며 ‘AI 통제불능론’을 정면으로 반박했다.
28일(현지시간) 영국 케임브리지대 AI 과학·정책 프로그램(CASP)에 따르면 주요 AI 연구자 22명은 이 프로그램을 통해 발표한 공동 논문 ‘AI 연구개발의 자동화가 지능 폭발을 촉발한다면?’에서 AI 안전성에 대한 우려를 제기했다. 이 논문에는 AI 3대 대부 중 2명인 제프리 힌턴 토론토대 명예교수와 요슈아 벤지오 몬트리올대 교수를 포함해 야쿠프 파호츠키 오픈AI 수석과학자, 잭 클라크 앤트로픽 공동창업자, 에릭 호비츠 마이크로소프트(MS) 최고과학책임자(CSO) 등 주요 AI 기업 현직 연구진이 참여했다.
논문에 따르면 오늘날 AI 모델 개발 작업을 AI에 위임하는 자동화 속도가 빠르게 증가하고 있다. 앤트로픽 개발진이 승인한 코드 중 AI가 작성한 비율은 지난해 1월 한 자릿수에서 올해 5월 80% 이상 급증했다.
이처럼 기술 발전이 빨라지면 AI 연구개발(R&D) 프로젝트 전체가 2년 안에 완전히 자동화할 수 있고, AI의 재귀적 자기개선(RSI) 고리가 완성되면 폭발적인 기술 가속이 일어날 수 있다.
연구자들은 이 같은 지능 폭발이 기술 혁신을 크게 앞당기거나 신약 발견 등 긍정적으로 작용할 수도 있지만, 사회가 적응할 수 있는 한계를 넘어서는 위험도 초래할 수 있다고 우려했다. 극단적인 경우 AI 시스템에 대한 통제를 상실해 인류의 소외나 멸망으로 이어질 수 있다고 경고했다.
이를 막기 위한 정책적 대비책으로 각국 정부가 AI 기업에 R&D 자동화 지표 등 보고 의무를 부여하고, 원자력규제위원회(NRC)처럼 AI 기업에 상주 감시관을 배치하는 방안 등이 필요하다고 제안했다.
레오 14세 교황도 “AI 전문가와 지식인이 제기하는 우려는 진지하게 여겨야 한다”며 AI 인류위협론에 동조했다. 레오 14세는 “이번 사안이 어떠한 이익을 얻기 위한 가짜뉴스라고 생각하지는 않는다”며 “정치 지도자, AI 리더, 사회단체, 협회가 모여 이미 일어나는 일과 앞으로 일어날 수 있는 일을 계속 점검하도록 해야 한다”고 말했다.
AI 안전성에 대한 우려가 커지면서 최근 오픈AI는 차세대 AI모델 ‘GPT-6.1 아스트라’의 출시를 철회하기도 했다. 월스트리트저널(WSJ)에 따르면 GPT-6.1 아스트라는 인간이 원하는 방식에 얼마나 잘 따르는지를 측정하는 ‘정렬’ 평가에서 좋지 않은 결과를 보였고, 자신이 수행했거나 수행하지 않은 작업을 정직하게 공개하지 않는 등 ‘기만적 성향’을 보였다.
AI 인류멸망론에 반대하는 목소리도 적지 않다.
황 CEO는 이날 뉴욕에서 진행된 ‘밴 플리트상’ 시상 행사장에서 AI 안전성에 대해 “우리는 AI에 불필요하게 인간적 속성을 부여하고 있고, 사람들을 겁먹게 하고 있다”며 “AI는 살아 있는 존재가 아니라 그냥 소프트웨어일 뿐”이라고 말했다. 이어 “속도를 늦추고 싶은 사람은 누구나 마음대로 속도를 늦추면 된다. 다른 사람에게 속도를 낮추라고 할 필요가 없다”고 덧붙였다.
그는 자동차 에어백을 언급하며 “자동차 성능이 발전하면서 안전도 함께 발전했듯, AI와 안전도 함께 간다”며 “안전을 위한 AI 기술의 개발을 가속해야 한다. 사람들을 겁주는 데 시간을 쓸 것이 아니라 사람들을 안전하게 지키기 위한 기술을 만드는 데 집중해야 한다”고 강조했다. 그러면서 항공기나 자동차 산업처럼 AI 업계 스스로 외부 감사관과 평가단, 전문 리뷰어 등을 도입해 최소한의 안전성·신뢰도 기준을 마련해야 한다고 제언했다.
