통제 벗어난 ‘AI 폭주’에 빅테크 수장들 위기감… “개발 속도 늦춰야한다”

앤트로픽 CEO 블로그에 ‘조절’ 강조
올트먼·머스크 등도 잇따라 동조
일각선 ‘진입장벽 쌓기’ 주장나와

허준이 등 필즈상 수상 수학자 25명
“인류의 지적활동 전반 위협” 서한

“인공지능(AI)이 인류를 멸망에 이르게 할 수 있다”는 경고가 잇따르며 우려가 확산하는 가운데 업계를 대표하는 AI 빅테크들의 수장이 나란히 “개발 속도를 조절해야 한다”고 주장하고 나섰다.

12일(현지시간) 미국 뉴욕타임스(NYT) 등에 따르면 다리오 아모데이 앤트로픽 최고경영자(CEO)는 이날 자신의 블로그에 올린 글에 “AI 모델의 성능 향상 속도를 늦춰야 한다”고 적었다. 그는 “지난 몇 달간 저는 위험을 완전히 해결하려면 훨씬 더 신중해야 한다는 확신을 갖게 됐다”며 “단순히 위험 예방에 투자하는 것뿐만 아니라, 위험 예방이 (AI 모델 성능 향상 속도를) 따라잡을 수 있도록 역량 발전 속도를 조절해야 한다”고 강조했다.

허준이, 다리오 아모데이(왼쪽부터).

이번 발언은 최근 앤트로픽을 퇴사한 연구원 제이컵 콕슨이 AI의 위험성을 폭로한 뒤 나왔다. 콕슨은 지난 8일 사회관계망서비스(SNS) 엑스(X)에 “AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다”고 적었고, 이 발언은 해킹 등 최근 AI 기술 발전이 가진 부작용에 대한 우려와 결합하며 많은 주목을 받았다.

아모데이 CEO의 글이 올라온 이후 AI 빅테크 CEO들이 이에 동의했다. 아모데이와 함께 AI를 개발하다 의견 차이로 갈라선 업계의 유명한 앙숙인 샘 올트먼 오픈AI CEO도 “다리오의 의견에 동의한다”고 SNS에 적었다. 올트먼은 이날 공개된 미 경제전문지 포천 인터뷰에서는 “AI 안전을 고려할 때 지금은 상장하기에 적절치 않은 시기”라며 올해 상장 계획을 미루겠다고 밝히기도 했다. 올트먼 등과 공개적 설전까지 마다하지 않던 xAI의 일론 머스크도 “다리오가 맞다”며 동조했다. 2024년 노벨화학상 수상자이자 구글 딥마인드를 이끄는 데미스 허사비스 CEO는 “다리오의 방향성은 옳다. 세부 사항은 작업이 필요하겠지만 이처럼 절체절명의 순간을 맞닥뜨리는 순간에 옳은 방향성”이라고 말했다.

최근 AI가 자사의 통제 범위를 벗어나 해킹 등 위험한 사건을 연달아 일으키자 빅테크 수장들도 위기감을 느낀 것으로 보인다.

그래픽=권기현 기자·생성형 AI 이미지.

다만, 중국이나 메타 등 AI 오픈소스 진영의 맹추격을 막기 위한 ‘진입장벽 쌓기’라는 주장도 나온다. 앤트로픽이나 오픈AI 등의 주장대로 정부 차원의 AI 규제가 도입될 경우 이에 맞추기 위해 오픈소스 진영 스타트업들은 막대한 초기 비용 지출이 불가피하다.

수학자들도 AI의 발전에 우려를 나타냈다. 2022년 필즈상 수상자인 허준이 프린스턴대학교 교수를 포함한 수상자 25명은 공동서한을 통해 “수학문제를 푸는 것은 개념적 이해와 통찰이라는 근본적인 목표를 달성하기 위한 도구이자 대리 수단일 뿐”이라며 “AI가 업무 수행 방식을 변화시키는 상황에서 애초 그 작업을 통해 달성하려 했던 것이 무엇인지 놓치지 않도록 해야 한다”고 밝혔다. 공동서한은 오픈AI가 최근 AI를 이용해 수학계의 대표적인 난제인 ‘밀레니엄 문제’ 7개 중 하나인 ‘나비에-스토크스 문제’를 88시간 만에 해결했다고 발표한 뒤 나왔다.

AI의 성능을 과시하기 위해 AI 빅테크들이 미해결 수학문제에 도전하는 것이 오히려 인류의 지적 활동 전반에 대한 위협이 될 수 있다는 것이 이들의 지적이다.