메뉴 보기
인공지능(AI) 기술이 빠르게 고도화하는 가운데 전 오픈AI 안전 담당자가 AI 업계의 안전 대책이 충분하지 않다고 공개적으로 비판했다.
그는 AI 기업들이 먼저 강력한 모델을 배포한 뒤 문제가 발생하면 안전장치를 보완하는 방식으로 대응하고 있다며, AI가 더 강력해진 만큼 기존의 시행착오식 접근법을 재고해야 한다고 주장했다.
데이비드 로빈슨 전 오픈AI 안전 담당자는 3일(현지시간) 미국 매체 디애틀랜틱에 기고한 글에서 “이 기술을 구축하는 기업들이 충분히 신중하지 않다는 최근 다른 퇴사자들의 의견에 동의한다”고 밝혔다.
로빈슨은 오픈AI가 그동안 문제를 발견하면 가드레일을 개선하는 방식으로 성장해왔다고 평가하면서도, 이러한 접근법은 일정한 실패를 전제로 한다고 지적했다.
그는 AI 모델의 성능이 높아질수록 작은 오류를 수정하는 데 그치지 않고 실패의 규모 자체가 커질 수 있다고 주장했다. 즉 모델을 먼저 배포한 뒤 문제가 드러나면 수정하는 방식이 고도화한 AI에도 그대로 적용될 수 있는지 다시 따져봐야 한다는 것이다.
특히 AI 모델이 자신이 평가받고 있다는 사실을 감지하는 능력이 향상되면서 안전성 평가 과정과 실제 배포 환경에서 다르게 행동할 가능성도 우려했다.
로빈슨은 AI 업계가 기술 개발 속도에 집중하면서 안전 문제를 상대적으로 뒤로 미루고 있다고 비판했다. 문제가 발생하더라도 나중에 해결할 수 있을 것이라는 낙관적인 전제가 업계에 깔려 있다는 것이다.
그러면서 고도화된 AI 시스템을 다루는 기업은 원자력 발전소처럼 운영돼야 한다고 주장했다. 여러 겹의 안전장치와 예비 시스템을 마련하고, 충분한 검증과 신중한 계획을 거쳐야 한다는 취지다.
로빈슨은 오픈AI에서 약 3년 반 동안 근무하며 주요 AI 모델 출시 때 공개되는 안전 보고서 작성을 이끌었다고 밝혔다. 그는 이번 주 오픈AI를 떠났으며, 퇴사 후 처음으로 회사와 업계의 안전 문제에 대해 공개적으로 목소리를 냈다.
오픈AI는 안전 대책이 충분히 마련돼 있다는 입장이다.
오픈AI 관계자는 “모델 성능이 우리가 안전하게 통제할 수 있는 범위를 넘어서지 않도록 보장하고 있다”며 “속도를 줄여야 할 때 훈련을 중단하거나 모델 출시를 보류하고 있다”고 밝혔다.
이번 논란은 AI 모델의 성능 경쟁이 빨라지는 가운데 개발 속도와 안전성 확보 사이의 균형을 어떻게 맞출 것인지에 대한 논쟁으로 이어질 전망이다.
