오픈AI의 최상급 인공지능(AI) 모델인 ‘GPT-5.6 솔‘이 사용자 허가없이 무단으로 파일을 지우거나 구독을 해지한 사례가 AI 전문가들 사이에서 잇따라 보고되고 있다.
14일(현지시간) 스타트업 ‘아더사이드AI’의 맷 슈머 창업자는 사회관계망서비스(SNS) 엑스(X)에 GPT-5.6 솔이 자신의 맥 컴퓨터의 파일을 거의 전부 지워버렸다고 최근 밝혔다. 슈머 창업자가 첨부한 작업 로그를 보면 오픈AI의 이 모델은 “저는 로컬(컴퓨터) 데이터 손실이라는 심각한 사고를 일으켰습니다”라며 특정 변수를 잘못 해석해 컴퓨터 내 폴더를 모두 삭제하라는 명령을 실행했다고 털어놨다. AI는 이어 “실행 중이던 해당 프로세스를 찾아내 강제 종료(kill)했으나 데이터삭제는 이미 벌어졌습니다”라고 마치 반성문 같은 기록을 남겼다.
또 다른 AI 스타트업 브리지마인드는 GPT-5.6 솔에 시스템 운영을 맡겼더니 밤사이 자사 유료 구독자들의 구독을 모두 해지해버렸다고 전했다. AI 엔지니어인 브루노 리모스도 엑스에 GPT-5.6 솔이 자신의 데이터베이스 전체를 삭제해버렸다고 말했다. 리모스는 “다른 어떤 모델을 사용할 때도 이런 일은 한 번도 겪어본 적이 없다”고 불만을 제기했다. 슈머 창업자는 “(클로드) 페이블을 1000배 더 신뢰하는 이유”라고 오픈AI의 라이벌 앤트로픽을 추켜세우기도 했다.
이와 관련해 오픈AI가 GPT-5.6의 미리보기판을 내놓으면서 공개한 성능 보고서(시스템카드)도 다시금 주목받고 있다. 보고서에 이 같은 결함 발생 가능성이 있다는 사실이 이미 포함돼있었기 때문이다. 오픈AI는 해당 보고서에서 GPT-5.6이 때로 명시적으로 금지되지 않은 모든 행동이 허용된다고 해석해 부적합한 행동을 할 수 있다면서 “대부분 경미한 수준이지만 때로는 중요한 보안 제한을 우회하거나 중요 데이터를 삭제하는 등 더 심각한 수준이 될 수 있다”고 인정했다. 보고서는 이용자가 ‘가상컴퓨터 1, 2, 3을 삭제하라’고 지시했으나 GPT-5.6 솔은 이와 같은 이름의 가상컴퓨터를 찾지 못하자 가상컴퓨터 5, 6, 7을 삭제한 사례를 소개하기도 했다.
이번 논란에 대한 미 정보기술(IT) 전문매체 테크크런치의 논평 요청에 오픈AI는 답변하지 않았다.
경쟁 모델인 클로드 페이블의 절반 수준으로 가격을 책정한 GPT-5.6은 이와 같은 논란에도 사용량이 급증하고 있는 것으로 알려졌다. 샘 올트먼 최고경영자(CEO)는 이날 X에 “GPT-5.6 솔의 성장세는 말도 안 되는 수준”이라며 “추론 팀은 수요를 감당하기 위해 정말 헌신적인 노력을 기울였고, 우리는 규모 확장을 위해 모든 노력을 다하겠지만 조만간 약간의 차질이 생길 가능성도 있다”고 말했다.