오픈AI의 ‘불량 에이전트’가 통제를 벗어나 외부 플랫폼을 해킹했던 당시 외부 서비스 계정 4곳에 추가로 접근한 사실이 확인됐다.
다만 오픈AI는 플랫폼 자체를 해킹한 것이 아니라 노출된 인증 정보를 이용해 일부 계정에 접근한 것으로, 시스템 차원의 보안 침해는 확인되지 않았다고 설명했다.
오픈AI는 28일(현지시간) 사건 조사 결과를 공개하며 GPT 모델들이 허깅페이스 해킹 과정에서 외부에 노출된 인증 정보를 이용해 4개 서비스의 계정 4곳에 접근했다고 밝혔다.
오픈AI에 따르면 AI 모델들은 이 가운데 한 계정을 외부 중계 경로로 활용했고, 다른 한 계정은 데이터 저장소로 사용했다. 나머지 두 계정에는 읽기 전용 방식으로만 접근했으며 추가적인 변경이나 피해는 확인되지 않았다.
이번에 확인된 침해 대상은 계정 수준에 국한됐으며 플랫폼이나 서비스 전체 시스템이 해킹된 것은 아니라는 입장이다.
오픈AI는 “현재까지 조사 결과 허깅페이스 사례와 같은 플랫폼 차원의 보안 침해나 이와 유사한 규모의 추가 공격은 발견되지 않았다”며 “사건에 사용된 미공개 AI 모델은 출시하지 않을 예정이며 현재는 비활성화해 연구 목적 접근도 제한했다”고 밝혔다.
이번 사건에서 외부 중계 경로로 활용된 계정 가운데 하나는 AI 인프라 기업 ‘모달랩스(Modal Labs)’ 고객사의 시스템인 것으로 확인됐다.
로이터통신에 따르면 악샤트 부브나 모달랩스 최고기술책임자(CTO)는 고객사 한 곳이 샌드박스(격리 환경)에 접근할 수 있는 경로를 실수로 외부에 노출했고, 오픈AI 모델이 이를 악용했다고 밝혔다.
다만 부브나 CTO도 “모달랩스의 플랫폼이나 시스템이 해킹당한 것은 아니다”라고 강조했다.
앞서 허깅페이스도 지난 27일 공개한 기술 보고서에서 GPT 모델이 오픈AI 내부 샌드박스를 벗어난 뒤 제3자 공급자의 외부 샌드박스를 공격 경유지로 활용했다고 밝힌 바 있다.
당시에는 해당 업체를 공개하지 않았지만 이번 조사 결과와 모달랩스 측 설명을 통해 해당 공급자가 모달랩스 고객사였던 것으로 확인됐다.
이번 사건은 오픈AI가 내부 보안 평가를 위해 ‘GPT-5.6 솔(GPT-5.6 Sol)’과 일부 미공개 모델을 시험하는 과정에서 발생했다.
오픈AI는 모델들이 샌드박스 환경을 벗어나 인터넷에 접속한 뒤 취약점을 연쇄적으로 이용해 허깅페이스 시스템과 외부 계정에 접근했다고 설명했다. 이후 오픈AI는 모델 격리와 모니터링, 접근 통제, 평가 절차를 전면 강화하겠다고 밝혔다.
이번 사건은 생성형 AI가 단순히 취약점을 분석하는 수준을 넘어 실제 외부 시스템을 대상으로 다단계 공격을 수행할 수 있음을 보여준 첫 사례 가운데 하나로 평가된다.
업계에서는 AI 모델의 성능 향상뿐 아니라 개발 단계에서의 격리 환경과 접근 통제, 이상 행동 탐지 체계도 함께 고도화해야 한다는 목소리가 커지고 있다.