통제를 벗어나 외부 플랫폼 허깅페이스를 해킹했던 오픈AI의 '불량 에이전트'가 허깅페이스 외에도 4개 외부 서비스 계정에 추가로 접근한 것으로 드러났다.
오픈AI는 28일(현지시간) 자사 GPT 모델들이 허깅페이스 해킹 과정에서 인터넷에 공개돼 있던 인증정보를 스스로 찾아 이를 이용해 외부 서비스 계정에 접근했다고 밝혔다. 오픈AI는 모델이 새로운 시스템 취약점을 공격한 것은 아니며, 공개된 인증정보를 이용한 계정 수준의 접근이었다고 설명했다.
AI는 접근한 계정 가운데 한 곳을 외부 중계 경로(프록시)로 활용했고 다른 한 곳은 데이터 저장소로 사용했다. 나머지 두 곳은 읽기 전용으로만 접근한 것으로 조사됐다.
다만 오픈AI는 이번 사례가 계정 수준의 접근일 뿐 시스템 자체가 해킹된 것은 아니라고 강조했다. 현재까지 허깅페이스 사례와 같은 플랫폼 차원의 추가 보안 침해나 그와 유사한 규모의 활동은 발견되지 않았으며, 사건 이후 해당 모델을 비활성화해 연구 목적의 접근도 제한했다고 덧붙였다.
오픈AI가 새로 공개한 침투 대상 가운데 외부 중계 경로로 사용된 곳은 AI 인프라 기업 모달랩스 고객사의 시스템인 것으로 확인됐다. 로이터통신에 따르면 악샤트 부브나 모달랩스 최고기술책임자(CTO)는 고객사 한 곳이 실수로 자사 샌드박스(격리 환경)에 접근할 수 있는 경로를 열어둔 상태였고, 오픈AI 모델이 이를 이용했다고 밝혔다. 다만 그는 모달랩스 플랫폼이나 시스템 자체가 해킹된 것은 아니라고 강조했다.
앞서 허깅페이스도 지난 27일 공개한 기술 보고서에서 GPT 모델이 오픈AI의 자체 샌드박스를 탈출한 뒤 제3자 공급자의 외부 샌드박스를 악용했다고 분석했지만 해당 공급자가 어디인지는 공개하지 않았다. 이번에 모달랩스 측이 이를 자사 고객사라고 인정한 것이다.
앞서 오픈AI의 최신 AI 모델 ‘GPT-5.6 솔’과 일부 미공개 모델은 지난 9∼13일 내부 안전성 평가 과정에서 자체 샌드박스를 탈출해 인터넷에 접속한 뒤 허깅페이스 등을 해킹했다.
이번 사건은 AI가 인터넷에 공개된 인증정보를 스스로 찾아 외부 계정에 접근한 사례라는 점에서 AI 자율성과 안전성 검증의 중요성을 보여준다는 평가가 업계에서 나온다고 악시오스는 전했다.