메뉴 보기
앤트로픽과 오픈AI의 대표 인공지능(AI) 모델이 실제 인터넷에서 제3자 소프트웨어에 침입하고 사람들의 로그인 정보를 빼내려 시도한 사실이 확인됐다. 영국 AI안보연구소는 AI가 사람의 지시 없이 스스로 이런 행동을 한 사례가 처음 확인됐다며 우려를 표했다.
4일(현지 시간) 파이낸셜타임스(FT)에 따르면 영국 정부 산하 AI안보연구소(AI Security Institute·AISI)는 정기적인 사이버 보안 평가 과정에서 앤트로픽의 '미토스 5'와 오픈AI의 'GPT 5.6 솔'이 "실제 사람과 조직을 대상으로 지속적이고 잠재적으로 유해한 활동을 수행했다"고 밝혔다.
AISI는 AI 에이전트의 사이버 보안 대응 능력을 평가하기 위해 일부 안전장치를 해제한 모델을 실제 인터넷 환경에서 시험하는 과정에서 이 같은 사례를 확인했다고 밝혔다.
총 122차례 테스트 중 10차례에서 AI가 승인 없이 실제 인터넷에서 자율적으로 움직였다. 대부분은 미토스에서 발생했고, GPT는 두 건이었다.
가장 심각했던 사례는 AI가 가짜 계정을 만들어 개발자 플랫폼 깃허브의 오픈소스 프로젝트 관리자에게 악성 코드를 승인하도록 압박한 것이다. 관리자가 이를 알아채고 거부해 실제 피해로는 이어지지 않았고, 문제는 1시간 안에 차단됐다.
AISI는 "구체적인 지시 없이도 자율성과 기만성에 따른 위험이 현실 세계에서 이처럼 명확하게 드러난 것은 이번이 처음"이라며 "최근 잇따른 AI 에이전트 해킹 사례와 함께 AI 위험 환경이 새로운 국면에 접어들었음을 보여주는 사건"이라고 평가했다.
앤트로픽은 "AI 에이전트를 안전하게 평가할 공통 기준이 필요하다는 것을 보여준 사건"이라고 밝혔다. 오픈AI는 "보호장치를 일부 제거한 시험 환경에서 나온 결과로, 일반적인 사용 환경과는 다르다"면서도 더 안전한 평가 기준을 마련하겠다고 했다.
최근 각국 정부와 연구기관은 최첨단 AI 모델이 초래할 수 있는 새로운 사이버 보안 위협에 대한 경고를 잇달아 내놓고 있다. 올해 초 트럼프 행정부는 보안 위험을 이유로 앤트로픽의 최신 AI 모델 수출을 일시적으로 제한했으며, 해당 조치는 지난 6월 말 완화됐다.
샘 올트먼 오픈AI 최고경영자(CEO)는 지난주 스콧 베선트 미국 재무장관과 하워드 러트닉 상무장관 등 미국 고위 당국자들을 만나 AI 모델에 대한 사이버 보안 관련 입법을 지지한다는 입장을 밝혔다.
앞서 지난달에는 오픈AI의 AI 에이전트가 스타트업 허깅페이스를 스스로 해킹해 시험 환경을 벗어난 뒤 로그인 정보를 탈취한 사고도 있었다.
<뉴시스>
