인공지능(AI) 보안 위기 논란을 부른 ‘미토스 충격’ 이후 사이버 보안에 특화한 AI 모델 경쟁이 치열해지고 있다. AI 보안이 국가 안보 경쟁으로 확대됐고, AI 공격을 막을 유일한 방어 체계로 여겨지면서 금융·통신 등 시장 수요가 확대된 영향으로 분석된다.
18일 업계에 따르면 마이크로소프트(MS)는 지난 12일 보안 특화 시스템 ‘멀티 모델 에이전틱 스캐닝 하네스(MDASH)’를 공개하며 AI 보안 시장에 뛰어들었다. MDASH는 단일 모델이 아니라 100개 이상 AI 에이전트를 조율해 시스템 취약점을 찾아내는 보안 시스템이다.
MS는 이 시스템이 취약점을 찾아내는 평가 지표 ‘사어버짐’에서 1507개 과제 중 88.45%를 성공해 앤트로픽의 클로드 미토스 프리뷰(83.1%), 오픈AI의 GPT-5.5(81.8%)를 앞섰다고 설명했다.
이에 대응해 오픈AI는 전날 영국 정부 산하 AI 안전연구소(AISI) 사이버 보안 평가 결과를 공개하며 자사 모델 보안 역량을 부각했다. GPT-5.5가 취약점 탐색과 웹 공격, 암호 분석 등 95개 과제로 구성된 시험에서 평균 71.4% 통과율을 기록해 미토스 프리뷰(68.6%)를 웃돌았다고 전했다. 기업망 침투 시뮬레이션 ‘더 라스트 원스(TLO)’도 통과해 미토스 프리뷰 이후 해당 시뮬레이션을 완수한 두 번째 모델이 됐다.
최근 앤트로픽과 오픈AI, MS가 형성한 AI 사이버 보안 경쟁 구도는 확대될 전망이다. AI 해킹 위험이 현실화하면서 정부 기관과 금융, 통신 등 보안 중요도가 높은 업계를 중심으로 AI 보안에 대한 관심이 커져서다. 특히 AI가 국가 보안 체계를 뒤흔들 위협 요소로 부상하자 각국은 AI 보안 역량 확대에 힘을 모으는 모습이다.
각국 정부와 기업들이 사이버 보안에 앞다퉈 나서는 건 AI의 취약점 발견, 침투 경로 설계, 공격 수행 역량이 기존 전문가들을 뛰어넘었다고 보기 때문이다. 구글 위협인텔리전스그룹(GTIG)은 지난 11일 AI를 활용해 미공개 보안 취약점(제로데이)을 찾아 공격 코드를 개발한 사례를 공개하고, 중국과 북한 연계 해킹조직들이 공격 자동화와 취약점 연구에 AI를 쓰는 점을 경고했다.
AI가 사이버 공격과 방어 기간을 대폭 단축해 상시 보안 위험도가 커졌다는 우려도 크다. AISI는 “AI 모델이 수행할 수 있는 자율적 사이버 공격 작업 수준이 2024년 말 이후 약 4.7개월마다 두 배씩 증가하고 있다”고 지적했다. ‘8개월마다 두 배 성장한다’는 지난해 11월 AISI 전망보다 빨라졌다. 영국 중앙은행 산하 금융감독청(PRA)의 샘 우즈 청장도 최신 AI 모델이 금융 서비스에 “상당한 혼란을 일으킬 것”으로 보고 “AI 기반 방어 체계의 중요성이 커질 것”이라고 말했다. 앞서 미국 정부는 앤트로픽과 오픈AI에 이어 구글 딥마인드와 MS, xAI 모델도 출시 전 보안 평가를 진행하기로 하고 사이버 보안 요소 검증 체계를 확대하고 있다.
생성형 AI 수익성 확대에 골몰하는 빅테크(거대 기술기업)는 보안 분야를 새 수익원으로 보고 특화 모델 개발에 주력하고 있다.
시장조사업체 리서치앤마켓에 따르면 글로벌 AI 사이버 보안 시장 규모는 올해 392억2000만달러(약 59조원)에서 연평균 27.8% 성장해 2030년 1046억달러(157조원)로 확대될 전망이다.