앤트로픽의 차세대 인공지능(AI) 모델 ‘클로드 미토스’가 안긴 충격에 AI가 국가 안보 의제로 올라섰다. 고성능 AI가 기존 사이버 보안 체계를 무력화해 금융과 국가 인프라에 피해를 줄 가능성이 커져서다. 각국 정부는 기술 논의를 넘어 보안 체계 강화를 위한 실질적인 대응책 마련에 고심하고 있다.
19일 로이터통신 등에 따르면 다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난 17일(현지시간) 백악관에서 수지 와일스 비서실장, 스콧 베선트 재무장관 등과 만나 미토스 관련 협력 방안을 논의했다. 회동 이후 백악관은 “혁신과 안전의 균형을 논했다”고 밝혔고, 앤트로픽은 사이버 보안과 AI 안전, AI 리더십 관련 협력 의지를 공유했다고 전했다. AI의 대규모 감시와 자율 살상 무기 활용을 두고 갈등을 빚던 앤트로픽과 미국 정부가 손을 맞잡은 모양새다.
미토스가 나온 뒤 각국은 AI 모델을 국가 안보 역량과 직결해 보고 있다. 미토스는 보안 취약점을 찾아내고 이를 분석해 공격까지 스스로 진행하는 성능을 자랑한다. 기존 사이버 보안 체계는 취약점을 발견한 뒤 패치(긴급 수정)를 해 업데이트하는 방식이다. 그런데 미토스는 취약점 분석과 공격 코드 작성, 공격을 단숨에 실행하며 보안 대응 체계를 무력화할 수 있다는 평가를 받고 있다. 미토스는 강력한 보안 수준을 인정받던 운영체제(OS) 오픈BSD의 27년간 발견되지 않던 결함을 찾아냈고, 32단계로 구성된 기업망 공격 시뮬레이션도 처음 완수했다.
겹겹의 보안 체계를 뚫는 AI 성능이 예상을 뛰어넘을 것으로 보이자 각국 정부에 비상이 걸렸다. 우리 정부도 국내 금융사, 주요 플랫폼, 정보보호 기업들과 사이버 보안 체계를 점검하며 대비 태세를 강화하고 있다. 하지만 미토스 접근 권한이 없는 우리 정부와 기업이 대비하는 데 한계가 있는 실정이다. 미국 정부가 빅테크(거대 기술기업)·사이버보안·금융사 12곳과 40개 기관에만 미토스를 제한적으로 활용해 ‘지능형 방패’를 개발하는 프로젝트를 출범한 반면, 그 외 나라들은 자체 점검에 나선 수준이다. 염흥열 순천향대 명예교수는 “한·미 협력을 통해 미토스 실제 역량을 파악하는 게 먼저”라며 “새로운 공격에 맞대응할 방어 체계를 빠르게 구축하는 게 중요하다”고 말했다. 우리 정부는 앤트로픽이 7월 미토스 관련 보고서를 내면 이를 분석해 대응 방안을 마련할 계획이다.
일각에선 AI가 자율적으로 보안을 책임지는 AI 네이티브 보안으로의 전환을 가속해야 한다는 의견도 나온다. 보안 업계 관계자는 “해킹과 보안을 흔히 창과 방패로 비유하는데 AI 창을 사람이 막는 건 불가능해졌다”며 “AI 방패를 신속하게 마련해야 한다”고 했다.
국가 간, 기업 간 보안 역량 차이를 최소화할 방안 마련이 시급하다는 지적도 나온다. AI 공격이 확대되면 보안 역량이 비교적 뛰어난 대기업보다 중소기업 피해가 클 것으로 보인다. 김진수 한국정보보호산업협회(KISIA) 회장은 “위험에 노출된 중소기업들의 보안 격차 해소에 정부가 나서야 한다”고 강조했다. 미·중이 개발한 AI 모델을 국가 안보에 활용하기 어려운 만큼 안보 주권을 확보하기 위해 소버린(주권형) AI 기반 보안 체계 구축 필요성도 제기된다.
해외에서도 미토스발 AI 해킹 우려 관련 논의가 활발하다. 미토스 성능을 일부 제한해 공개한 것처럼 고성능 AI를 단계별로 선보이거나 AI 개발 기업의 보안 취약점 신고 의무 등이 거론된다.