인공지능(AI) 시대, 가장 빠르게 부상하는 위험은 ‘AI 해킹’이다. 과거 해킹이 시스템 취약점을 파고드는 기술적 문제였다면, 이제는 AI 자체가 공격 도구이자 대상이 되는 시대다. AI는 방대한 데이터를 학습해 스스로 판단하고 대응하는 능력을 갖추고 있다. 이 학습 과정이 공격의 통로가 되기도 한다. 악의적인 데이터가 주입되면, AI는 왜곡된 판단을 내릴 수밖에 없다. 데이터 오염으로 정보의 신뢰 기반이 흔들리는 순간, 사회 전체 안정성 역시 위협받는다.

2016년 발생했던 마이크로소프트의 챗봇 ‘테이’(Tay) 사태가 상징적이다. 학습을 통해 성장하도록 설계된 AI는 악의적인 사용자들이 입력한 데이터를 그대로 흡수하며 순식간에 왜곡된 존재로 변했다. AI가 얼마나 쉽게 오염될 수 있는지를 드러냈다. 2019년 영국 한 에너지 기업에서는 최고경영자(CEO) 음성을 딥페이크로 모방한 전화 사기가 발생했다. 직원은 실제 상사의 지시로 믿고 24만달러를 송금했다. AI 기반 음성 합성을 활용한 해킹이었다.

지난 6∼9일(현지시간) 미국 샌프란시스코에서는 ‘휴먼X 콘퍼런스’라는 행사가 열렸다. 단연 화제는 미국 AI 기업 앤트로픽이었다. 올 1월 내놓은 업무 자동화 도구인 ‘클로드 코워크’로 소프트웨어(SW) 업종을 줄줄이 대체할 것이라는 공포를 시장에 심은 데 이어 생성형 AI 모델 ‘클로드’가 니콜라스 마두로 베네수엘라 대통령 생포 작전과 이란 전쟁 등에서 압도적인 성능을 뽐낸 때문이다. 참석자들 입에서 “클로드는 이제 종교가 됐다”는 말이 돌 정도였다.

상황은 앤트로픽의 신형 AI 모델 ‘미토스’가 세계 최고 수준의 해커로 둔갑할 수 있다는 우려가 나오며 급반전됐다. 미토스는 기업이나 금융회사, 국가기관에 구축된 정보기술(IT) 시스템의 보안 취약점을 찾아내 공격 코드를 생성하는 능력을 갖췄다. 14일 블룸버그 등은 스콧 베선트 미국 재무장관과 제롬 파월 연준 의장이 최근 주요 금융기관 CEO들을 워싱턴 재무부 청사로 긴급 소집, 미토스가 일으킬 수 있는 사이버 보안 위협을 점검했다고 보도했다. 미국뿐 아니라 전 세계가 긴장하고 있다. 속도와 효율만을 추구한 기술은 언제나 인간을 위협하는 무기로 돌변해 왔다.