인공지능(AI) 모델이 대형 데이터센터의 고성능 그래픽처리장치(GPU) 없이도 TV와 냉장고 등 보안이 취약한 가정용 사물인터넷(IoT) 기기를 악용해 분산 실행될 수 있다는 경고가 나왔다.
개별 기기의 성능은 낮더라도 여러 기기를 네트워크로 연결하면 AI 모델을 구동할 수 있어, 향후 사이버 공격에 악용될 가능성이 있다는 분석이다.
앤트로픽의 레드팀 연구진은 12일(현지시간) 공개한 보고서에서 소형 IoT 기기를 연결해 AI 모델을 분산 실행할 수 있음을 보였다고 밝혔다. 연구진은 이러한 기술이 발전하면 공격자가 가정용 기기를 무단으로 점유해 AI 모델의 실행 기반으로 활용할 수 있다고 우려했다.
TV와 냉장고, 오븐, 로봇청소기 등 가정용 IoT 기기는 메모리 용량과 연산 성능이 제한적이다. 하지만 보안이 취약하거나 인터넷에 상시 연결된 기기가 적지 않아 공격 대상이 될 수 있다. 여러 기기를 하나의 네트워크처럼 활용하면 개별 기기의 성능 한계를 보완할 수 있다는 게 연구진의 설명이다.
실제로 연구진은 시중에서 약 55달러에 판매되는 안드로이드 운영체제(OS) 기반 셋톱박스를 연결해 AI 모델을 분산 실행하는 실험을 진행했다. 셋톱박스 15대에 매개변수 260억 개 규모의 AI 모델 ‘젬마4-26B-A4B’를 분산 탑재한 결과, 초당 0.39토큰의 속도로 안정적으로 작동하는 것을 확인했다.
이번 실험은 저사양 기기 여러 대를 연결해 AI 모델을 실행할 수 있음을 보여준다. 다만 연구진이 직접 연결한 셋톱박스에서 모델을 구동한 것으로, 실제 가정의 스마트 가전이 무단으로 감염돼 AI 모델을 자가복제하는 상황까지 시연한 것은 아니다.
연구진은 이러한 방식이 악용될 경우 기존 사이버 공격보다 대응이 복잡해질 수 있다고 지적했다. 기존 악성코드는 기기별 취약점을 겨냥해 제작되는 경우가 많지만, AI 모델은 새로운 기기의 특성을 파악하고 환경에 적응하는 방향으로 발전할 수 있다는 것이다.
여러 기기에 분산된 AI 실행 환경은 중앙의 단일 서버만 차단해서 해결하기 어려울 수 있다. 감염된 기기들이 서로 연결돼 작동한다면 공격 기반을 찾아내고 전체 네트워크를 차단하는 데도 어려움이 생길 수 있다는 우려다.
연구진은 소형 AI 모델이 올해 말이면 이 같은 능력을 갖출 가능성이 있다고 전망했다. 이들은 여러 기기에 분산돼 확산하는 AI의 모습을 ‘디지털 점균류(digital slime mold)’나 초파리에 비유하며, 현재의 느리고 제한적인 복제 방식이 더 빠르고 공격적인 시스템의 등장으로 이어질 수 있다고 경고했다.
대응책으로는 인터넷서비스제공업체(ISP)의 이상 트래픽 탐지와 감염 의심 기기의 격리, 스마트 가전 제조사의 보안 강화 등이 제시됐다. 기기 제조 단계에서 보안 취약점을 줄이고 비정상적인 통신이나 연산 활동을 조기에 발견할 수 있는 체계를 마련해야 한다는 것이다.
연구진은 IoT 기기의 보안 수준을 높이고 네트워크 차원의 감시·대응 체계를 강화하는 것이 분산형 AI 악용 가능성에 대비하는 데 중요하다고 강조했다.