일본에서 생성형 인공지능(AI)을 활용해 컴퓨터 바이러스를 제작, 돈을 빼돌리려는 한 20대가 체포됐다. 용의자는 정보통신(IT) 회사 경력이나 컴퓨터 관련 지식이 거의 없는 것으로 알려져 AI의 범죄 활용 및 확산 우려가 현실화되고 있다는 지적이 제기됐다.
28일 요미우리신문에 따르면 일본 경찰청은 가와사키에 사는 하야시 류키(25)를 부정지령 전자적 기록 작성 혐의로 체포했다. AI를 활용한 바이러스 제작으로 체포된 첫 사례다.
하야시는 지난해 3월 자신의 컴퓨터, 스마트폰으로 생성형 AI를 통해 입수한 부정 프로그램 정보를 조합, 바이러스를 만든 것으로 드러났다. 그는 경찰 조사에서 “랜섬웨어로 편하게 돈을 벌고 싶었다. AI에 물으면 뭐든 가능할 것으로 생각했다”며 혐의를 인정했다. 2022년 11월 말 미국 오픈AI가 챗GPT 무료공개를 시작했다는 뉴스를 보고 이전부터 흥미가 있었던 랜섬웨어 제작을 떠올린 것으로 전해졌다. 요미우리는 “랜셈웨어는 기업이나 단체의 네트워크에 침입해 데이터를 암호화하고 돈을 요구하거나, 훔친 데이터를 공개하겠다고 협박하는 형태로 활용된다”며 “지난해 전국 경찰에 197건의 피해 상담이 있었다”고 전했다.
하야시가 활용한 AI는 챗GPT 등 대기업이 제공하는 서비스가 아니라 작성자를 알 수 없는 상태로 인터넷에 공개된 복수의 대화형 AI인 것으로 알려졌다. 경찰은 하야시가 자신의 스마트폰, 컴퓨터에서 AI에 질문을 반복하고 얻은 정보를 조합해 바이러스를 제작했다고 보고 압수물을 분석 중이다.
특히 주목되는 점은 하야시가 IT회사 경력이나 관련 기술을 배운 적이 없다는 점이다. 고도의 지식, 경험이 없어도 사이버 범죄를 저지르는 것이 가능하다는 것을 의미한다. 요미우리는 “질문에 제한이 없거나 느슨한 AI를 사용하면 랜셈웨어의 설계도나 감염시키고 싶은 컴퓨터에 침입하는 방법을 얻을 수 있다”고 지적했다.
AI를 범죄에 활용하는 것에 대한 우려는 오래전부터 제기됐다. 오픈AI가 챗GPT를 공개한 이후 개발 경쟁이 치열해지면서 폭발물 제작 등 범죄에 관련된 정보을 얻을 수 있다는 지적이 있었다. 이에 따라 각 개발회사는 위법한 정보나 윤리적 문제가 있는 대답은 하지 않도록 자체적인 대책을 마련했다. 하지만 질문에 제한을 두지 않는 AI가 개발돼 공개되면서 AI를 활용한 범죄에 대한 우려는 확산됐다. 요미우리는 “지난해 6월부터 유료판을 포함해 우후죽순처럼 ‘악의 생성형 AI’가 개발돼 공개됐다”는 전문가의 말을 전하며 “미국 인디애나대 논문에 따르면 2023년 2∼9월 위법정보 등을 양산하는 생성형AI 212건이 확인됐다”고 짚었다.