‘딥페이크’(인공지능 등을 활용한 영상 편집물) 음란물이 사회 전반으로 퍼져나가고 있다. 최근 서울대, 인하대 등 대학가에서 딥페이크 성범죄가 발생한 데 이어 중·고등학교와 군대에까지 이 같은 합성물이 파고들고 있다.
서울경찰청은 26일 “지난달 말까지 초·중·고등학교 텔레그램 성착취 신고가 10건 접수됐고, 이와 관련해 14세 이상 청소년 10명을 입건했다”고 밝혔다.
김봉식 서울청장은 “동료 학생은 물론이고 교사에 대한 허위 영상물까지 만들어지는 상황”이라며 “정보기술(IT) 기기에 익숙한 청소년을 중심으로 범죄가 확산돼 굉장히 우려스럽게 생각한다”고 말했다. 수사 당국은 이 같은 추세를 전국적 현상으로 보고 있다.
사회관계망서비스(SNS)에선 최근 ‘텔레그램 딥페이크 피해 학교 명단’이란 게시물이 급속히 확산하고 있다. 일부 네티즌들이 딥페이크 성착취물이 공유되고 있는 텔레그램 단체 채팅방에 잠입하거나 제보받은 내용을 정리한 것이다.
피해자들은 불안에 떨고 있다. 대전시교육청엔 딥페이크 피해를 호소하는 중·고교생 신고가 접수되고 있다. 서울의 한 고교 학생회에는 “SNS에 업로드한 개인 사진들을 내려 피해를 예방해 달라”는 공지가 올라왔다.
텔레그램에선 성적 의도를 가진 딥페이크 대화방이 잇따라 발견되고 있다. 불특정 인물의 얼굴을 넣으면 나체 사진을 합성 제작해 주는 한 채널의 가입자는 13만명이 넘는다. 여군의 딥페이크 음란물을 제작해 공유하는 대화방도 있다.
온라인의 특성상 파급력이 크지만 딥페이크 처벌은 쉽지 않다. 딥페이크 성범죄 가해자가 10대인 경우, 만 10세 이상∼14세 미만 ‘촉법소년’은 형사처벌 대신 보호처분만 받는다. 서혜진 더라이트하우스 법률사무소 변호사는 “문제가 돼서 가해자를 찾아보면 실제로 중학생이 가장 많다”며 “얘들이 범죄인 줄 모르고 장난 정도로 생각하는 것”이라고 말했다.
딥페이크가 이젠 투자 사기나 보이스피싱(전화 금융 사기) 등에도 악용되기 시작했다. 딥페이크로 만든 가짜 유명인 영상을 내세워 투자금을 가로채는 방식이 대표적이다. 뉴욕타임스(NYT)에 따르면 지난해 말 이후 적발된 가상자산 관련 딥페이크 사기 영상 90% 이상에 일론 머스크 테슬라 최고경영자(CEO)가 등장했다고 한다.