“계좌는 개인 사정 때문에 못 하고 문상(문화상품권)만요. 90장 5000원, 40장 3000원… 딥페이크는 따로 DM(다이렉트 메시지).”
범행 당시 고등학생이었던 A군이 사회관계망서비스(SNS) 엑스(X·옛 트위터)에 계시한 광고 글이다. 그는 2020년 5월부터 1년간 총 37회에 걸쳐 사진과 음란물 등을 합성한 딥페이크 성착취물을 제작해 판매했다. 계좌를 이용하면 신상이 드러날까 걱정돼 대가는 문화상품권으로 받았다. 재판부는 “아직 성적 관념이나 가치관이 제대로 정립되지 못한 소년으로서 부적절한 성적 호기심과 충동으로 인해 이 사건 범행의 엄중함을 충분히 인식하지 못하고 이를 저지른 것으로 보인다”며 소년부 송치를 결정했다.
최근 인하대 재학생을 대상으로 한 딥페이크 성착취 사건이 벌어지며 딥페이크 기술에 대한 우려가 제기되고 있다. 딥페이크는 인공지능(AI) 심층 학습을 뜻하는 딥 러닝(Deep learning)과 가짜를 뜻하는 페이크(Fake)의 합성어다.
딥페이크 성착취 가해자는 10대가 많았는데, 큰 범죄라는 인식 없이 용돈 벌이로 악용하는 모습도 발견됐다. 딥페이크 성착취물을 제작하기만 해도 처벌받는 해외 입법례를 바탕으로 경각심을 높여야 한다는 지적이 나온다.
22일 국회 행정안전위원회 소속 국민의힘 조은희 의원실이 경찰청으로부터 제출받은 자료에 따르면 최근 3년간 성폭력처벌법상 ‘허위영상물 등의 반포 등’ 범죄 피의자의 68.6%(194건)가 10대였다. 10대 다음으로는 20대(64건·22.6%), 30대(16건·5.7%), 40대(3건·1.1%), 60대 이상(4건·1.4%), 50대(2건·0.7%) 등의 순이었다.
지난해만 놓고 보면 전체 120건 가운데 무려 75.8%(91건)가 10대가 저지른 범죄였다.
최근에는 중학생이 친구와 선생님의 얼굴로 음란물을 제작해 논란이 되기도 했다. 지난 21일 부산교육청은 부산 한 중학교 학생 4명에 대한 고소장이 경찰에 접수됐다고 밝혔다. 이들은 인공지능(AI) 딥페이크 기술로 같은 학교 학생 18명과 교사 2명의 얼굴을 신체 이미지에 합성한 사진을 제작하고 이를 카카오톡 단체채팅방을 통해 공유한 것으로 알려졌다.
2020년 개정된 성폭력처벌법은 대상자의 의사에 반해 성적 욕망 또는 수치심을 유발할 수 있는 형태로 얼굴과 신체, 음성을 편집하거나 합성 또는 가공한 자를 5년 이하의 징역 또는 5000만원 이하의 벌금에 처하도록 한다. 그러나 법에 ‘반포 등을 목적으로’라는 단서가 붙었다. 대상이 아동이나 청소년이 아닌 한 단순 소지를 목적으로 한 제작까지는 처벌하는 데 어려움이 있는 것이다. 10대들이 경각심을 갖기 어려운 배경이다.
딥페이크 성착취물 제작만으로도 처벌을 받을 수 있도록 한 나라들이 있다. 법제처가 지난 3월 발표한 ‘딥페이크 관련 해외 입법동향’을 보면 미국 텍사스주 형법은 ‘동영상에서 묘사된 개인의 유효한 동의 없이 그 사람의 은밀한 신체 부위가 노출되거나 성행위를 하는 모습이 담긴 것으로 보이는 딥페이크 비디오를 고의로 제작하거나 전자적 수단을 통한 유포를 금지’한다고 규정한다. 이를 어길 시 4000달러 이하 벌금과 1년 이하의 징역을 함께 부과할 수 있다.
지난 4월 영국 법무부는 딥페이크로 음란물을 만들기만 해도 공유나 유포 여부와 상관없이 처벌하는 형사사법안 개정안을 발의했다고 밝혔다. 호주 법무부 역시 지난 6월 상대 동의 없이 딥페이크 음란물을 제작하면 최고 징역 7년형에 처하는 내용의 법안을 의회에 제출할 것이라고 성명을 냈다.