게티이미지뱅크

딥페이크 기술이 10대 청소년들의 일탈에 이용되고 있다.

딥페이크로 인한 피해는 교사나 같은 반 친구 등 주변을 비롯해 연애인 등 대상을 가리지 않고 광범위하게 확산해 우려를 낳고 있다.

딥페이크(deepfake)는 인공지능(AI) 기술, 특히 딥러닝(deep learning) 기술을 사용하여 만들어진 가짜 이미지, 오디오 또는 비디오 콘텐츠를 의미한다.

22일 법조계에 따르면 교사 등 지인 얼굴을 나체사진에 합성한 딥페이크 음란물을 제작한 학생에게 검찰이 실형을 구형했다.

검찰은 전날 인천지법 형사1단독 이창경 판사 심리로 열린 결심 공판에서 성폭력범죄의 처벌 등에 관한 특례법상 허위 영상물 편집 등 혐의로 기소한 A 군(19)에게 장기 5년∼단기 3년의 징역형을 구형했다.

A군은 지난해 7월 자신이 다니던 고등학교 여교사 2명과 선배·강사 등을 상대로 인공지능(AI)을 이용한 딥페이크 성 착취물을 제작해 트위터에 유포한 혐의로 기소됐다.

A군은 수사기관 조사에서 “예뻐서 그랬다”는 취지로 범행을 시인했다. A군은 인천시교육청 교권보호위원회 심의 후 퇴학 처분을 받았다.

그런가 하면 유명 여성 아이돌 등의 얼굴을 합성한 딥페이크 음란 영상물을 제작해 텔레그램 대화방에서 배포한 10대들이 경찰에 무더기로 검거되기도 했다.

경남경찰청 사이버수사과는 같은 날 여성 아이돌 등 딥페이크 음란 영상물을 제작해 텔레그램 대화방 내에서 배포한 혐의(성폭력 범죄의 처벌 등에 관한 특례법 위반 등)로 24명을 붙잡아 이 가운데 대화방을 개설‧운영한 10대 B군을 구속했다고 밝혔다.

B군은 텔레그램 내에서 여러 대화방을 개설해 지난해 11월부터 올해 4월까지 유명 여성 연예인 등의 얼굴에 나체 사진을 합성한 허위 음란 영상물 등을 제작하고 배포한 혐의를 받고 있다.

나머지 23명은 B군과 함께 대화방에 4000여개의 딥페이크 사진이나 영상물을 배포한 혐의를 받고 있다. 조사 결과 B군 외에 23명 중 15명이 10대 청소년인 것으로 확인됐다.

B군은 경찰 조사에서 “장난 반, 호기심 반에 그랬다”고 진술한 것으로 알려졌다.