AI가 24시간 감시·추적·삭제 지원… 디지털 성착취물 적발 1265% 늘어

서울시, 7개월만에 45만여건 모니터링
감시 규모 크게 늘고 검출시간은 단축
안심지원센터서 심리치료 등도 지원

#서울에 사는 A(15)양은 기프티콘을 선물하고 싶다며 접근해온 B씨와 채팅앱에서 수개월 동안 대화를 나눴다. B씨는 A양에게 얼굴이 보고 싶다며 사진을 요구하기 시작했고, 이후 속옷만 입은 사진 등 수위를 높여가며 사진과 영상을 요구했다. 이를 거부하자 A양이 보냈던 사진을 유포하겠다고 협박했다. 경찰에 신고한 후에도 A양은 피해 사진이 유포될 수 있다는 두려움에 시달렸다. 서울 디지털성범죄 안심지원센터에서는 A양이 보낸 사진과 영상물을 인공지능(AI)으로 검색해 유포 22초 만에 유포 사실을 확인하고 바로 삭제요청을 해 확산을 막았다. 

서울시가 3월 말 AI 기술을 활용해 개발한 성착취물 자동 추적·감시 시스템이 도입 7개월 만에 45만7440건의 영상물을 모니터링했다고 12일 밝혔다. AI가 도입되기 전인 지난해 같은 기간(3월29일~10월31일) 삭제지원관이 직접 모니터링한 건수(3만3511건)와 비교해 1265% 상승한 수치다.

AI 프로그램은 사회관계망서비스(SNS)에 게시된 디지털성범죄 피해 영상물을 24시간 자동 추적하고 감시한다. 시스템 도입 후 감시 규모가 늘었을 뿐 아니라 영상물을 찾아내는 시간이 크게 단축됐다. 직원이 키워드를 입력해 영상물을 검출하기까지 평균 2시간이 소요됐지만 AI는 이를 3분으로 줄였다.

서울시 관계자는 “최근 가해자들이 검거를 피하려고 금요일 밤에 영상을 올린 뒤 주말에만 유포하고 다시 삭제하는 등 지능형 범죄가 증가하는 추세”라며 “AI는 시간대를 가리지 않고 활동할 수 있고, 삭제지원관의 트라우마와 스트레스를 줄이는 장점이 있다”고 설명했다.

모니터링이 가능한 영상물의 절대 숫자가 늘고 피해 영상물 검출 시간은 감소함에 따라, 영상물 삭제 지원은 AI 도입 전 2049건에서 4141건으로 2배 이상 증가했다. AI 학습 데이터가 축적될수록 정확도와 속도가 꾸준히 향상될 것으로 시는 내다봤다.

한편 시는 디지털성범죄 안심지원센터를 통해 피해 영상물 삭제 지원과 함께 긴급상담, 수사·법률과 심리치료·의료 등을 지원하고 있다. 올해는 10월 말까지 392명의 피해자를 도왔고, 지원 건수는 1만5002건에 달해 지난해 지원 건수(6241건)를 140% 상회했다. 시가 지원한 피해자의 연령대는 10~20대(51%)가 가장 많았다.

오세훈 서울시장은 “디지털 성범죄 AI 삭제지원과 같은 신기술을 통해 신종 범죄에 신속히 대응하고, 예방부터 피해자 지원까지 좀더 촘촘한 원스톱 지원을 통해 ‘안심도시 서울’을 만드는 데 최선을 다하겠다”고 말했다.