김미순 중앙디지털성범죄 피해자지원센터장이 10일 서울 중구 한국여성인권진흥원에서 소개한 ‘AI 기반 아동·청소년 온라인 성착취 탐지·신고 시스템’ 시연 화면에는 중고등학생 등 미성년자를 지칭하거나, ‘용돈’, ‘조건만남’을 의미하는 은어들이 키워드로 등록돼 있었다. AI는 ‘ㅈㄱㅁㄴ’이라고 초성만 쓴 이 게시글이 성착취물일 확률을 100%라고 판단했다. 아동·청소년 대상 범죄물일 확률이 얼마인지, 이전에 삭제 요청 이력이 있는 게시물인지 등도 분석했다. AI는 맨눈으로 판별이 어려운 딥페이크 기술이 적용된 영상물도 판단할 수 있다.
이 시스템에는 3∼12시간 주기로 2만여개 감시 대상 사이트에서 수집된 키워드의 수가 나타났다.
영상 주소와 이미지, 고유번호, 아동·청소년 관련 디지털 성범죄 피해 영상이라고 AI가 판단한 근거를 한눈에 볼 수 있다. 센터에 따르면 지난해 4만543건이었던 처리 건수는 올해 4월 도입 이후 9월까지 9만6210건으로 112% 늘었다. 같은 기간 종사자 1인당 하루 처리량은 20.8건에서 202.1건으로 약 9.7배 늘었다.
박성혜 삭제기술팀장은 “개별 사이트에 접속해 일일이 확인하는 전통적인 방식으로는 확산 속도를 따라가기에 역부족이었다”며 “AI 자동화 이후 삭제요청 대상 1건당 처리 시간이 1분 이내로 줄었다”고 말했다. AI는 센터가 구축해온 성착취물 키워드와 피해 영상물과 사진, 게시글 4만여건, 탐지·신고 매뉴얼 등을 학습했다.
이런 시스템은 증가하는 10∼20대 디지털성범죄 피해와 온라인 공간에 박제된 영상물로 인한 추가 피해를 막기 위해 도입됐다.
센터로부터 지원을 받은 디지털성범죄 피해자는 2022년 7979명에서 지난해 1만637명으로 꾸준히 늘었다. 특히 지난해 피해자의 8258명(77.6%)이 10·20대였다. 지난해 10세 미만 피해자는 20명이었는데, 2024년 11명에서 약 1.8배 증가했다.
영상물을 1차로 삭제한 이후에도 복제 또는 재유포로 인해 지속 지원이 이뤄진 피해자도 많았다. 2024년 36.9%였던 이 비율은 지난해 45.1%였다. 김 센터장은 “장기적이고 지속적인 지원의 필요성이 나타나는 것”이라고 강조했다.
플랫폼의 협조를 구하는 것은 해결해야 할 과제다.
지난해 삭제 요청이 이뤄졌지만 사이트가 불응한 비율은 28.5%였으며, 2024년 24.7%, 2023년 31.2%로 매년 높은 수준이다. 불법유해사이트에서 범죄가 발생하기 때문인데, 지난해 삭제 요청에 불응한 8만9848건 중 85.1%는 불법유해사이트에서 발생한 것으로 파악됐다.
김 센터장은 “사이트 운영 방식을 분석해 국제공조에 도움을 주고 있다”며 “현장 자료와 유포 플랫폼 초기 분석 자료를 토대로 유해사이트들이 범죄물로 인한 수익 창출 구조 자체를 막을 수 있도록 하는 것이 필요하다”고 말했다. 중앙디지털성범죄 피해지원센터는 디지털성범죄 피해에 대한 상담과 삭제 지원 및 유포 현황 모니터링을 지원한다. 수사 기관 연계와 법률, 의료 연계 지원도 이뤄진다.