市·서울연, 연내 탐지 기술 개발
대화 중 성범죄 표현 패턴 분석

디지털 성범죄인 ‘온라인 그루밍’을 막기 위해 서울시가 전국 최초로 인공지능(AI) 기반 대응 체계를 마련한다. 온라인 그루밍은 사회관계망서비스(SNS), 오픈채팅 등 온라인에서 미성년자에게 접근해 친밀감을 형성한 뒤 성적으로 착취하는 범죄행위다.

서울시는 AI가 24시간 온라인 위험 징후를 선제적으로 포착해 아동·청소년을 보호하는 ‘서울 안심아이(eye)’를 서울연구원과 함께 연내 개발할 계획이라고 1일 밝혔다.

과거에는 아동·청소년 성착취 목적의 대화가 실제 성적인 행위로 이어져야 처벌이 이뤄졌으나, 최근 아동·청소년의 성보호에 관한 법률에 미수범 처벌 조항이 신설돼 성적 대화를 시도하는 초기 단계부터 처벌이 가능하다.

시와 서울연구원이 개발 중인 기술은 대화 흐름 중 성범죄의 ‘트리거’(계기)가 되는 표현 패턴을 감지한다. 특정 단어를 감지하는 수준을 넘어 멀티모달 지원 경량화된 언어모델(eLLM)을 결합해 은어·축약어·연속된 대화 맥락까지 분석한다.

서울시여성가족재단이 실시한 온라인 그루밍 설문조사에 따르면 시내 초등학교 5학년생부터 고교 3학년생까지 2316명의 응답자 가운데 19%가 온라인에서 말을 걸거나 선물을 제공하거나 성적인 대화를 요구하는 온라인 그루밍 접근을 경험한 것으로 나타났다.

마채숙 시 여성가족실장은 “디지털 성범죄가 갈수록 진화하면서 최근 몇 년간 온라인 그루밍을 매개로 한 성착취가 증가하는 추세를 보이고 있다”며 “미성년자 대상 성범죄의 상당수가 온라인 그루밍에 뿌리를 두고 있는 만큼, 피해자도 모르는 사이 돌이킬 수 없는 피해로 이어지지 않도록 선제적 예방에 더욱 힘쓰겠다”고 말했다.