“X 등 플랫폼서 성매매 은어 알고리즘으로 증폭”
“플랫폼은 수익 몰두…아동·청소년은 무방비 노출”
미국·영국·프랑스 등 AI 관련 아동·청소년 강력 보호
“국회 행동해야” ‘아동·청소년디지털안전법’ 제정 추진

“X(옛 트위터)에서 ‘조건만남’, ‘개인이동’ 같은 성매매 은어가 실시간트랜드 상위권에 오르내리며 알고리즘이 불법을 증폭시키고 있다”

더불어민주당 이주희 의원은 10일 온라인 플랫폼상에서 버젓이 벌어지는 디지털 성착취와 성매매 문화의 심각성을 지적하며 정부와 국회의 즉각적인 행동을 촉구했다. 플랫폼 기업들이 불법 콘텐츠로 막대한 수익을 올리는 동안 아동·청소년이 범죄에 무방비로 노출되고 있다는 지적이다.

이주희 더불어민주당 의원이 2025년 10월 21일 서울 여의도 국회에서 열린 과학기술정보방송통신위원회의 ICT 공공기관에 대한 국정감사에서 질의를 하고 있다. 뉴시스

이 의원은 이날 원내대책회의에서 디지털 플랫폼의 불법 정보 유통 실태를 지적했다. 이 의원은 “유튜브에서는 사람을 낙찰하듯이 연락처와 데이트권을 거래하는 이른바 ‘경매 소개팅’이 생중계되고 있다”며 “디지털 플랫폼상에 퍼지는 불법 정보의 양상과 내용이 매우 심각한 수준”이라고 강조했다.

특히 수익 창출에 초점을 둔 플랫폼 알고리즘 문제를 정조준했다. 이 의원은 일론 머스크가 출시한 인공지능(AI) 업체 ‘그록(Grok)’ 사태를 언급하며 “안전장치 없이 출시된 AI가 아동·청소년을 대상으로 한 딥페이크 성착취물을 무차별적으로 생산해 전 세계를 경악하게 했다”고 말했다.

이 의원은 “플랫폼이 반인권적 불법 정보 트래픽으로 막대한 이익을 얻는 동안 피해는 고스란히 개인이 짊어져야 한다”며 “더 큰 문제는 이러한 반인권적 불법 디지털 컨텐츠에 아동·청소년이 무방비로 노출되고 있다는 점”이라고 짚었다.

이미 미국·유럽연합(EU) 등 세계 각국에선 유해 정보에 취약한 시기의 아동·청소년을 보호하기 위해 칼을 빼 들었다.

이 의원에 따르면 프랑스 검찰은 아동 성착취물 유포 방조 혐의로 X 본사를 전격 압수수색하며 강력한 수사에 착수했다. 영국과 EU 역시 디지털서비스법 위반 여부를 검토하며 천문학적인 과징금을 예고한 상태다.

이 의원은 “미국 상원에서도 ‘아동온라인안전법’이 논의 중이며 캘리포니아주는 강력한 보호 법안을 통과시켰다”며 “아동 보호는 플랫폼 본고장인 미국도 부정할 수 없는 글로벌 표준”이라고 강조했다.

민주당은 이번 사태를 계기로 아동·청소년을 범죄물로부터 보호하기 위한 입법 활동에 속도를 낼 방침이다.

이 의원은 “아동·청소년 대상 성착취물, 마약, 딥페이크 사기 등 명백한 범죄물로부터 아이들을 지킬 안전장치를 촘촘하게 설계하겠다”며 “해외플랫폼이 국내 대리인을 허수아비로 세워 책임을 회피하는 관행도 바로잡겠다”고 밝혔다.