인공지능(AI) 딥페이크(첨단 이미지 조작 기술)를 이용한 아동 성착취물이 문제가 되는 가운데 아예 채팅 플랫폼에서 성착취 상황극이 펼쳐지고 있다.
부적절한 이미지를 노출하는 수준을 넘어, 이용자가 아동 캐릭터와 실시간 대화를 통해 성적 상황을 유도하고 그것이 '구현' 되고 있는 것이다.
14일 AI 기반 A 채팅 플랫폼에는 젖병을 문 아기, 교복 입은 여학생, 작은 체구의 소녀 등 미성년자로 보이는 캐릭터들이 다수 공개돼 있다. 심지어 홍보용 이미지에 성행위 장면까지 묘사된 경우도 있다.
논란이 확산하자 A 플랫폼은 지난 12일 공지를 통해 "미성년자로 오인될 수 있는 외형이나 교복 착용 상태에서 부적절한 묘사를 유도하는 캐릭터를 순차적으로 비공개 처리하겠다"고 밝혔다.
그러나 공지 이후에도 미성년자 설정의 상당수 캐릭터는 여전히 검색 및 대화가 가능한 상태다. 특정 키워드나 이미지는 차단할 수 있지만, 이용자가 AI와 대화를 통해 교묘하게 유도하는 성적 상황극 자체를 실시간으로 통제하기는 어렵기 때문이다.
심지어 A 플랫폼 이용자들이 모인 온라인 커뮤니티에서는 단속을 피할 방법이 공유되고 있다.
이용자들은 어린 소녀 체형의 캐릭터를 뜻하는 은어인 '농캐'를 언급하며 "농캐 미리 지울 거냐", "아직 비공개 처리가 안 됐다고 해서 안심하지 말라"며 서로 경고하는 등, 미성년자 캐릭터 삭제 및 적발 현황을 공유했다.
방송미디어통신심의위원회 관계자는 13일 연합뉴스 서면 질의에서 "현재 A 플랫폼 관련 신고가 확인됐다"며 "위원회 자체적으로 음란 정보에 대해 모니터링하고 있다. 해당 사이트에서 현행 법규에 위반되는 내용이 확인되는 경우 심의를 통하여 적의 조치할 예정"이라고 밝혔다.
그러나 A 플랫폼뿐만이 아니다.
B 플랫폼에서는 '너의 딸'이라는 채팅 제목으로 아버지와 딸의 관계를 연상시키거나, 성인 남성에 비해 현저히 작은 체구의 어린 소녀 캐릭터를 내세워 성적 행위를 묘사한 그림으로 홍보를 하고 있다.
또 C 플랫폼, D 플랫폼, E 플랫폼 등에서는 교복을 입은 10세 초등학생, 17세 고등학생 설정의 채팅 캐릭터가 등장했다.
이러한 성착취물은 AI 콘텐츠에 대한 규제가 미비한 상황을 틈타 활개 치는 대표적인 유해 콘텐츠다.
현재 일론 머스크가 소유한 엑스(X·옛 트위터)의 AI 챗봇 그록이 성적 이미지 생성 논란의 중심에 서 있고, 과일 등을 의인화해 불륜·패륜을 묘사하는 '과일 불륜 드라마' 같은 선정적인 AI 막장 콘텐츠도 확산하고 있다.
청소년들도 별다른 제약 없이 이러한 콘텐츠를 소비할 수 있다.
허정원 법무법인 대륜 변호사는 "AI 생성 이미지나 가상 캐릭터라도 교복·어린 외형·학생 설정 등으로 아동·청소년으로 명백히 인식되고, 아동·청소년 성보호에 관한 법률 제2조 제4호에서 규정한 성적 행위를 표현한 경우 처벌 대상이 될 수 있다"고 설명했다.
허 변호사는 그러나 "현행법상 단순히 아동·청소년을 이미지화한 그림·만화까지 처벌 대상에 포함되는지, 실제 아동처럼 보이는 컴퓨터그래픽 수준의 표현물만 해당하는지 경계가 모호하다"며 "아동·청소년으로 인식되는 '명백성'의 판단 기준에 대한 보완이 필요하다"고 지적했다.
<연합>