방송통신심의위원회는 파벨 두로프 텔레그램 대표를 수사 중인 프랑스 당국에 텔레그램 딥페이크 성범죄 영상물 대응과 관련해 긴급 공조 요청을 보냈다고 30일 밝혔다. 텔레그램과의 직접 소통이 가능하도록 지원해줄 것과 향후 텔레그램 문제에 관련된 상시적인 협력관계 구축을 긴급 요청했다.
이번 서한 발송은 지난 28일 발표한 딥페이크 성범죄영상물 10대 종합대책에 따른 후속조치로 텔레그램과의 핫라인 확보를 위한 단계적 조치의 일환이다.
이 서한에서 방심위는 텔레그램 딥페이크 성범죄영상물로 인해 최근 한국에서 벌어지고 있는 심각한 사회적 피해를 설명하고, 구체적인 범죄 유형을 적시하면서 22만명이 연루된 이 범죄의 주된 피해자가 미성년자임을 강조했다.
프랑스 수사당국과의 접촉 채널이 확보된 만큼 앞으로 지속해서 다양한 방법을 통해 협력이 가능할 것이란게 방심위의 설명이다.
방심위는 최근 이번 딥페이크 사건의 본질이 소셜미디어와 모바일 메신저를 통해 딥페이크관련 성범죄 영상이 유포되는데 있다고 보고있다. 이에 각 플랫폼별로 각기 다른 삭제절차로 피해자들이 어려움을 겪고 있다고 보고 플랫폼 사업자들과 협의체 구성에 나선 상황이다.
피해자가 각 플랫폼에서 자신의 딥페이크 성범죄 영상을 확인한다하더라도 삭제 절차는 비교적 까다롭고 게시물 삭제까진 시간이 오래걸린다. 유튜브와 페이스북, X(옛 트위터)는 비교적 삭제절차가 쉽지만 음란물이 많이 유통되는 것으로 알려진 텀블러는 신고 절차도 복잡하다. 앱이 아닌 웹버전은 게시물 신고 버튼이 없고, 콘텐츠 신고 별도 페이지에 접속해야한다.
국내 사업자의 경우 삭제가 신속히 이뤄지고 있다. 카페나 블로그, 밴드 등에서 관련 내용을 확인하는 즉시 삭제하는 네이버는 이미지나 동영상 뿐만 아니라 텍스트도 아동·청소년 대상 성범죄 관련 내용일 경우 신고 없이도 즉시 삭제한다. 카카오도 역시 마찬가지로 AI가 사전 필터링을 한다.
텔레그램은 딥페이크 음란물 삭제에 가장 미온적인 플랫폼이다. 대화방에 신고 버튼이있지만 신고해도 계정에 대한 제재가 없다시피 하고 게시물이 삭제되는 경우도 거의 없다.
방심위는 텔레그램 등 해외 플랫폼 사업자들과 협의체 구성을 추진하고 삭제·차단 조치 관련 전자심의를 강화해 24시간 이내 조치할 수 있도록 시정을 요구한다는 계획이다. 일각에선 딥페이크 삭제에 미온적이거나 정부 방침에 따르지 않는 사업자에 대한 규제 수단이 필요하다는 목소리도 나온다.
류 위원장은 지난 28일 열린 방심위 긴급 전체회의에서 “종합대책을 논의·확정해 이 심각한 위협(딥페이크)의 퇴출에 나설 것”이라며 “삭제·차단 조치 관련 전자심의를 강화해 24시간 이내 조치할 수 있도록 시정을 요구하고, 이를 위해 글로벌 온라인 플랫폼 사업자들과 협의체를 구성해 신속한 삭제 차단 조치와 함께 자율적인 규제를 강력히 요청하겠다”고 밝혔다.