최근 AI 기술이 성범죄에 악용하는 사례가 빈번한 가운데, 스페인에서 미성년자를 상대로 한 가짜 나체사진이 생성형 인공지능(AI) 기술로 무더기 합성돼 현지 경찰이 수사에 착수했다
AFP 통신에 따르면 19일(현지시간) 스페인 알멘드랄레호 경찰은 나체사진 피해자들로부터 총 11건의 고소장을 접수받았다고 밝혔다. 모두 여성 청소년이며, 자신의 얼굴이 다른 사람의 나체 사진에 합성되는 피해를 입었다.
경찰은 피의자들이 몽타주를 생성하는 AI 애플리케이션(앱)을 통해 가짜 나체 사진을 손쉽게 합성한 것으로 보고 있다. 스페인 언론들은 여성 청소년 20여명이 이같은 수법으로 성범죄 피해를 받은 것으로 추산했다. 피의자들 중 일부는 현재 경찰에 의해 신원이 특정된 상태다.
경찰은 문제의 나체 사진이 성인용 콘텐츠가 주로 게재되는 온라인 구독 플랫폼이나 성인물 사이트에 유포됐을 가능성이 있다고 밝혔다. 일부 피해자들은 ‘유포를 원치 않으면 돈을 지불하라’는 가해자들의 협박에 시달리기도 했다.
피해자들은 또래 친구나 부모님께 가짜 나체사진이 알려질까 두려워 수사기관에 적극적으로 신고하지 못하는 분위기다. 이에 한 피해자 어머니는 자신의 소셜미디어를 통해 “신고를 두려워하지 말고 어머니에게 알리라”고 호소했다.
AI 기술로 사실과 거짓을 교묘하게 합성하는 이른바 ‘딥페이크(deepfake)’ 합성에 미성년자들의 사진이 사용됐다는 소식에 스페인 국민들은 경악했다. 그러나 업계는 딥페이크 성범죄가 이미 온라인상에 만연한 것으로 보고 있다.
네덜란드 AI 업체 센시티는 2019년 조사에서 온라인 딥페이크 영상의 96%가 동의 없이 생성됐으며, 피해자 상당수가 여성이라고 발표했다.