혐오표현·가짜뉴스… 편 가르는 너 '유튜브' [S스토리]

혐오표현·허위사실 유포 골치 / 극우단체들 폭력시위 조장도 / 신고해도 삭제율은 0.6% 그쳐 / ‘표현의 자유 vs 규제’ 논란 속 세계 각국 부작용은 일파만파

‘한남충(한국 남자를 비하하는 표현)’, ‘꼴페미(페미니스트를 비하하는 표현)’ 등 최근 동영상 플랫폼 유튜브 내 혐오표현이 늘어가고 있다. 이런 문제는 우리나라만이 아닌 유튜브와 사회관계망서비스(SNS) 사용자가 많은 어느 국가에서나 발생하고 있는 현상이다.

서구권에서는 유튜브 동영상을 통해 확산되는 혐오표현과 음모론이 도를 넘어 극우성향 단체의 사고를 주입해 단체에 가입하게 하거나, 더 나아가서는 폭력시위를 조장하기까지 한다. 유튜브가 음모론 확산 창구로 활용되는 것도 심각한 문제로 지목되고 있다. 2016년 미국 대선에서는 힐러리 클린턴 민주당 후보를 둘러싼 ‘가짜뉴스’가 확산해 실제 대선에까지 영향을 줬다는 분석까지 나오고 있다. 이런 각국에서 제기되는 문제에 따라 유튜브 동영상에 대한 규제 압박도 거세지고 있다. 하지만 ‘표현의 자유’ 침해 가능성 때문에 허위사실은 물론 혐오표현까지도 제재하기 쉽지 않을 것이란 분석이 많다.

◆유튜브, 최근 3개월 유해동영상 784만건 삭제

21일 구글 투명성 보고서에 따르면 지난 7∼9월 사이 유튜브 영상 784만5400개가 삭제됐고, 이 과정에서 유튜브 채널 계정 166만여개도 차단됐다. 삭제된 영상 중 72.2%는 클릭을 유도하는 스팸 영상이었다. 아동학대 영상이 10.2%로 두 번째로 많았고, 포르노 및 음란물이 9.9%로 그 뒤를 이었다. 
하지만 신고된 동영상의 성격은 삭제된 동영상과 유형에서 차이가 있다. 전체 신고 건 가운데는 클릭을 유도하는 스팸 영상이 27.7%로 가장 많았고, 포르노 및 음란물이 25.2%를 차지해 그 뒤를 이었다. 세 번째로 많이 신고된 영상 유형은 증오표현이 담긴 극단주의 영상(17.7%)이었는데, 총 743만2000여건의 신고가 접수된 것에 비해 실제 삭제된 동영상은 1만6000여건(0.6%)에 불과했다.
이런 결과 때문에 미 ABC방송은 유튜브의 동영상 차단 및 삭제 알고리즘이 이용자들이 쏟아내는 동영상의 양을 소화해 내지 못하고 있다고 지적했다. 유튜브가 본격적으로 확산된 2010년 전후로는 음란물이나 폭력적 영상이 문제가 돼 규제에 나섰지만, 혐오표현이나 음모론 등 최근 등장한 문제에는 대응하지 못하고 있다는 것이다.
◆입맛에 맞는 영상 찾아주는 기능…극우단체가 악용

일부 극단주의적 혐오표현이나 허위사실 유포의 통로로 유튜브가 사용되게 된 원인으로 전문가들은 유튜브가 가진 ‘추천기능’이 한몫을 했다고 지적하기도 한다. 워싱턴포스트(WP)는 지난 10일 극단주의자들이 유튜브가 가진 추천시스템의 알고리즘을 악용해 자신들의 사고를 유튜브 이용자들에게 교묘히 심어가고 있다고 진단했다. 유튜브 이용량이 일반 사용자에 비해 많은 이들이 유튜브에서 잘 보게 되는 동영상을 파악해 이를 활용하고 있다는 주장이다. 이들은 해시태그(#)나 사용하는 단어를 조절해 자신들을 ‘중도’로 보이는 영상에서부터 자신들의 극단주의 성향을 노골적으로 보이는 동영상까지 세분화해 영상을 만든다. 한 전직 유튜브 개발자는 데일리비스트에 “비교적 중도성격의 영상은 ‘미끼 영상’이고, 추천기능을 통해 점차 수위 높은 영상을 보여주는 식”이라며 “영상 판별을 위한 알고리즘을 만드는 것 외에도 해야 할 일이 많은 상황”이라고 경고했다.

애초에 극단주의 세력이 유튜브 이용량의 큰 부분을 차지하고 있어 전반적으로 특정 성향의 영상이 많이 나오는 것이라는 분석도 있다. WP는 미디어 이용자들의 연관성을 조사하는 ‘네트워크확산연구소’ 보고서를 인용해 미국의 극단주의자들이 많이 이용하는 SNS인 갭(gab.ai)과 포챈(4chan)의 이용자들이 유튜브 계정소유자 및 이용자와 관련성이 큰 것으로 나타났다고 밝혔다. 이들이 알고리즘을 연구해 자신들의 영상을 추천 영상에 자주 개시되도록 하는 방향으로 움직이고 있다는 설명이다.

◆유럽국가, 혐오표현 및 음모론 우려에도 규제는 ‘신중’

영국, 프랑스, 독일에서도 유튜브를 통한 혐오표현과 음모론 유통을 문제로 인식하고 대응책을 강구하고 있다. 지난 10일 영국의 한 유튜버는 브렉시트(영국의 유럽연합 탈퇴) 협상에 골몰하는 테리사 메이 총리를 영화 ‘반지의 제왕’에 등장하는 괴물 ‘골룸’과 합성해 논란을 불러일으켰다. 프랑스에서도 최근 유류세 인상에 반대하며 일어난 ‘노란 조끼’ 시위대가 에마뉘엘 마크롱 대통령을 흉측한 모습으로 합성한 영상을 내놓아 비판을 받기도 했다.

이 때문에 과도한 혐오표현이나 특정인을 비방하는 유튜브 영상을 규제해야 한다는 주장에 힘이 실리고 있다. 영국 일간 가디언은 유튜브 동영상의 혐오표현 강도가 점차 심해지고 있다며 이를 동영상이 가진 한계로 분석하기도 했다. 페이스북이나 트위터 등 문자 위주의 커뮤니케이션 플랫폼에서는 비교적 빠른 모니터링이 가능하지만, 동영상 위주인 유튜브에서는 식별 가능성은 물론 영상이 가진 상징성과 같은 ‘메타이미지’는 골라내기 어렵다. 혐오표현을 빨리 찾아내는 데 한계가 있을 수밖에 없는 이유다.

이들 국가에선 표현의 자유를 억압할 수 있다는 점 때문에 섣불리 규제의 칼날을 들이밀지 않고 있다. 독일의 경우 소수자에 대한 혐오표현이 들어간 동영상과 ‘가짜뉴스’를 엄격하게 분리하고 있다. 독일의 SNS 위법규제법은 유튜브를 포함한 트위터, 페이스북 등 이용자 수가 200만명 이상인 SNS에 적용되는 법으로, 혐오표현을 방지하는 데 초점을 맞추고 있다. 하지만 이 법이 발의된 뒤 독일 국민은 표현의 자유 침해를 우려하며 법안에 반대하기도 했다.

머독 대학교 소속 소셜미디어 전문가 캐서린 아처는 차단된 동영상이 ‘빙산의 일각’에 지나지 않는다며 “이제 문제를 인정할 때다. 전반적으로 유튜브의 문제점은 비전문가가 동영상을 게시할 수 있다는 점에서 시작한다”고 지적했다.

순다르 피차이 구글 최고경영자(CEO)는 “유튜브는 잘못된 정보가 퍼지는 것을 계속해서 막고 있지만, 앞으로 할 일이 더 많다”고 말했다. 또 유튜브 측은 계속해서 스팸 계정을 삭제할 계획이며, 이에 따른 구독자 수 감소 또한 공지했다.

정선형 기자 [e-mail]