네팔에서 발생한 대규모 돌발 홍수로 막대한 인명 피해가 발생한 가운데, 페이스북과 엑스 등 사회관계망서비스(SNS)를 중심으로 인공지능(AI)이 생성한 이미지와 과거 다른 국가의 재난 영상이 네팔 현장 모습으로 변조되어 무분별하게 유포되고 있어 주의가 필요하다.

호주연합통신(AAP)에 따르면 페이스북의 한 게시물에는 홍수로 파괴되기 전후의 한 마을 사진이 올라왔다.

네팔에서 대규모 돌발 홍수로 막대한 인명피해가 발생한 가운데, 사회관계망서비스(SNS)를 통해 인공지능(AI)이 생성한 이미지 등이 무분별하게 퍼지고 있다. 사진은 호주연합통신(APP)이 AI 생성 이미지로 판단한 SNS 사진. APP 캡처

메타는 이 게시물에 ‘AI 콘텐츠’라는 라벨을 붙였다. 오픈AI의 공식 콘텐츠 검증 도구도 사진에서 인공지능 생성물임을 나타내는 식별 표지인 “SynthID”를 잡아냈다.

조작된 사진과 영상들은 다른 SNS로도 확산됐다.  유튜브에는 인공지능이 만든 가짜 사진으로 시작해 거센 물살에 다리가 무너지는 장면을 보여주는 영상이 게재됐는데, 해당 영상에는 AI로 생성된 흔적이 있었다.

엑스에 올라온 구조대원과 주민들이 계곡을 집어삼킨 강물을 바라보는 사진 역시 거짓으로 판명됐다. 게시물 하단에는 “Made with AI”라는 문구가 명시되어 있었으며, 오픈AI 검증 도구를 통해서도 기계가 만든 생성물임이 입증됐다.

과거 다른 나라에서 발생한 자연재해 영상을 네팔 상황인 것처럼 속인 사례도 적지 않다.

조회수 36만회를 넘긴 한 페이스북 영상은 2021년 7월3일 일본 시즈오카현 아타미시에서 발생해 27명의 목숨을 앗아간 산사태 영상을 좌우반전 시킨 영상인 것으로 나타났다. 1년 전 인도에서 발생한 산사태 영상도 네팔의 홍수 영상인 것처럼 다시 공유됐다.

재난의 원인을 둘러싼 음모론도 온라인을 중심으로 퍼지고 있다. 한 페이스북 사용자는 진짜 산사태 영상을 공유하며 이번 재난이 “made by HAARP”라고 주장했다. HAARP는 미국 알래스카 페어뱅크스 대학교가 운영하는 고주파 활성 오로라 연구 프로그램이다. AAP는 과학자들은 HAARP가 기상을 조작할 수 있다는 주장에 대해 전혀 근거 없는 소리라고 일축하고 있다고 전했다.