“2023년 초부터 증가… 교황 합성사진 결정적” 몇 분 만에 손쉽게 제작, 허위정보 심각
인공지능(AI)이 생성한 조작 이미지에 기반한 허위정보가 지난해 초부터 급증했다는 연구결과가 나왔다.
구글과 미국 듀크대 연구팀은 팩트체크 사이트 및 미디어 단체와 공동으로 집필해 지난주 발표한 논문에서 AI가 생성한 가짜 이미지가 2023년 초 이후 크게 늘어났다고 29일(현지시간) 밝혔다. 연구팀은 팩트체크 매체 스노프스(Snopes)가 진위를 검증한 1995년∼2023년 11월까지의 13만5838건의 팩트체크 사례를 분석했다.
논문에 따르면 가짜 이미지가 급증한 계기는 ‘프란치스코 교황의 롱패딩’(사진)이었다. 지난해 3월 엑스(X·옛 트위터) 등을 중심으로 프란치스코 교황이 유광 흰색 롱패딩을 입은 사진이 확산했다. 사진에서 교황은 패딩 위로 은색의 십자가 목걸이를 걸고, 오른손에는 음료가 담긴 텀블러를 들고 있다.
네티즌의 반응은 폭발적이었다. 한 엑스 계정에 올라온 사진은 조회수 2540만회를 기록했고, “나도 저 패딩을 사고 싶은데 어디서 살 수 있나” “스타일리시한 교황” 등의 댓글이 이어졌다. 그러나 이 사진은 챗GPT를 개발한 오픈AI의 이미지 생성 AI 미드저니(Midjourney)를 통해 제작된 이미지로 드러났다. 완전한 가짜 이미지였던 것이다.
논문은 이 사진이 화제를 모은 후 AI가 생성하는 가짜 이미지가 텍스트나 포토샵 등 전통적인 방법으로 만들어지는 허위정보와 비슷한 수준이 될 정도로 급격히 늘었다고 지적했다. 지난 1월에도 미국 유명 가수 테일러 스위프트의 얼굴을 합성한 음란물 이미지가 확산해 엑스가 아예 스위프트를 검색할 수 없도록 막는 일까지 벌어진 바 있다.
조작 이미지를 생성하는 데는 기술적 정교함이 필요하지 않기 때문에 우후죽순으로 늘어나고 있다는 게 연구팀의 설명이다. 실제로 미드저니와 같은 이미지 생성 AI가 사용자의 요구대로 이미지를 만들어내는 데는 채 몇분도 걸리지 않는다.
이미지뿐 아니라 AI로 생성한 딥페이크 영상의 확산세도 거침이 없다. 논문은 2022년부터 이미지보다도 동영상을 사용한 허위정보가 더 많은 상황이며, 현재 팩트체크 사례의 60% 이상이 동영상을 이용한 허위정보라고 짚었다.