![](http://mimg.segye.com/content/image/2023/12/05/20231205523390.jpg)
내년 4월 총선을 앞두고 선거일 90일 전부터 딥페이크(deep fake)를 활용한 선거운동을 하지 못하도록 하는 공직선거법 개정안이 어제 국회 정치개혁특위를 통과했다. 딥페이크는 인공지능(AI) 기술로 이미지·영상 등을 합성해 진짜처럼 보이게 하는 기술이다. 개정안에는 선거일 90일 전부터 선거일까지 선거운동을 위해 딥페이크 영상을 제작·편집해 유포·상영하거나 게시할 수 없게 하는 내용이 담겼다. 이를 위반하면 7년 이하 징역 또는 1000만원 이상 5000만원 이하 벌금에 처한다. 개정안이 국회 본회의를 통과하면 내년 1월11일부터 딥페이크 선거운동은 불법이다. 다소 늦은 감이 있지만 바람직한 일이다.
여야가 AI발 가짜뉴스를 막기 위한 제도적 장치 마련에 나선 건 하루가 다르게 진화하는 딥페이크의 파괴력이 워낙 크기 때문이다. 이 기술을 활용하면 상대 후보의 음성으로 허위 메시지를 내보내거나 유명인이 특정 후보를 지지하는 것처럼 조작할 수 있다. 지난 4월 SNS에 미국 민주당 소속인 힐러리 클린턴 전 국무장관이 공화당 대선 주자 론 디샌티스 플로리다주지사 지지 발언을 하는 딥페이크 영상이 떠돌아다녔다. 지난 5월 미 국방부 청사 인근 대형 폭발 사진 조작에서 본 것처럼 불안감을 조성해 표심에 영향을 끼치려고 할 수도 있다. 국민 선택권을 왜곡하고 민주주의를 흔드는 결과로 이어질 위험성이 크다.
딥페이크 본고장인 미국에선 이미 선거를 앞두고 딥페이크를 금지하는 법안이 다수 나왔다. 텍사스주는 선거일 30일 전부터 선거 결과에 영향을 주는 딥페이크 영상 제작·유포를 금지하고 있다. 유럽연합도 인공지능법에서 딥페이크 사용 시에는 인위적으로 생산되거나 조작된 것임을 명시토록 하고 있다. 우리 선거법 개정안도 선거일이 90일 넘게 남았을 때는 딥페이크 선거운동을 허용하지만 반드시 딥페이크라는 표기를 하도록 했다. 이를 어기면 과태료가 부과된다.
우리 사회는 가짜뉴스가 잘 먹혀든다. 진영 논리의 덫에 갖힌 데다 광우병·사드(THAAD·고고도미사일방어체계)·후쿠시마 오염수 괴담에서 보듯 허위 선동에 취약한 탓이다. AI발 가짜뉴스까지 극성을 부리면 내년 총선은 진실과 허위를 구분할 수 없는 난장판이 될 가능성이 크다. 선거법 개정안만으로 완벽히 대처하기는 어렵다. 실효성을 담보하기 위해 보완할 점은 없는지 세심하게 살펴볼 필요가 있다.