2022년은 ‘인공지능(AI) 대선 후보’가 등장한 해였다. 국민의힘과 더불어민주당이 각각 내놓은 ‘AI 윤석열’과 ‘AI 이재명’은 미리 촬영된 영상에 AI가 학습한 두 후보의 음성을 입혀 만든 것이었다.
선거 국면에서 AI로 만들어진 영상이 유권자의 관심과 흥미를 끄는 수준을 벗어난 것은 불과 몇 개월도 안 돼서였다. 그해 6월 지방선거를 앞두고 ‘AI 윤석열’이 국민의힘 소속 남해군수 후보를 지지하는 영상이 유포돼 ‘선거 개입’ 논란이 일었다. 열성 지지자가 만들어 사회관계망서비스(SNS)에 올린 것으로 추정됐다.
22일 중앙선거관리위원회에 따르면 선거일 90일 전부터 선거일까지 선거운동을 위해 AI 기술을 이용해 만든 실제와 구분하기 어려운 가상의 음향, 이미지, 또는 영상 등(딥페이크 영상 등)을 제작·편집·유포·상영 또는 게시하는 행위를 해서는 안 된다. 의정활동 보고, 통상적인 정당 활동, 당내 경선 운동, 투표 참여 권유 활동에 딥페이크 영상 등을 이용할 수는 있지만, 사실상 선거운동을 하는 경우에는 위법이다. 이러한 내용을 담은 공직선거법 개정안은 지난달 20일 국회 본회의를 통과했다.
앞으로는 ‘AI 윤석열’과 ‘AI 이재명’을 활용한 선거운동을 할 수 없게 된다는 얘기다. 남해군수 사례가 이번 총선 국면에서 재연된다면 처벌도 가능하다.
김명주 서울여대 교수(정보보호학)는 “‘일단 당선되고 보자’는 선거판 심리와 AI가 만나면 부작용을 일으킬 가능성이 크기 때문에 아예 금지한 것으로 보인다”면서 “AI를 활용하면 상대방을 비방하거나 허위정보를 유포하는 속도가 너무 빠르다. 선거에서 이런 것들을 막아낼 조치가 없는 상태에서 다 허용할 경우 정말 혼탁할 수밖에 없다”고 말했다.
선관위는 위법행위 예방·단속에도 적극적이다. 우선 지난 11일부터 AI 전문가와 모니터링 전담 요원 등으로 구성된 감별반을 확대 편성해 운영 중이다. 기술적 한계 보완을 위해 시각적 탐지, 범용 프로그램 활용, AI 자문위원 등 3단계를 거쳐 법 위반 여부를 가리기로 했다.
또 포털, AI 플랫폼 관계사 등과의 협조를 통해 위법성이 의심되는 콘텐츠를 선제 삭제하고, 삭제 요청에 불응하면 과태료도 부과한다는 계획이다. 특히 선거일이 임박해서는 조치 수준을 최대한으로 높여 대응한다. 선관위 관계자는 “정교한 기술로 만들어진 딥페이크 영상이 선거운동에 활용되는 경우 유권자의 정확한 판단을 방해할 가능성이 크다”며 “가용 역량을 총동원해 위법행위에 신속하고 엄정하게 대응할 방침”이라고 밝혔다.
AI 댓글 자동 생성 프로그램 등을 통한 댓글 자동 게시는 데이터 분석 등을 통해 의심 사례를 발견하면 수사 기관에 통보할 방침이다. 선관위는 이런 프로그램이 사회 전체 여론을 왜곡한다는 점에서 업무방해죄 등에도 해당할 수 있다고 보고 있다. 특히 AI를 활용할 경우 과거 댓글 조작을 벌인 ‘드루킹 사건’보다도 저비용으로 더 손쉽게 광범위한 여론 조작을 벌일 수 있다는 위험이 존재한다. 실제 시중에서는 챗GPT 등을 활용해 자동으로 댓글을 달아 주는 프로그램도 유통되고 있는 것으로 알려졌다.
다만 여전히 규제 실효성에는 한계가 있다는 지적도 나온다. 임종인 고려대 정보보호대학원 석좌교수는 “여야 모두 강성 지지층이 무리한 시도를 많이 하는 상황에서 총선을 며칠 앞두고 (딥페이크를) 해 버리면 퍼지는 건 순식간이고, 결국 민주주의를 위협한다”면서 “가상사설망(VPN)을 이용해 인터넷주소(IP)를 해외로 바꾸면 사실상 수사도 어렵다”고 말했다. 임 교수는 “AI로 만든 이미지라는 ‘워터마크’를 표시하는 등 기술적 방법이 제시되고 있지만 그런 것들이 완벽하지도 않고, 법적으로 강제하는 것은 표현의 자유와도 부딪칠 수 있기 때문에 자율 규제가 중요하다”고 말했다.
정치권 차원에서도 선거 국면에서 AI의 오용을 막을 준비는 아직 미흡한 상태다. 국민의힘 관계자는 “아직 별다른 움직임이 없는 거로 볼 때 여당이나 야당이나 이번 선거에서 AI 활용을 막기는 힘들지 않을까 싶다”면서 “과거 드루킹 사례처럼 악용된다면 선거가 정말 혼탁해질 것”이라고 했다. 더불어민주당 관계자도 “아직 집중적으로 살펴보는 수준까지는 아니지만 선거대책위원회가 출범하면 하위 기구에 그런 내용이 담길 수 있을 것”이라면서 “전통적인 선거운동이 아니라 기술적인 측면을 알아야 하기 때문에 별도로 연구가 필요하다고 본다”고 전했다.