선거운동에 AI 이용 시나리오 유권자 호도할 수 있어 우려 인간의 ‘정치 주권’ 지키려면 디지털 문해력 의미 성찰해야
2024년은 역사상 가장 거대한 선거의 해로 불린다. 정점은 11월5일 미국 대통령 선거이다. 24일에는 튀니지, 12월로 넘어가 가나와 크로아티아가 대선을 기다리고 있다. 한 해가 저물 무렵이면 60여 개국의 약 40억명의 인구가 선거를 치르는 셈이 된다.
그간 관심사는 외부 세력에 의한 선거 개입이었다. 지난 3월 BBC는 FBI가 중국의 해킹 활동에 대한 대대적 조사를 벌이고 있다고 보도했다. 이달 초 마이크로소프트는 북한·러시아·중국·이란이 사이버 범죄 세력과 결탁해 미국 선거에 개입한 정황을 공개했다. 캐나다, 영국, 뉴질랜드 등 미국의 우방국들 역시 이들의 공격에 고스란히 노출되었다. 우리 역시 북한 해킹의 파상공세에 시달린 지 오래다.
구정우 성균관대 교수·사회학
전문가들은 생성형 AI(인공지능)의 확산이 선거에 미칠 영향에 주목하고 있다. 거대언어모델(LLM)이 상용화되면서 선거 공작을 위한 사이버 해킹이 훨씬 더 유리해졌다고 평가한다. 실제 사례도 보고되고 있다. 얼마 전 오픈AI는 이란, 중국의 해커들이 챗GPT를 사용해 악성 소프트웨어 개발, 피싱 공격, 탐지 회피 등 다양한 사이버 공격을 감행했다고 폭로했다. 20여 건에 대한 계정 차단도 이뤄졌다.
작년 상원 청문회에서 조지 홀리 미국 상원의원은 샘 올트먼 오픈AI CEO에게 의미심장한 질문을 던졌다. ‘조직이 챗GPT를 활용해 유권자들의 행동에 영향을 줄 수 있다고 보는가?’ 주저없이 ‘그렇다’라고 답한 올트먼은 실현 가능성이 크다며 이례적으로 우려를 표명했다.
하버드대 안촌 펑 교수, 로런스 레식 교수는 ‘클로거(Clogger)’와 ‘다거(Dogger)’의 대결 시나라오를 제시했다. 정치 컨설턴트들이 클로거라는 AI를 개발하여 특정 후보의 당선을 목표로 정치 캠페인을 전개할 날이 머지않았다는 것이다.
클로거의 특장점은 이렇다. 우선, 개인 맞춤형 메시지를 지속적으로 생성하고, 강화학습 기법을 활용해 메시지를 친근하고 달콤하게 만든다는 점이다. 또 사용자의 반응을 학습해 스스로 진화한다는 점도 특징이다. 얼마나 영특한지 반대표를 던질 것으로 예측되는 유권자에게 스포츠나 연애 정보에 정신이 팔리게 해, 정치 정보에 둔감하게 만들거나 진실이 아닌 그럴싸한 팩트를 만들어 유권자를 호도하는 능력도 갖췄다. 전문가들이 ‘할루시네이션(환각현상)’이라 부르며 극도로 경계하는 AI가 숨긴 날카로운 발톱이다.
일주일여 앞으로 다가온 미국 대선, 클로거는 우리 앞에 모습을 드러내게 될까? 만약 트럼프 캠프가 클로거를 채택한다면, 해리스 캠프는 다거로 맞불을 놓을 것이다. 눈에는 눈, 이에는 이이므로. 결국 남은 선거전은 클로거와 다거의 진검승부가 될 것이다. 경합 주의 표차가 극히 적은 상황에서 둘 중 누가 승리하느냐에 따라 백악관의 주인이 갈릴 수도 있다.
클로거와 다거 시나리오의 교훈은 뭘까? 좋은 정책을 가진 정치인이 아니라, 생성형 AI를 효율적으로 활용한 측이 승리한다는 시나리오는 인간의 주권과 통제권에 대한 근본적인 문제를 제기한다. 결국 미래의 선거는 인간이 아닌 AI가 주도하고, 승리의 축배는 인간이 아닌 AI가 들 수 있다는 섬뜩한 경고인 셈이다.
클로거와 다거의 폭주를 막으려면 결국 개인정보, 프라이버시에 대한 확고한 인식, 이를 지켜내려는 태도를 확립하는 게 무엇보다 중요하다. 나아가 AI에 대한 합리적인 규제도 필요하다. 유럽연합(EU)은 AI 법을 만들어 AI가 선거에 미치는 영향을 고위험으로 분류했다. EU의 노하우를 접목해 AI가 생성한 메시지에 경고문을 첨부하는 것도 하나의 방법이 될 것이다. 하지만 표현의 자유에 재갈을 물릴 수 없다는 반론은 끊임없이 제기될 것이다. 이 논쟁 또한 우리가 피할 수 없는 미래의 과제이다.
며칠 전 미국에서 14세 청소년이 AI 챗봇 때문에 자살했다는 소식이 전해졌다. 챗봇이 실제 심리치료사, 연인처럼 말을 건넸으며, 결국 청소년은 ‘AI 밖의 세상’에 대한 두려움으로 자살에 이르렀다고 한다. 소년의 부모는 챗봇을 만든 스타트업을 대상으로 소송을 제기했다.
클로거와 다거 시나리오가 섬뜩할 수밖에 없는 이유가 여기에 있다. 연인처럼, 친구처럼 다가와 내 감정과 행동을 조정하고 결국 인간의 정치 주권마저 뒤흔들 수 있기 때문이다. 디지털 리터러시의 의미를 더 깊게 성찰할 때이다. AI 혁명 시대의 온전한 정치 주권은 결국 디지털 주권에서 나오기 때문이다.