미국 펜타곤 근처에서 대형 폭발이 발생했다고 주장하는 사진이 지난 22일(현지시간) 소셜미디어를 중심으로 확산해 미 증시가 일시 하락하는 등 혼란이 빚어졌다. 사진은 생성형 AI(인공지능)가 만들어낸 가짜 이미지였다. 오픈AI의 챗GPT를 필두로 다양한 형태의 AI들이 쏟아지는 가운데 가짜 이미지가 실제 시장에까지 영향을 미친 것이다. 외신들은 “이번 사태는 AI가 만든 가짜뉴스와 이미지가 사회를 어떻게 뒤흔들 수 있는지 보여주는 극명한 사례”라고 진단했다.
미국 내에선 내년 대선을 앞두고 생성형 AI가 선거판의 새로운 복병으로 떠오를 조짐이다. 그도 그럴 것이 지난 3월, 미국 공화당의 유력 대선 주자인 도널드 트럼프 전 대통령이 경찰에 연행되는 가짜 사진들이 사회관계망서비스(SNS)인 트위터 등에 유통되면서 이미 경험한 일이다. 더구나 이번에 가짜뉴스를 퍼뜨린 계정들은 유료 절차를 통해 트위터의 인증 마크(파란 딱지)를 받은 것으로 드러나 AI발 가짜뉴스의 진위를 판별하기가 더욱 어려워졌다는 우려가 나온다.
이미 챗GPT가 내뱉는 그럴싸한 답변, 미드저니와 같은 도구가 만들어내는 매끈한 이미지, 일부 ‘딥페이크’ 동영상 등은 현실과 구분하기 어려울 정도로 상당한 수준이다. 유럽연합(EU)을 비롯한 여러 나라가 생성형 AI 규제법 마련에 박차를 가하고 있는 것도 이런 이유에서다. 오죽했으면 지난 16일 미 의회에 출석해 생성형 AI의 구체적인 규제안 마련을 촉구했던 챗GPT 창시자인 오픈AI의 샘 올트먼 최고경영자가 “AI의 잠재적 위험을 통제하고 부작용을 막기 위해 (핵물질을 감시하는) 국제원자력기구(IAEA) 같은 국제기구가 필요하다”고 재차 강조했겠나.
AI가 만든 가짜 정보나 이미지가 선거에 영향을 끼쳐 민주주의를 위협할 수 있다는 우려는 남의 일이 아니다. 어물쩍대다가는 우리도 내년 총선에서 상대 진영 후보의 목소리와 이미지를 진짜처럼 조작해 서로 욕보이고 농락하며 헐뜯는 난장판이 벌어질 수 있다. 현행법에는 AI를 활용한 가짜뉴스를 규제하는 조항이 없다. 지난해 대선 과정에서 딥페이크 기술을 활용한 영상이 논란이 됐지만 해법을 마련하지 않았다. 선관위는 AI의 위법 행위에 대응할 방안 마련을 서둘러야 한다. 정치권이 딥페이크 영상 등을 동원한 선거운동을 제한하는 공직선거법 개정안 입법에 속도를 내야 함은 두말할 나위가 없다.