기관총을 쏘는 미국 조 바이든 대통령, 수갑을 찬 도널드 트럼프 전 대통령 등 인공지능(AI)으로 생성된 이미지가 혼란을 주는 상황이 계속되자 AI 기업들이 미 대선까지 AI 활용을 제한하는 방안을 검토 중이다. 선거를 앞두고 AI가 생성한 조작물에 대한 규제를 강화해야 한다는 목소리가 나오자 AI 기업들이 해결책을 제시하는 모양새다.
10일(현지시각) 영국 가디언에 따르면 AI 이미지 생성 기업 미드저니는 11월 미국 대선까지 이용자가 바이든 대통령이나 트럼프 전 대통령에 대한 정치적 이미지를 생성하지 못하게 제한하는 방안을 검토하고 있다. 데이비드 홀츠 미드저니 최고경영자는 향후 12개월 동안 유력 대선 후보 등과 관련한 이미지 생성을 금지 또는 제한할 예정이라고 설명했다.
AI 이미지 생성 기업 인플렉션 AI 또한 자사 챗봇 ‘파이’가 특정 정치 후보를 지지하는 발언을 하는 것을 막겠다고 전했다. 지난주에는 챗GPT를 개발한 오픈AI가 선거의 무결성을 위해 자사 AI로 생성된 이미지에 라벨을 부착해 출처를 구별할 수 있도록 하겠다고 밝히기도 했다.
이러한 AI 기업들의 움직임은 최근 딥페이크 등 AI 조작물에 대한 규제를 강화해야 한다는 목소리에 따른 것이다.
실제로 지난달 뉴햄프셔 프라이머리(예비선거)에선 바이든 대통령의 가짜 목소리를 활용한 전화가 당원들에게 걸려와 논란이 되기도 했다. 전화에는 프라이머리 투표를 거부하라는 가짜 바이든 대통령의 목소리가 담겨있었다. 이에 지난 9일 미 연방통신위원회는(FCC)는 AI를 활용한 가짜 목소리인 오디오 딥페이크를 전화 마케팅에 사용하는 것을 금지했다.
한편 우리나라에서도 선거 등에 영향을 미칠 수 있는 AI 조작물 관리가 이어지고 있다.
지난해 12월 국회는 선거일 90일 전부터 딥페이크 기술을 활용한 선거운동을 금지하는 내용의 공직선거법 개정안을 본회의에서 통과시켰다. 영상과 음성을 복제하는 딥페이크 기술을 활용해 특정 후보를 불리하게 하는 등의 행위를 예방하기 위해서다.
개정안에 따라 중앙선거관리위원회는 지난달 29일부터 딥페이크 영상 등을 이용한 선거운동 단속에 나섰다. 허위사실공표·비방특별대응팀도 확대 편성해 온라인상 정치 관련 게시물의 범죄 가능성 여부 등을 판단하고 있다.