일론 머스크 테슬라 최고경영자(CEO)가 자신이 소유한 엑스(X·옛 트위터)의 본인 계정에 미국 민주당 대선 후보로 사실상 확정된 카멀라 해리스 부통령의 음성을 조작한 영상을 공유했다가 물의를 빚었다. 이에 미국 대선을 앞두고 인공지능(AI)이 선거에 미칠 악영향 가능성이 다시 수면 위로 떠올랐다.
28일(현지시간) 에이피(AP) 통신은 인공지능 딥페이크 기술로 해리스 부통령이 하지 않은 발언을 한 것처럼 꾸민 영상을 머스크가 엑스에 올려 1억 2300만회의 시청 기록을 올렸다고 보도했다.
머스크는 지난 26일 조작된 해리스 부통령의 목소리를 이용한 1분 52초짜리 영상을 “놀랍다”는 글과 함께 자신의 엑스 계정에 올렸다.
해당 영상은 해리스 부통령 쪽이 배포한 진짜 영상에 가짜 음성이 삽입됐다. “나, 카멀라 해리스는 민주당 대통령 후보다. 왜냐하면 조 바이든이 마침내 토론에서 그의 노망을 드러냈기 때문”, “나는 여성이자 유색인종으로서 다양성 중시 차원에서 발탁됐다” 등 ‘가짜 해리스 목소리’가 들어갔다.
해리스 캠프 측은 발끈했다. 해리스 대선 캠프의 미야 에렌버그 대변인은 AP통신에 “우리는 미국인들이 해리스 부통령이 제안하는 진정한 자유와 기회, 안보를 원하며, 일론 머스크와 도널드 트럼프의 조작된 거짓말을 원하지 않는다고 믿는다”는 입장을 냈다.
머스크는 해당 영상을 퍼 나르면서 가짜라는 표시를 하지 않아 논란을 가중시켰다. 애초 영상의 원제작자는 유튜브와 엑스 계정에 영상을 올리면서 조작된 패러디 영상이라는 표시를 했다.
더욱이 머스크는 최근 공화당 대선 후보인 도널드 트럼프 전 대통령에 거액을 후원하며 공개적으로 지지했다. 미국 대선이 100일 앞으로 다가온 가운데 ‘의도’를 의심받을 수 있는 일이기도 했다.
엑스 사용자들 사이에서는 머스크가 “사람들을 속이고, 혼란스럽게 만들고, 해를 끼치는 합성되고, 조작되고, 왜곡된 미디어를 공유하면 안 된다”는 엑스의 정책을 스스로 위반했다는 비판이 나왔다.
AI 규제 강화 운동을 해온 시민 단체 ‘퍼블릭 시티즌’의 롭 와이스먼 공동대표는 “영상을 본 사람들 대부분이 그것을 농담이라고 생각하지 않을 것이라고 확신한다”며 “영상의 질이 굉장하지는 않지만 충분히 그렇게 볼 것”이라고 AP 통신에 전했다.
AP 통신은 “미국 대선이 다가옴에 따라 AI가 생성한 이미지나 오디오·비디오 클립 등이 정치를 어떻게 오도하는지 보여주는 사례”라면서 “높은 품질의 AI 도구에 대한 접근이 한층 더 쉬워진 상황에서 정치 영역에서의 AI 활용에 대한 지도를 대체로 주(州) 정부와 소셜미디어 플랫폼에 맡기면서 연방 차원의 규제 조치는 크게 부족하다는 것을 보여준다”고 지적했다.