방송인 유재석의 얼굴과 목소리를 인공지능(AI)으로 합성한 유튜브 영상이 조회수 10만회를 넘겼다. 유재석이 실제 출연하거나 녹음한 영상은 아니다. 신고가 이어진 뒤 해당 채널은 사라졌지만, 비슷한 이름의 채널이 다시 등장했다.
유튜브는 유명인 사칭을 금지하고 AI로 만든 얼굴을 찾아내는 기능까지 도입했다. 그러나 합성 영상이 발견됐다고 곧바로 삭제되는 것은 아니다. 사칭 여부를 판단하고 영상을 내리기까지 별도의 절차가 필요하다.
◆유재석 얼굴 내걸고 가족 사연 낭독…조회수 10만회
9일 정보통신업계에 따르면 유튜브 채널 ‘유재석과 함께하는 이야기’에는 AI로 만든 유재석의 얼굴과 합성 음성을 사용한 영상들이 게시됐다.
영상은 가족 갈등과 재산 다툼 등 사연을 소개하는 형식이었다. 썸네일에는 유재석의 얼굴을 내걸었고, 영상에서는 실제 목소리와 비슷한 AI 음성이 대본을 읽었다. ‘20년 동안 아버지가 아니라는 이유로 모진 학대를 받았던 아들'’이라는 영상은 조회수 10만회를 기록했다.
한 이용자가 댓글에서 AI 음성이라고 지적하자 운영자는 자신들이 제작한 AI 음성이라고 답했다. 논란과 신고가 이어진 뒤 채널은 사라졌다. 이후 ‘유재석과 털어놓는 이야기’라는 유사 채널이 등장했다. 새 채널에는 운영자 국가가 베트남으로 표시돼 있었다.
이국종 교수와 김형석 교수의 얼굴·목소리를 AI로 합성해 건강 정보나 인생 조언을 전하는 영상도 올라왔다. 이국종 교수를 사칭한 한 채널에서는 조회수 60만회를 넘긴 영상도 있었다.
◆AI 표시해도 사칭은 금지…탐지돼도 자동 삭제는 아냐
유튜브의 사칭 정책은 특정인의 얼굴이나 목소리를 복제해 당사자가 직접 채널을 운영하거나 콘텐츠를 승인한 것처럼 오인시키는 행위를 금지한다. AI 사용 사실을 표시했다고 해서 사칭이 허용되는 것은 아니다. 정책을 위반한 채널은 폐쇄될 수 있다.
유튜브는 올해 5월부터 AI 생성 콘텐츠를 자동으로 식별해 표시하는 기능도 확대했다. 이용자가 AI 사용 사실을 밝히지 않았더라도 시스템이 사실적인 AI 합성 콘텐츠로 판단하면 표시를 붙일 수 있다. AI 표시 여부와 사칭 판정 및 영상 삭제는 별개의 문제다.
얼굴 유사성 탐지 기능도 운영 중이다. 유튜브는 지난 5월 이 기능의 이용 대상을 만 18세 이상 크리에이터로 확대한다고 발표했다.
이용 대상자는 신분증과 얼굴 영상으로 본인 확인을 마친 뒤 기능을 등록할 수 있다. 시스템은 새로 게시된 영상에서 등록자의 얼굴과 유사한 AI 합성 콘텐츠를 찾아 보여준다.
영상이 탐지된 다음에는 당사자가 내용을 검토하고 개인정보 보호 절차에 따라 삭제를 요청할 수 있다. 유튜브는 해당 콘텐츠가 당사자를 식별할 수 있는지, 풍자나 패러디에 해당하는지 등 여러 요소를 고려해 처리한다.
현재 탐지 기능은 얼굴을 중심으로 작동한다. 목소리만 복제한 영상은 별도의 개인정보 침해 신고 절차를 이용해야 한다. 기능은 아직 실험 단계이며 일부 국가에서는 제공되지 않는다.
유튜브는 영구 폐쇄된 채널의 운영자가 새 채널을 만들어 제재를 피하는 행위도 금지한다. 두 채널의 이름과 영상 형식이 비슷해도 운영자가 같은지는 별도로 확인해야 한다.
◆AI기본법은 사업자 중심…개인 사칭 영상 규율에 한계
지난 1월 22일 시행된 AI기본법 제31조는 AI사업자에게 생성형 AI 이용 사실을 사전에 알리고 생성물임을 표시하도록 의무를 부과한다. 실제와 구분하기 어려운 음성이나 이미지, 영상은 이용자가 AI로 만들어졌다는 사실을 명확하게 인식할 수 있어야 한다.
그러나 법에서 정한 직접적인 의무 주체는 AI사업자다. 개인이 AI 도구를 사용해 유튜브 영상을 제작하고 게시했다는 이유만으로 모두 같은 표시 의무를 부담하는 것은 아니다. 제작자가 법에서 정한 사업자에 해당하는지, 어떤 방식으로 서비스를 제공했는지 등을 따져야 한다.
이와 별개로 유명인의 얼굴이나 목소리를 허락 없이 사용했다면 부정경쟁방지법 등 기존 법률에 따른 문제가 생길 수 있다. 성명·초상 등의 경제적 가치를 무단으로 이용했는지, 당사자의 권리나 이익을 침해했는지에 따라 판단이 달라진다.
특정 분야에서는 별도의 규제가 강화되고 있다. 오는 11월 27일부터 개정 식품표시광고법·화장품법·약사법에 따라 AI로 만든 가상의 의사나 약사, 대학교수 등이 관련 제품을 보증하거나 추천하는 것처럼 소비자를 오인시키는 광고가 금지된다.
이 규정은 해당 제품의 표시·광고에 적용된다. 유재석의 합성 목소리로 가족 사연을 읽는 일반 영상은 적용 대상에서 벗어난다.
유튜브는 사칭을 금지하고 탐지 기능도 운영하지만, 유사 콘텐츠는 다시 등장했다. AI 합성 영상이 탐지돼도 삭제하려면 별도의 검토 절차를 거쳐야 한다.
기존 채널이 사라진 이유와 두 채널의 운영자가 같은지는 확인되지 않았다. 유튜브가 실제로 제재했는지, 두 계정의 연관성을 확인했는지가 남은 쟁점이다.