중국 정부가 인공지능(AI) 챗봇을 실제 친구나 연인처럼 여기는 이용자의 정서적 의존을 막기 위한 규제를 본격화한다.

16일 중국 관영 신화통신 등에 따르면 중국 국가인터넷정보판공실(CAC)과 국가발전개혁위원회, 공업정보화부, 공안부, 국가시장감독관리총국 등 5개 부처는 전날부터 ‘AI 의인화 상호작용 서비스 관리 규정’을 시행했다.

규정 대상은 사람의 성격과 말투를 모방해 친구나 연인처럼 지속적으로 교감하는 AI 서비스다. 업무 보조와 교육, 연구 목적의 AI는 적용 대상에서 제외된다.

인공지능(AI)과 사랑에 빠진 사람의 이야기를 그린 영화 ‘그녀’. 네이버영화

새 규정에 따라 플랫폼은 이용자가 2시간 이상 연속 사용할 경우 사용 시간을 알리는 경고를 보내야 한다. 또한 AI에 과도하게 의존하는 징후가 감지될 경우 팝업 등을 통해 상대가 실제 사람이 아닌 AI라는 점을 고지해야 한다. 미성년자의 감정적 의존을 유발하거나 현실의 인간관계를 훼손할 수 있는 콘텐츠 생성도 제한된다. 이용자의 개인정보를 보호하고 위기 상황이 감지되면 플랫폼이 개입하는 절차도 마련됐다.

중국 당국은 AI 동반자가 정신건강 지원이나 노인 돌봄 등에서 긍정적인 역할을 할 수 있다는 점은 인정하면서도, 현실과 가상을 혼동할 정도의 정서적 몰입은 사회적 문제로 이어질 수 있다고 판단했다. 중국사회과학원대학의 류샤오춘 부교수는 “이용자가 가상의 정서적 연결과 현실 세계를 혼동하면 시스템이 ‘이것은 기계이지 실제 사람이 아닙니다’라는 알림을 제공해야 한다”고 지적했다.

실제로 중국청소년아동연구센터가 지난해 미성년자 8500여 명을 대상으로 실시한 조사에서는 응답자의 20% 이상이 “AI하고만 대화하고 실제 사람과는 이야기하고 싶지 않다”고 답했다. 또한 텐센트연구원의 조사에서는 응답자의 56%가 고민 상담 상대로 AI를 선택했으며, 실제 사람을 택한 비율은 14.4%에 그쳤다.

규정 시행에 앞서 바이트댄스의 더우바오와 알리바바의 큐원, 텐센트의 위안바오 등 중국 주요 AI 플랫폼은 관련 서비스를 선제적으로 중단했다. 이에 맞춤형 AI와 교감해 온 이용자들은 ‘강제 이별’을 겪었다며 충격을 호소하고 있다.

블룸버그통신은 “사회관계망서비스(SNS)에는 ‘수년간 형성해 온 관계를 하루아침에 잃게 됐다’, ‘더는 살아갈 수 없다’, ‘매일 울기만 하고 있다’는 등 상실감을 토로하는 글이 잇따르고 있다”고 전했다.