중국 최고인민법원이 인공지능(AI)을 이용한 얼굴·음성 합성과 허위 정보 생성 등으로 타인의 권익을 침해하는 행위에 대한 책임 기준을 구체화했다. 특히 AI 서비스 제공자가 인격권 침해 사실을 통보받고도 필요한 조치를 제때 취하지 않으면 발생한 손해에 대해 책임을 지도록 했다.

7일(현지시간) 신화통신에 따르면 최고인민법원은 이날 ‘인공지능 관련 분쟁 사건의 법에 따른 심리에 관한 의견’을 발표했다. 5개 부분, 24개 조항으로 구성된 의견에는 AI 얼굴·음성 합성, AI 환각(할루시네이션), 온라인 신상털기, 빅데이터를 이용한 고객 차별, 자율주행, AI 모델 학습 등에 관한 재판 기준과 소송 절차가 담겼다.

중국 톈안먼 광장과 오성홍기. UPI 연합뉴스

의견은 동의 없이 AI로 타인의 이름이나 초상 등을 처리해 해당 인물을 식별할 수 있는 가상 디지털 형상을 만들고 이를 사용하거나 공개하면 성명권·초상권 등 인격적 권익 침해에 해당한다고 명시했다. 동의 없이 타인의 음성을 학습 자료로 사용해 음색과 억양, 발음 방식을 모방하고 해당 인물을 식별할 수 있는 합성 음성을 생성한 경우에도 음성에 관한 권익을 침해한 것으로 봤다.

가상 형상이나 합성 음성을 조작해 부적절한 행위를 하거나 허위 발언을 함으로써 다른 사람에 대한 사회적 평가를 떨어뜨리면 명예권 침해에 해당해 법적 책임을 지게 된다.

생성형 AI가 질문과 동떨어진 답변이나 부정확한 정보를 내놓는 ‘AI 환각’에 따른 권익 침해 문제도 다뤘다. AI가 자동으로 생성한 내용이 인격적 권익을 침해하고, 권리자의 통지를 받은 서비스 제공자가 해당 내용의 생성 중단 등 필요한 조치를 제때 취하지 않으면 발생한 손해에 대해 책임을 지도록 했다.

이용자가 권익을 침해하는 프롬프트(입력 명령)를 넣는 등의 방식으로 AI가 침해 내용을 만들도록 악의적으로 유도해 타인에게 손해를 입힌 경우에는 해당 이용자가 책임을 진다. 권리자의 통지를 받은 서비스 제공자가 침해 내용의 생성 중단이나 관련 명령 차단 등의 조치를 제때 취하지 않았다면, 법원은 이용자와 서비스 제공자에게 민사책임을 묻는 권리자의 청구를 인정하도록 했다.

AI 얼굴 합성 등의 피해를 신속히 막기 위한 인격권 침해 금지명령의 적용 기준도 명확히 했다. 쓰옌리 최고인민법원 연구실 부주임은 AI 얼굴 합성으로 자신에 관한 성적 허위 소문이 만들어졌다는 증거가 있고, 이를 제때 막지 않으면 회복하기 어려운 손해가 발생할 경우 피해자가 법원에 금지명령을 신청할 수 있다고 설명했다. 법원은 심사를 거쳐 이용자에게 침해 행위를 중단하도록 명령하거나 인터넷·AI 서비스 제공자에게 피해 확대를 막기 위한 조치를 취하도록 할 수 있다.

소비자 보호를 위한 규정도 담겼다. 사업자가 같은 상품이나 서비스에 대해 알고리즘을 이용해 가격 등 거래 조건에서 불합리한 차별을 하고, 다른 사람의 합법적 권익을 침해해 손해를 입히면 그에 상응하는 책임을 지도록 했다. 고객 정보를 분석해 단골에게 오히려 비싼 가격을 제시하는 이른바 ‘빅데이터를 이용한 단골 고객 차별’ 등이 대상이다.

AI로 유명인을 사칭해 상품을 판매하는 행위가 사기에 해당하고 소비자가 징벌적 손해배상을 청구하면 법원은 이를 인정하도록 했다.

저우자하이 최고인민법원 연구실 주임은 “모든 소비자에게 진위를 꿰뚫어 보는 눈을 갖추라고 할 수는 없다”며 “법이 제때 칼을 빼 들어 소비자의 합법적 권익을 보호해야 한다”고 말했다.