현직 검사가 챗GPT 같은 생성형 인공지능(AI) 이용자가 타인을 사칭해 명예훼손 목적의 사진이나 영상을 만들어 유포하면 형사처벌할 필요가 있다는 주장을 내놨다.
5일 법조계에 따르면 김정화 대구지검 검사(변호사시험 4회)는 대검찰청이 지난달 발간한 논문집 ‘형사법의 신동향’ 가을호에 이런 내용을 골자로 한 논문 ‘생성형 AI 기술의 규제 방향에 대한 입법론적 고찰’을 기고했다. 임동민 서울중앙지검 검사(변호사시험 8회)와 차호동 대검 검찰연구관(사법연수원 38기)도 각각 공동 저자, 교신 저자로 이름을 올렸다.
김 검사 등은 ‘온라인 타인 사칭 행위는 사실의 적시에 해당하지 않아 명예훼손죄에 해당하지 않는다’는 대법원 판례를 들면서 규제의 공백을 지적하고, 명예훼손 목적의 생성물과 딥페이크(이미지합성기술) 포르노 제작 등을 금지해야 한다고 주장했다.
구체적으로는 “다른 사람의 명예를 훼손하거나 그 신분을 사칭하기 위한 목적으로 다른 사람의 얼굴·신체·음성을 대상으로 한 촬영물·영상물·음성물을 생성형 AI 시스템을 이용해 제작·편집·합성·가공하거나 유포한 자는 형사처벌할 필요성이 있다”고 설명했다.
김 검사 등은 또 “생성형 AI 서비스 제공자에게는 영상·사진·음성 생성물이 인공적인 방법으로 제작된 것임을 나타내는 표시를 하게 하는 등의 ‘투명성 규제’를 부과할 필요가 있다”고 제언했다. 미국과 유럽연합(EU)에선 이 같은 내용의 입법안이 발의된 상태다.
이들은 “제공자가 표시 의무를 이행하지 않으면 규제 당국이 시정명령과 과태료를 부과하고, 시정명령도 불이행 시 형사처벌 대상으로 정하는 단계적 규제가 바람직할 것”이라고 덧붙였다.