구글·메타·오픈AI “음란 AI콘텐츠 근절 노력”

성착취물로부터 아동 보호 합의
AI가 만든 콘텐츠에 표식 추가

인공지능(AI) 열풍을 주도하고 있는 구글, 메타, 오픈AI 등의 기업들이 성착취 콘텐츠로부터 아동을 보호하기 위해 AI의 학습단계에서부터 아동 성 관련물 접근을 차단하도록 하는 조치에 합의했다.

사진=로이터연합뉴스

23일(현지시간) 월스트리트저널(WSJ) 등에 따르면 비영리단체 ‘올 테크 이즈 휴먼’(All Tech Is Human), 아동보호단체 ‘쏜’(Thorn)은 AI업체들과 생성형 AI 도구의 위험을 최소화하기 위해 이 같은 원칙을 시행하기로 합의했다.

합의를 이끈 단체들은 아동 성 관련물이 담겼을 수 있는 정보를 피하고, AI 학습용 자료에서 아동 성 관련물 삭제를 기업들에 요청했다고 설명했다. 또 새로운 AI 도구로 인한 법 집행의 어려움을 해소하기 위해 콘텐츠가 AI에 의해 만들어졌는지를 확인할 수 있도록 표식을 추가하기로 했다.

미국 실종학대아동방지센터(NCMEC)에 따르면 지난해에만 3600만건에 이르는 아동 성착취물에 대한 보고가 있었다. AI의 발전으로 간단한 이미지 생성 등이 가능해진 가운데 신기술로 관련 위험이 커질 것이라는 우려가 늘어나며 이번 합의가 이루어졌다.

합의에 참여한 AI업체 경영진은 자사 AI 도구가 아동 성착취물 생성에 이용되게 하지 않을 것이라는 입장을 밝혔다.