일론 머스크의 인공지능(AI) 기업 xAI의 챗봇 서비스 ‘그록(Grok)’ 트래픽의 절반 이상이 성인 콘텐츠와 관련된 요청인 것으로 알려졌다.
이 과정에서 일부 엔지니어가 퇴사하고 안전성 논란까지 불거지면서 AI 서비스 운영 방식에 대한 우려도 커지고 있다.
미국의 정보기술(IT) 전문매체 디인포메이션은 최근까지 xAI에 재직했던 직원 2명을 인용해 그록 트래픽의 절반 이상은 음란 이미지·영상 생성과 성인 역할극 채팅 등 성인 콘텐츠와 관련됐다고 25일(현지시간) 보도했다.
보도에 따르면 이용자들은 비용이 더 저렴한 그록의 ‘코딩 전용 모델’을 성인 콘텐츠 생성에도 활용한 것으로 전해졌다.
실제로 코딩 전용 모델에 대한 이용자 요청의 상당 부분은 성인 콘텐츠 생성과 관련된 것으로 나타났다.
일부 엔지니어들은 실존 인물 사진을 도용한 동의 없는 음란물 생성 문제에 충격을 받았고, 일부는 ‘애니(Ani)’라는 성적 대상화 AI 아바타 개발 프로젝트에 투입되자 회사를 떠난 것으로 알려졌다.
앞서 그록은 지난해 말 이용자의 요청으로 아동이 등장하는 성적 이미지를 생성한 사실이 드러나 여러 국가에서 접속 차단 조처되거나 조사 대상에 오른 바 있다.
xAI의 안전팀 규모는 지난해 말 기준으로도 6명가량이었다. 현재 정확한 규모가 공개되지 않았지만, 당시보다 더 줄어든 것으로 전해졌다.
스페이스X는 IPO 신청서에서 xAI 모델이 올해 1분기 매달 이미지 100억장과 동영상 20억편을 생성했다고 밝혔지만 성인 콘텐츠 비중은 공개하지 않았다.
다만 스페이스X는 투자설명서에서 그록이 노골적인 콘텐츠와 허위정보, 동의 없는 이미지 등을 생성할 위험이 있다고 경고했다.
이에 AI 생성형 서비스의 안전장치와 콘텐츠 관리 체계를 둘러싼 논란도 다시 커질 것으로 보인다.