동성애·인종 등 혐오·차별 발언, 카카오톡 개인정보 유출 등 논란에 휘말린 인공지능(AI) 챗봇 ‘이루다”가 결국 서비스를 잠정 중단했다.
이루다 개발사 스타트업 스캐터랩은 지난 11일 오후 보도자료를 내고 “부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다”라고 밝혔다.
회사 측은 “특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 진심으로 사과드린다”라면서 “그런 발언은 회사의 생각을 반영하지 않고 있으며, 차별·혐오 발언이 발견되지 않도록 지속해서 개선 중”이라고 설명했다.
자사 애플리케이션에 가입한 회원들의 카카오톡 대화 내용 등 개인정보 유출 의혹에 관해서도 “개인정보 취급 방침 범위 내에서 활용했지만, 이용자분들과 충분히 소통하지 못했다”라고 고개를 숙였다.
스캐터랩은 “앞으로 편향 대화 검출 모델은 모든 분이 사용하실 수 있게 공개할 계획”이라고 밝혔다.
아울러 “한국어 AI 대화 연구 및 AI 제품, AI 윤리 발전에 유용하게 쓰일 수 있으면 좋겠다”라고 했다.
이루다는 스타트업 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다.
자연스러운 대화 능력으로 최근 이용자가 약 75만명에 달하는 등 크게 주목받았지만 악성 이용자로부터 성적 접근 대상이 된 데 이어 동성애·장애인·여성 차별 발언을 해 연일 논란을 일으켰다.
이에 이재운 전 쏘카 대표까지 나서 특정집단에 대한 혐오의식은 제작사에서 걸렀어야 한다며 이루다의 서비스를 중단해야 한다고 주장했다.
현화영 기자 hhy@segye.com
사진=스캐터랩