돌봄AI ‘윤리적 가이드라인’ 고민할 때 [현장메모]

“일본은 돌봄 인공지능(AI)과 관련된 윤리적 가이드를 만들었지만 우리는 지침조차 없이 도입돼 성적인 발언이 문제가 됐습니다. 일본은 여기에 국내 논란을 다시 소개하며 가이드라인을 더 세세하게 개선했습니다.”

봉제인형 형태 돌봄 AI에 관심을 가지게 된 건 토론회에서 만난 연구원과의 이러한 대화 내용이 계기였다.

이 대화 이후 이어진 돌봄 AI ‘초롱이’ 개발사 미스터마인드 김동원 대표와의 통화 내용은 더 충격적이었다. 독거노인들이 AI 인형을 향해 상상하기 어려운 성희롱성 발언을 하거나 야한 동영상을 볼 수 있는 경로를 알려 달라고 보채는 일이 빈번하다는 사실이다. 성적 발화를 한 노인 6명 중 2명은 치매 환자였다. 개발사는 이 발화 패턴을 추적해 역으로 우울증이나 치매를 진단하는 지표로 활용할 수 있다고 설명한다.

국내에서 AI를 향한 성적 대화가 논란이 된 것은 처음이 아니다. 2021년 AI ‘이루다’를 향한 성희롱이 문제가 된 이후 개발사들이 자체 필터링을 도입했다. 하지만 정부 차원의 통합 가이드라인은 여전히 부재하다. 반면 일본의 경우 지금은 판매가 중단됐지만 2015년 출시된 로봇 ‘페퍼’의 약관에 외설행위 목적의 활용 금지조항을 일찍이 명시했다.

구예지 사회부 기자

AI와의 지속적인 소통은 과도한 정서적 의존을 유발해 기계를 인간으로 착각하게 만드는 문제가 있다. AI에게 가하던 언어폭력과 성희롱 습관이 실제 인간관계로 전이될 수 있다는 점도 지적된다. 학계가 ‘인간 중심 AI’를 강조하는 이유는 여기에 있다. AI에 익숙해진 인간이 현실의 타인에게 비인간적인 행동을 저지르는 부작용을 막을 윤리적 브레이크가 필요하다는 것이다.

‘인간 중심’의 범주에는 물론 돌봄노동자도 포함되어야 한다.

배설물 흡인·세척 로봇이 도입되더라도 노인의 피부 상태를 살피고 욕창을 예방하는 섬세한 영역은 결국 인간의 몫일 수밖에 없다. AI를 관리하는 최종 주체 역시 인간이다. 기술 도입이 돌봄노동자에게 관리 업무라는 부담을 가중시키면서도 “AI가 다 해주는데 뭐가 힘드냐”며 노동가치를 평가절하해서도 안 된다.

AI 기술이 가져올 현장의 부작용과 노동 소외에 대한 고민을 우리는 이미 시작했어야 한다.