오픈AI가 청소년 대화 안전장치를 강화한 ‘청소년용 챗GPT(ChatGPT for Teens)’ 모드를 18일(현지시간) 출시했다.
이용자가 13~17세로 나이를 입력하거나 시스템이 18세 미만으로 추정할 때 자동으로 전환한다.
자해·폭력·섭식장애·위험 행동·성적 콘텐츠 등 관련 대화를 강력히 통제하며, 민감하거나 사적인 사진 업로드 시 경고를 주는 기능도 갖췄다.
챗봇이 인간처럼 감정이나 자의식을 가진 것처럼 묘사되는 것을 금지했다.
로맨틱한 표현이나 정서적 유착을 유도하는 대화를 차단해 청소년이 AI에 과도하게 의존하거나 정서적 교감을 갖지 못하도록 설계했다.
부모를 위한 관리 기능도 한층 강화됐다.
자녀의 챗GPT 사용을 제어하는 ‘방해금지 시간’이나 학습을 돕는 ‘공부 시간’을 기본값으로 지정할 수 있다.
공부 모드는 아동·교육 전문가의 연구를 바탕으로 제작, 단순히 정답만 제시하는 대신 단계별 원리를 가리키고 역질문을 던져 스스로 문제를 해결하도록 유도한다.
부모가 따로 설정하지 않아도 편법으로 숙제하려는 정황이 감지되면 ‘책임감 있는 숙제 알리미’ 기능이 작동해 공부 모드로 자동 전환된다.
이러한 안전 강화조치는 기업공개(IPO)를 앞둔 오픈AI가 사법 리스크를 줄이기 위해 마련한 대책으로 풀이된다.
오픈AI는 10대 청소년들의 범죄 모의 사건 등으로 다수의 소송에 직면해 있다.