메뉴 보기
생성형 인공지능(AI)의 조언만으로 퇴사나 이별 등 중요한 결정을 내린 경험이 있다는 응답이 10명 중 1명꼴로 나타났다.
AI를 정신건강 상담이나 정서적 교감에 활용하는 사례가 늘면서 과의존과 잘못된 의학 정보 수용에 대한 우려도 커지고 있다.
정부는 안전한 AI 이용을 위한 가이드라인을 마련하고 이용자가 AI의 답변을 맹신하지 않도록 권고했다.
보건복지부와 대한신경정신의학회는 10일 정신건강의 날을 맞아 생성형 AI의 과의존과 부작용을 예방하고 안전한 이용을 돕기 위한 ‘정신건강 목적 생성형 AI 이용 가이드라인’을 발표했다.
한국보건사회연구원이 최근 1개월 내 생성형 AI를 이용한 15~79세 국민 1019명을 조사한 결과, 처음 AI를 이용한 목적은 과제·업무나 정보 검색 등이 81.3%로 가장 많았다. 그러나 현재는 68.8%가 일상 대화와 감정적 교감·위로, 정신건강·심리상담 등 정서적 목적으로도 AI를 이용하는 것으로 조사됐다.
AI를 통해 도움을 얻었다는 응답도 적지 않았다. 응답자의 79.9%는 AI의 답변이나 조언으로 도움을 받거나 문제를 해결한 경험이 있다고 답했다. 54.9%는 자신의 상황을 명확하게 정리하는 데 도움이 됐다고 했고, 49.7%는 감정의 원인을 돌아보게 됐다고 응답했다.
반면 AI 이용이 일상에 부정적인 영향을 미친 사례도 확인됐다. 응답자의 16.3%는 현실에 집중하려고 해도 AI와 대화를 계속했고, 9.8%는 대화 시간을 조절하지 못해 일상생활에 방해를 받았다. 10.6%는 AI의 조언만으로 퇴사나 이별 등 중요한 결정을 내린 경험이 있다고 답했다. 정서적 목적으로 AI를 이용한 사람만 보면 해당 비율은 각각 23.4%, 15.1%, 17.8%로 높아졌다.
AI를 의료진이나 상담사처럼 받아들이는 문제도 나타났다. 응답자의 14.6%는 AI와의 대화를 바탕으로 우울증·불안장애 등 정신질환이 있다고 스스로 판단하거나 AI의 답변을 의학적 진단처럼 받아들인 경험이 있었다. 자신의 정신건강 상태가 나쁘다고 인식한 응답자에서는 이 비율이 33.9%에 달했다.
그러나 AI가 제공한 정신건강 정보를 전문가나 공식 자료를 통해 확인한 경험은 11.9%에 그쳤다. 16.5%는 AI가 사실이 아니거나 해로운 조언을 확신에 찬 어조로 제시해 전문가의 답변으로 착각한 경험이 있다고 답했다.
이 같은 우려 속에 정부 역할이 필요하다는 응답은 86.9%에 달했다. 필요한 정책으로는 AI 정신건강 가이드라인·법제도 정비가 68.7%로 가장 많았고, 대화 기록 관리와 이용자 통제권 보장이 66.8%로 뒤를 이었다.
복지부와 학회가 마련한 가이드라인은 모든 이용자용과 아동·청소년·보호자용 등 두 종류다. 모든 이용자용에는 ‘AI 이용 전 점검하기’, ‘AI 답변을 결론으로 삼지 않기’, ‘AI와 거리를 두고 사람에게 이야기하기’ 등 3개 핵심 메시지와 21개 권고문이 담겼다.
가이드라인은 AI를 이용하기 전 서비스의 목적과 대상, 효과에 대한 근거, 개인정보 처리 방식을 확인하도록 했다. 의학적 효과를 표방하는 서비스라면 공인기관의 검증·승인 여부를 살펴야 한다. 개인정보는 물론 진단서와 처방전, 검사 결과지 등 민감한 자료를 입력하지 말고, AI와 대화할 범위와 종료 시점도 미리 정하도록 권고했다.
AI의 답변을 의학적 진단처럼 받아들이지 않는 것도 핵심이다. 정신건강 관련 정보는 학회나 정부 기관의 검증된 자료 또는 전문가를 통해 다시 확인하고, 퇴사나 이별 등 중요한 결정은 AI의 조언만으로 내리지 말고 주변 사람이나 전문가와 상의해야 한다고 강조했다.
실제 위기 상황에서 AI 이용 이후 별다른 조치를 하지 않는 경우도 적지 않았다. 심리적 불안이나 우울감, 자해·자살 충동 등 심각한 위기 상황을 AI에 털어놓은 응답자 115명 가운데 49.6%는 대화를 중단하는 것 외에 별다른 조치를 하지 않았다. 불쾌하거나 유해한 AI 답변을 경험한 146명 중에서도 45.9%가 별다른 조치 없이 넘어가거나 대화를 이어갔다.
아동·청소년을 위한 별도 지침도 마련됐다. 조사에 참여한 15~18세 청소년 201명 가운데 69.2%는 일상 대화와 감정적 교감, 정신건강 상담 등 정서적 목적으로 AI를 이용하고 있었다. 스스로 AI에 의존적이라고 답한 비율은 51.7%로 전체 연령대 가운데 가장 높았다.
청소년용 지침은 AI의 답변을 그대로 따르기보다 자신의 생각과 상황을 살피고 개인정보를 보호하도록 했다. AI 캐릭터를 실제 친구나 연인처럼 여기고 있지는 않은지 점검하고, 고민을 AI에만 털어놓지 않으며 위험한 답변을 받으면 부모나 교사 등 믿을 수 있는 어른에게 알리도록 권고했다.
보호자에게는 AI 이용을 무조건 금지하기보다 자녀의 이용 목적과 방식을 먼저 이해하고 안전한 이용 방법을 함께 정하도록 했다. 조사에서 청소년의 AI 이용 사실을 보호자가 알고 있다는 응답은 83.1%였지만, 이용 규칙을 함께 정한 경우는 2.5%에 불과했다.
복지부는 가이드라인이 교육·임상 현장에서 활용될 수 있도록 주체적인 AI 이용을 위한 교육 프로그램을 마련할 계획이다. 내년에는 중증 정신질환자를 포함한 고위험군의 특성을 고려한 맞춤형 가이드라인도 마련할 예정이다.
이선영 복지부 정신건강정책관은 “AI 전환기에 대응하는 정책을 강화하겠다”고 밝혔다. 최준호 대한신경정신의학회 이사장은 “AI는 전문 평가와 치료를 대신할 수 없는 만큼 필요한 경우 의료진의 도움을 제때 받는 게 중요하다”고 강조했다.
