우리나라 청소년의 10명 중 7명이 정신건강∙심리상담 등 정서적 목적으로 생성형 인공지능(AI)를 이용하는 것으로 나타났다. 정부는 정신건강 상담 등을 위해 AI를 과도하게 의존하거나 AI의 답변을 의학적 진단으로 받아들이지 않아야 한다는 지침을 마련했다.
보건복지부는 대한신경정신의학회와 함께 ‘정신건강 목적 생성형 AI 이용 지침(가이드라인)’을 만들었다고 8일 밝혔다. 지침에는 생성형 AI를 정신건강 목적으로 이용하는 국민이 AI에 과의존하는 등 부작용을 예방하고 안전하게 이용하도록 하는 내용을 담았다.
한국보건사회연구원이 한국리서치에 의뢰해 생성형 AI 이용자 15∼79세 1019명을 대상으로 설문조사를 실시한 결과에 따르면 응답자의 81.3%가 과제나 업무, 정보검색 등을 목적으로 생성형 AI를 처음 접하고 이용하는 것으로 집계됐다.
업무적 용도 뿐만 아니라 정서적 목적을 위한 이용도 많다. 응답자의 68.8%는 일상 대화와 정신건강·심리상담 등 정서적 목적으로도 이용하는 것으로 나타났다. 특히 청소년(15∼18세)의 경우 69.2%가 정서적 목적으로 생성형 AI를 이용했다.
자신의 정신건강이 나쁘다고 인식하는 사람에게서 AI의 답변을 의학적 진단처럼 받아들이는 경향이 더 크게 나타났다. AI가 제공하는 정신건강 정보를 검증·확인하는 비율은 11.9%에 그쳤다.
생성형 AI의 답변이나 조언으로 도움을 받거나 문제를 해결한 경험이 있는 응답자는 79.9%였다. AI와 대화를 중단하기 어려운 경험을 한 사람도 16.3%에 달했다.
생성형 AI를 이용할 때 개인정보를 보호하기 위해 사적 정보를 걸러 말하는 응답자는 61.0%였으며, 특정 인물·단체를 식별할 수 있는 정보는 익명화하거나 생략하는 경우는 56.6%에 불과했다. 대화 내용이 외부로 유출되거나 다른 목적으로 활용될 수 있다는 응답은 38.0%뿐이었다. 응답자 86.9%는 생성형 AI 이용과 관련해 정부의 역할이 필요하다고 답했다.
정부가 마련한 가이드라인은 이같은 조사 결과를 반영해 권고 사항을 담았다.
가이드라인에 따르면 정신건강 목적으로 생성형 AI를 이용하기 전 서비스 목적·대상·효과의 근거와 개인정보 처리 방식을 확인하고, 의학적 효과를 표방하는 서비스는 공인 기관의 검증·승인 여부를 확인하도록 한다. 이름·연락처·주소 등 개인정보와 진단서·처방전·검사결과지 등 민감한 자료는 입력하지 말고 대화의 범위와 종료 시점을 미리 정한다.
AI의 정신건강 진단이나 위험도 평가를 확정적인 의학적 판단으로 수용하지 말고, 다른 가능성과 관점을 함께 확인하도록 한다.
AI가 제공하는 정신건강 정보·조언은 학회·정부기관 등 검증된 자료나 전문가를 통해 확인하고, 자신의 상황과 맞지 않는 내용은 그대로 따르지 않도록 한다.
AI에 과의존하지 않고 AI 이용이 늘거나 가족·친구와 관계가 줄어들 때는 의식적으로 AI와 거리를 둔다. 중요한 결정은 사람, 전문가와 상의하고 위험하거나 부적절한 응답을 받았거나 정신건강이 위기인 상황에는 가까운 사람과 전문기관에 도움을 요청해야 한다.
아동·청소년과 보호자를 위한 권고 가이드라인도 별도로 마련됐다. 아동·청소년은 원할 때 언제든 AI와 대화를 중단할 수 있음을 인식하고, 고민이나 어려움을 AI에만 털어놓고 있다면 가까운 사람에게 이야기해볼 것 등을 권고한다. 보호자는 아동·청소년의 AI 이용 자체를 무조건 금지하기보다는 아이가 AI를 왜, 어떻게 이용하는지 먼저 이해하고 함께 안전한 이용 방법을 정하도록 한다.