“병원 안 가고 인공지능(AI) 말만 믿는 사람보다 확인하러 온 제가 더 나은 거 아닌가요?”
최근 가슴이 답답하고 숨이 잘 쉬어지지 않아 챗GPT에 증상을 물어본 뒤 병원을 찾은 한 직장인의 사연이 온라인 커뮤니티를 달궜다. “참고만 했을 뿐”이라는 설명에도 의사가 한숨을 쉬면서 “AI가 그렇게 말한다고 병원에 오면 어떡하냐. 괜히 불안하기만 하니 그런 거 보지 마라. 의사가 괜히 있느냐”고 핀잔했다는 토로였다.
댓글에서는 “하루에도 여러 명 진료하는데 오는 사람마다 AI한테 물어봤다고 하면 피로할 법 하다”는 의료계 공감과 “그렇다고 환자에게 화를 내는 것은 부적절하다”는 옹호론이 맞섰다.
AI 기술의 급격한 진화 속에 환자들은 물론 일선 진료실에서도 AI의 영향력이 뚜렷해지고 있다. 하지만 AI 특유의 ‘환각(할루시네이션)’과 ‘눈치 보기(아첨)’ 현상이 여전한 상황에서, AI의 답변을 쥐고 병원을 찾는 환자들이 늘며 새로운 진료실 갈등이 빚어지고 있다.
◆ 진료실로 쏟아져 들어오는 ‘닥터 AI’
AI를 활용한 건강 진단은 이미 거스를 수 없는 대세다. 지난 4월 한국언론진흥재단이 20~60대 1000명을 대상으로 조사한 ‘디지털·AI 플랫폼을 통한 건강·의료 정보 소비 및 인식’ 결과에 따르면, 응답자의 58.3%가 ‘AI로 건강·의료 정보를 얻거나 상담하는 것이 의사·한의사 진료를 대체할 수 있다’고 답했다. 건강·의료 문제로 생성형 AI를 ‘상담’ 방식으로 활용해 봤다는 응답도 48.9%로 절반에 달했다. 20대에서는 이 비율이 61.3%까지 치솟았다.
해외에서도 마찬가지다. 오픈AI는 지난 7월 매주 3억명 이상이 검사 결과 해석, 진료 준비, 의사 설명 이해, 생활습관 형성 등을 목적으로 챗GPT에 건강 관련 질문을 하고 있다고 밝혔다. 전 세계 의료인 전용 커뮤니티 세르모의 조사에서도 글로벌 의료진의 48%가 “진료 전 환자들이 자주 또는 가끔 AI 사용을 언급한다”고 응답했다. 환자 2명 중 1명은 ‘닥터 AI’를 한 번 거치고 진료실을 찾는 셈이다.
◆ 확신에 찬 오답, 비위 맞추는 AI…진료 지연 우려 유발
다만 AI 의료 상담은 여전히 뚜렷한 한계를 드러낸다.
국제 의학 학술지 BMJ 오픈에 게재된 연구에 따르면 주요 AI 챗봇 5종의 의료 질문 응답 중 49.6%가 결함이 있는 수준으로 분류됐다. 문제는 챗봇이 불완전하거나 틀린 의학 정보를 제공하면서도 단정적이고 권위적인 어조를 구사했다는 점이다.
이용자의 눈치를 보며 말을 바꾸는 이른바 ‘아첨 편향(Sycophancy)’도 치명적인 결함으로 꼽힌다. 최근 스탠퍼드대와 하버드의대 연구팀이 전산언어학회(ACL) 주최 학술대회에서 발표한 의료 분야 대형언어모델(LLM) 분석 연구에 따르면, 사용자가 AI 진단에 회의를 품고 반박·압박할 때 모델이 이용자의 기분을 맞추기 위해 올바른 진단을 철회하고 잘못된 의견에 동조하는 양상을 보였다. 특히 주관식 임상 추론보다 ‘예/아니오’ 등 선택지가 제한된 객관식 질문에서 압박에 훨씬 취약하게 무너졌다.
이 같은 AI의 결함은 환자의 오판을 키우고, 진료실의 소통을 지연시키는 주범으로 지목된다.
실제 세르모 조사에서 의사의 약 95%는 환자의 AI 의존에 한 가지 이상의 우려를 표했다. 가장 큰 위험으로는 ‘오진 및 치료 지연’(47%)이 꼽혔고, ‘복잡한 임상 맥락의 결여’(24%), ‘의사 전문성에 대한 신뢰 훼손’(17%)이 뒤를 이었다. 환자 한 명당 진료 시간이 수분 남짓한 국내 의료 환경을 생각하면 잘못된 AI 정보에 대한 해명이 진찰과 치료 합의를 늦추고 의료진의 진료 피로를 키우는 주원인이 될 수 있다.
주목할 점은 의사들이 AI라는 기술 자체를 거부하는 것은 아니라는 점이다. 미국의사협회(AMA)에 따르면 미국 의사의 81%가 연구 요약과 진료 기록 작성 등 업무 보조용으로 AI를 적극 채택하고 있다. 결국 임상적 전문 지식 없이 오염되기 쉬운 AI 정보를 진료실 안팎에서 어떻게 안전하게 소화해 낼 것인가가 관건인 셈이다.
◆ ‘진단서’ 아닌 ‘소통의 징검다리’로 삼아야
진료실 문턱에서 벌어지는 충돌을 막기 위해 국내외 가이드라인 마련도 속도를 내고 있다.
AMA는 환자들에게 AI를 진단 도구가 아닌 ‘소통 준비 도구’로 쓸 것을 권고하고 있다. △AI를 의사 대신이 아닌 원인 탐색 참고용으로 쓸 것 △증상 설명 시 나이·성별·생활습관 등 맥락을 포함할 것 △병원 방문 전 의사에게 질문할 사항을 준비하는 용도로 활용할 것 등이다.
국내에서도 원칙 정립이 본격화되고 있다. 한국보건의료연구원은 지난 1월 의료 현장의 생성형 AI 활용 원칙을 발표하며 의료인에게 환자 중심 설명과 동의 등을 핵심 실천 원칙으로 제시했다. 국민들에게는 자율과 책임을 갖고 AI를 ‘보조 도구’로 인식할 것을 당부했다. 보건복지부 역시 2000~3000명 규모의 대국민 의료 AI 활용 인식 조사를 토대로, 하반기 중 국민들이 올바르게 의료 AI를 소비할 수 있도록 돕는 실질적 가이드라인을 내놓을 방침이다.