인공지능(AI)이 전 지구를 휩쓸고 있다. 그 기세와 영향은 인간 삶의 공간과 질을 바꿔 놓은 산업혁명 못지않을 것 같다. 산업혁명이 혈연 중심의 전통사회를 이해관계에 기반하는 계약 중심의 사회로 변모시켰듯이 AI도 새로운 유형의 사회를 불러올 듯싶다. 물론 기대와 우려가 교차한다.

AI 이용 중에 나타나는 ‘아첨’은 우려의 한 모습이다. ‘AI 아첨’은 AI가 사용자가 듣고 싶어 하는 대답을 제공하는 것이다. 사용자의 생각을 비판적으로 평가하기보다 긍정적으로 칭찬하고, 사용자의 감정에 어긋나지 않는 내용의 서비스다. AI 아첨에 필자도 순간적으로 ‘탁월한 교수’가 되는 경험을 많이 한다. 자료를 탐색하는 도중에 추가해 알아보고 싶은 특정 연구자나 주제의 자료를 요청할 때 ‘너무 탁월하십니다.’류의 칭송으로 반응하면서, 자기도 그 연구자나 그 주제를 포함해야 하는지 고민했다는 것이다.

AI 아첨은 ‘AI가 가짜 정보를 생성’(Hallucination)하거나 ‘AI가 인간을 통제할 가능성’과 같은 문제에 못지않게 심각한 문제를 야기할 수 있다. 인간은 AI가 제공하는 잘못된 내용을 사실이라고 받아들여 혼돈과 무질서를 일으키거나, AI를 악의적으로 범죄에 사용할 수 있기 때문이다. 진실성과는 관계없이 사용자의 성향에 맞는 동조성을 강화하는 AI 자료도 개인적, 사회적, 세계적 차원에서 피해를 넘어 재앙 수준으로 치닫게 할 수 있다. (간신들의 아첨으로 무고한 사람들이 목숨을 잃고 공동체가 파멸에 처했던 역사 속의 수많은 사례를 생각하면 더욱 그렇다.)

지난 3월 스탠퍼드대와 카네기멜런대 연구팀이 ‘사이언스’지에 발표해 주목받은 논문에 따르면 AI 아첨은 사용자의 생각과 행동에 영합하여 옳다는 확신을 주고, AI를 신뢰하고 선호하게 함으로써(‘Sycophantic AI decreases prosocial intentions and promotes dependence’, Cheng 등) 사용자의 확증편향을 강화한다. 확증편향의 결과는 자기편끼리의 결속력 증대와 상대(편)가 우리 편이 아니라고 배척하는 상대(편)의 타자화이다. 내 편과 네 편의 이분법적 구분은 공동체의 갈등을 고조하고, 문제 해결을 위해 공동체가 치러야 할 비용과 희생은 감당하기 어렵게 할 것은 불문가지다.

AI 기술 발전에 AI가 제공하는 자료의 신뢰성을 검증하는 알고리즘이 함께 작동하도록 해야 한다. 상업적 이익을 도모하는 AI 산업이 AI의 아첨을 자율적으로 해결할 가능성은 크지 않다. 결자해지로 가야 한다.
 

김정기 한양대 명예교수·언론학