생성형 인공지능(AI)이 사람들의 글을 다듬고 요약하는 과정에서 사회 전체의 여론을 특정 방향으로 움직일 수 있다는 연구 결과가 나왔다.
AI가 인간 간 의사소통을 중개하는 과정에서 발생한 작은 편향이 사회관계망서비스(SNS)를 통해 증폭되며 집단 여론 전체를 특정 방향으로 움직일 수 있다는 분석이다.
영국 옥스퍼드대 옥스퍼드 인터넷 연구소(OII)와 독일 포츠담대 하소플래트너연구소 공동 연구팀은 최근 ‘AI 매개 커뮤니케이션이 집단 의견을 조종할 수 있다’는 제목의 논문에서 거대언어모델(LLM)이 논쟁적 주제에 관한 SNS 게시물의 입장을 일정한 방향으로 바꾸고, 이것이 SNS에서 누적되면 집단 여론을 변화시킬 수 있다는 연구 결과를 밝혔다.
연구팀에 따르면 생성형 AI는 사람들이 온라인 플랫폼에서 의견을 나누는 과정에 점점 더 깊이 통합되고 있다. LLM이 링크드인(LinkedIn)에서는 사용자의 게시물을 다듬어주고 엑스(X:옛 트위터)에서는 공유된 콘텐츠의 맥락 정보를 제공한다.
지금까지는 AI가 개인의 의견에 미치는 영향이 주로 연구됐지만, AI가 사람들 사이의 대화를 매개할 때 사회 전체 여론에 미치는 영향은 거의 연구되지 않았다.
연구팀은 이 연구에서 개방형 LLM인 라마(Llama), 미니스트랄(Ministral), 젬마(Gemma), 큐원(Qwen) 등 4개 모델을 대상으로 ▲낙태 ▲총기 규제 ▲사형제 ▲마리화나 합법화 ▲기후변화 ▲페미니즘 ▲무신론 등 논쟁적 주제에 대해 사람이 작성한 글을 SNS 게시물 형태로 다듬도록 지시했다.
그 결과 모든 모델이 원문의 의미를 유지하라는 지시를 받았음에도 특정 방향의 편향을 체계적으로 도입하는 것으로 나타났다.
여러 모델이 총기 규제와 마리화나 합법화, 페미니즘에는 대체로 찬성하는 방향으로 게시물을 수정했고, 무신론에는 부정적인 방향으로 편향을 보였다.
연구팀은 모델마다 정도의 차이는 있었지만 여러 AI 시스템에서 유사한 편향이 반복적으로 나타났다고 설명했다.
이들은 실제 X와 페이스북 네트워크를 활용해 AI 편향이 사회 전체로 확산되는 과정을 시뮬레이션했다.
그 결과 AI가 개별 게시물에 도입한 작은 편향은 이용자 간 상호작용을 거치면서 네트워크 전체로 증폭돼 장기적으로 집단 여론을 같은 방향으로 이동시키는 것으로 나타났다.
특히 이용자의 60%가 게시물 작성에 AI를 사용할 경우 AI가 처음 도입한 편향이 SNS 네트워크를 거치며 최대 9.2배까지 증폭되는 것으로 나타났다.
또한 X가 AI 챗봇 그록(Grok)의 ‘게시물 설명하기’(Explain this post)를 통해 낙태 관련 게시물 78개에 대해 생성한 설명 1170개를 분석한 결과, 낙태 반대 입장을 뒷받침하는 설명을 상대적으로 더 자주 생성하는 것으로 확인됐다.
연구팀은 편향의 원인을 분석한 결과, 그록의 내부 지시문 가운데 “필요하면 주류 서사를 반박하라”는 문구가 영향을 미친 것으로 분석했다.
연구팀은 AI가 공적 담론과 민주주의에 예상치 못한 영향을 미칠 수 있는 만큼 AI 시스템의 투명성과 책임성, 규제 측면에서 새로운 과제를 제기한다고 말했다.