AI가 쓴 글로 세상 채워질수록 사람이 직접 쓴 텍스트 귀해져 기계에 문화를 기억시키면서 망각에 익숙해지는 건 아닐까
모든 것을 기억하는 소년이 있다. 그는 동그란 구름 아래 나뭇잎의 잎맥 모양을, 스쳐 지나간 마당에 피어난 사과의 개수까지 외울 수 있었지만, 나무가 장터로 가는 길목의 버드나무인지, 마당의 주인이 자신과 얼마나 막역한지는 기억할 수 없었다. 과잉된 기억은 소년의 생각과 잠을, 결국엔 목숨마저 앗아갔다. 호르헤의 단편 ‘기억의 천재 푸네스’는 기억과 사유를 분명히 구분한다. 생각하려면 서로 다른 것 사이의 공통점을 찾고, 중요하지 않은 것은 잊어야 할 줄도 알아야 한다. 기억의 보관과 인식은 엄연히 다르다.
얼마 전 앤트로픽은 앞으로 클로드가 생성하는 텍스트에 사람이 볼 수 없는 워터마크를 넣겠다고 밝혔다. 숨은 문자나 미세한 그림을 넣는 대신, 해당 워터마크는 거대언어모델(LLM) 특성상 단어를 고르는 확률적 과정에서 일정한 패턴을 남기는 형식이다. 해당 장치의 정확도에 대해선 의견이 분분하지만, 기계가 만든 언어에 표식을 삼겠다는 발상은 유의미하다.
반휘은 칼럼니스트
이에 앞서 앤트로픽은 ‘프로젝트 파나마’라는 이름 아래 몇 년에 걸쳐 수백만 권의 종이책을 사들였다. 내부 기밀로 처리된 해당 프로젝트 진행 문서에서는 그동안 회사가 책을 해체해 낱장씩 스캔한 후, 훼손된 원본을 버리는 처리 과정까지 적혀 있었다. 출력하는 값에는 출처의 표식을 새기면서도, 정작 출력 과정에 활용된 데이터의 출처는 물리적 증거까지 없애는 앤트로픽의 행위를 여러 사람이 위선이라고 비판했다. 아예 틀린 말은 아니다. 하지만 그저 회사가 이익을 좇기 위해 결정한 위선으로 치부하기엔 우린 너무 큰 채굴 단계에 이르렀다. 우리는 기계가 만든 글의 출처는 보존하려고 하면서, 인간이 쓴 글이 어디에서 왔는지를 증언하는 흔적을 없애도 괜찮은 걸까?
책은 문자 데이터 이상의 가치를 지니고 있다. 같은 문장도 어느 판본에 실렸는지, 어떤 종이와 활자로 누구의 서가에 있었는지, 무엇을 밑줄 치고 여백에 무엇을 적었는지에 따라 다른 기록으로 재탄생한다. 스캔 과정은 언어이기 전에 당시 사회적 조건을 탐구할 수 있는 기록에서 활자만 추출해 맥락을 지운다. 텍스트를 이해하기 위한 열쇠를 잃는 것이다. 앤트로픽을 포함한 인공지능(AI) 회사들은 이러한 사회의 증거를 지우고 있다. 모델 훈련을 위해 불가피하게 일어난 희생인지, 정보와 지식의 단절을 유도하려는 커다란 음모인지는 판단하기 어렵지만, 무엇이 됐건 AI 산업에서 오래된 책의 가치는 높아지고 있다.
최근 연구에선 생성 모델이 만든 데이터를 다시 학습용으로 주입하면 인간 데이터의 패턴이 먼저 사라지는 ‘모델 붕괴’ 현상을 포착했다. 방대한 데이터로부터 평균값을 도출하는 게 목표인 AI의 특성상, 인간 데이터가 섞이지 않은 합성물은 그만큼 다양성이 깎인다는 뜻이다. 세상이 AI가 쓴 글로 채워질수록, 그 이전에 사람이 쓴 것이 분명한 텍스트가 귀해진다. 사람의 유기적인 생각이 품귀 현상이 된 것이다. 실제 AI 학습용 책을 중개하는 시장에서는 LLM 상용화 시점인 2022년 이전의 인쇄물을 AI 생성물에 ‘오염되지 않은’ 인간 텍스트로 내세우기 시작했다. 사람이 작성했다는 사실이 데이터의 품질 기준이 되었다. 인간의 흔적이 희소해지자 흔적을 캐내는 사업이 생겼고, 정작 그 흔적을 담은 매개체는 원료 처리 과정에서 불필요한 부품으로 전락했다.
그렇다고 대량 인쇄된 중고책을 모두 유물처럼 모셔둘 수는 없는 노릇이다. 도서관도 중복본을 주기적으로 폐기하고, 오히려 디지털 전환을 통해 지식의 접근과 보존을 용이하게 만드는 부분도 있다. 앤트로픽 역시 책의 대량 구매는 인정하되, 프로그램의 목적이 희귀본이나 고서를 의도적으로 파괴하는 것은 아니라고 밝혔다. 그러나 그들이 스캔한 디지털 사본은 회사 내부의 비공개 도서관에 보관되어 있다. 책은 디지털화됐지만 오히려 접근 장벽이 더욱 높아진 것이다. 대량 주문과 파괴 스캔의 과정은 지식의 보존보다는 원료 조달 설비에 가까운 형태다. 무엇보다 기계가 내놓은 글에는 출처의 신호를 각인하면서, 그 기계를 어떤 글과 책이 키웠는지에 대한 흔적은 지우고 있다. 보존과 접근이 갈라진 자리에서 문화의 기록은 기업의 독점적 점유가 되었다.
미디어 이론가 키틀러에 따르면 저장매체는 무엇을 남기는가와 버리는가를 함께 결정한다. LLM 모델 안에서 텍스트는 통계적 관계로 흡수되고, 개별 자료의 출처는 따로 설계하지 않는 한 통상적으로 누락된다. 책은 자신의 물질적 역사를 함께 보존하지만 LLM 모델은 그렇지 않다. 그래서 AI에게 출처는 상속받은 내재적인 기억과 정체성의 역할보단 나중에 다시 심어야 하는 영역 표시적인 신호의 기능에 가깝다.
‘화씨 451’에는 책이 금지된 세상에서 책 한 권을 통째로 외워 스스로 사본이 된 사람들이 등장한다. 그들은 문장을 외울 때마다 자신들이 무엇을 잃었는지를 상기했다. LLM 모델은 글자를 품을 수 있어도 그 상실까지는 인지하지 못한다. 모든 것을 기억하는 기계와 무엇을 잊었는지 모르는 문화의 공존. 우리는 기계가 지어낸 말에는 출처를 새로 발명해 붙이면서, 그 기계를 기른 사람의 언어에서는 출처를 걷어내는 중이다. 우리가 보존해야 할 것은 정보인가, 혹은 그 정보가 한때 어디에 있었고, 누구에게 속했으며, 어떤 시간을 지나왔는가까지인가. 모든 것을 기억했기 때문에 생각을 할 수 없었던 푸네스처럼, 기계를 위해 문화를 기억시키는 동안 문화는 망각에 익숙해지고 있는 것은 아닐까?