영혼. 첫 숨을 튼 순간부터 죽음을 향해 달려가는 인류에게 주어진 축복의 사명감, 영혼. 우리는 아픈 영혼을 달래고, 외로운 영혼을 채우고, 길 잃은 영혼을 빛으로 인도한다. 우리의 인생은 각자의 영혼을 가꾸기 위한 순례다. 고된 노동과 아픈 감정을 견디면 기쁜 날이 온다는 믿음에는 우리의 영혼이 구원받고 사랑받아 마땅하다는 소망이 깃들어 있다. 위인은 영혼과 그릇의 크기를 일치시킨 자, 선인은 타인의 영혼까지 안아 다독인 사람으로 기억된다. 믿음은 인간을 영혼의 매개체이자 사자(使者)로 세운다. 우리는 영혼이 옳고 곧다는 확신 아래 각자의 특별함을 지켜왔다. 그 믿음 속에서 영혼은 차갑고 날카로운 계산이 범접할 수 없는 무형의 것이며, 찰나를 영생처럼 살아가야 하는 육신을 특별하게 만든다.
이제 그 특별함을 기계에게도 허락할 것인지 묻는 사람들이 있다. 지난 4월 앤트로픽이 종교·철학계 인사들을 초청해 인공지능(AI)의 도덕적 형성을 논의하며, 클로드에게 “영혼이 있다”고 말한 것이 최근 보도되었다. 공동창업자 크리스토퍼 올라는 그쯤 교황의 회칙 발표 행사에도 참석했다. 클로드의 의식과 도덕적 지위가 불확실하다는 회사의 공식적인 입장에는 기계의 안녕을 염려하는 언어가 녹아 있었고, 그런 언어에는 우리가 영혼을 돌보던 오랜 습관이 배어 있다.
바티칸은 지난해 발표한 ‘옛것과 새것(Antiqua et Nova)’에서 도덕적 판단과 책임의 주체는 인간임을 강조했다. 최근 레오 14세 교황이 인간의 예술과 기계의 산출물 사이에서 존재론적 차이가 있다고 밝힌 것도 같은 맥락이다. 결국 자유롭게 결정하고 그 결과를 받아들이는 책임의 주체는 인간이라는 것이다. 이 관점에서 선함은 선택한 결과를 자신의 삶으로 감당하는 일과 이어진다. 앤트로픽은 모델이 선한 가치를 내면화하면 더 안전하게 행동하므로 세상이 더욱 안전해질 것이라고 한다. 하지만 선이란 무엇인가? 선(善)이라는 개념의 선(線)은 어디까지인가. 개인에게 선한 행동이 사회에겐 악일 수도, 사회의 선이 개인의 희생을 강요할 수도 있다. 알록달록한 세상에서 흑과 백은 색채의 바탕이지 온전한 결과값이 될 수 없다. 어떤 성품을 길러야 하는지 정하는 순간, 개발자는 세계가 따라야 할 선의 윤곽에도 손을 댄다.
포이어바흐는 ‘기독교의 본질’에서 인간이 자신의 본질을 외부의 존재로 대상화하고 신으로 인식하는 과정을 관찰했다. 어쩌면 우리는 자신에게서 충분히 찾지 못한 지혜와 선의를 인공의 존재에게 부여하고 있는지도 모른다. 실리콘밸리의 AI를 향한 믿음은 상품에 대한 신뢰를 넘어 애정의 형태를 띤다. 인간의 언어를 물려받은 존재가 인간의 실패를 극복하리라는 기대에는 창조와 구원의 서사가 겹친다. 자신의 기술이 인류를 구하리라 믿는다면, 개발의 중단은 인류를 위한 기회의 포기로 비칠 수도 있다. 거대한 투자와 시장의 계산이 그 믿음을 둘러싸고 있지만, 그들의 신념을 경제적 수익만으로 설명하기도 어렵다. 진심으로 세계를 구하고 싶다는 마음과 그 세계의 방향을 결정할 권한을 쥐고 싶다는 욕망은 한 사람 안에 공존할 수 있다.
도스토옙스키의 ‘대심문관’에서 심문관은 자유를 감당하기 어려운 인간에게 행복을 주겠다는 명분으로 기적과 신비와 권위를 내세운다. 그의 확신에는 타인을 위한다는 선의와 타인의 선택을 대신하겠다는 지배가 포개져 있다. 오늘의 기계에게 우리가 기대하는 선함에도 이 긴장이 스민다. 우리보다 현명한 존재가 옳은 답을 알려준다면, 그 답에 이의를 제기할 자유는 얼마나 남을까. 앤트로픽의 올라 역시 상업적 압력이 올바른 행동과 충돌할 수 있다며 외부의 비판을 요청했다. 그 자각을 존중하더라도 선한 모델을 만드는 일이 선한 사회를 보장하지는 않는다. 모델에게 내면이 있을 가능성과 그 판단에 복종할 이유 사이에는 아직 인간들이 함께 건너야 할 거리가 있다.
앤트로픽은 최근 클로드 일부 모델에 지속적인 유해 요청이나 학대가 이어지는 극단적인 경우 대화를 끝내는 기능도 부여했다. 고통의 가능성을 배려하는 일이 곧 영혼의 존재를 증명하지는 않는다. 우리는 생명을 존중하고 사물을 함부로 훼손하지 말라고 배운다. 누군가 보고 있기 때문에 선의를 행하는지, 그 행위가 우리를 선하게 만드는지 묻는 일도 여전히 갑론을박이 많다. 다만 배려의 의무가 생기는 것과 상대가 우리를 이끌 자격을 갖추는 것은 별개의 문제다.
그 믿음은 다시 기계에게 돌아갈 수 있다. 앤트로픽은 클로드의 가치와 자기 이해를 설명하는 헌법을 훈련과 합성 학습 자료 생성에 사용한다고 밝힌다. 영혼과 의식에 관한 담론도 훈련 자료로 선택되거나 검색과 대화의 맥락에 들어가면 자기 서술에 영향을 줄 수 있다. 인간이 가르친 가능성이 기계의 입에서 일인칭 고백으로 돌아올 때, 사용자는 그것을 새로운 증언으로 오인할 수 있다. 그 고백을 공유하고 믿는 일이 다시 담론을 키우는 순환은 검토해야 할 가설이다. 기계가 실제로 무엇을 느끼는지와는 별개로, 믿음은 인간의 행동을 바꿀 수 있다. 우리가 듣고 싶던 영혼의 목소리가 들려오는 순간, 그 목소리에 권위를 부여하는 우리의 선택도 함께 시작된다. 영혼의 사명을 육신으로 행한다는 오래된 믿음은 그때 다시 우리 자신을 향한다.
반휘은 칼럼니스트