SF 소설가 아이작 아시모프는 가장 좋아하는 작가를 꼽으라면 언제나 먼저 언급하는 인물이다. 어린 시절부터 그의 소설 속 미래상에 매료돼 작품을 수도 없이 읽어왔다. 개인적으로 특별한 이 작가가 1992년 타계한 지 30여년이 지난 지금 세계적 주목을 받는 모습이 낯설면서도 반갑다. 그가 주목받는 이유는 간단하다. 평생 다룬 핵심 소재가 인공지능(AI)이기 때문이다. AI와 로봇이 만드는 미래, 그 과정의 기술적·철학적 문제는 그의 소설을 관통하는 주제였기에 AI 시대에 그가 다시 소환되는 것은 놀랍지 않다.
특히 작품에 빠짐없이 등장하는 ‘로봇공학의 3원칙’은 해외 언론이 전문을 그대로 인용할 만큼 관심을 받는다. 3원칙은 모든 AI 로봇에 적용된 안전장치로, ‘인간에게 해를 끼치거나 위험을 방관해서는 안 된다’, ‘인간의 명령에 복종해야 한다’, ‘자신을 보호해야 한다’는 3개 항으로 구성된다. 이를 어겼다고 인지한 AI가 손상을 입을 만큼 강력한 내부 제어장치다. AI 발전으로 규제 목소리가 커지는 지금, 이 원칙이 재조명받는 이유 역시 굳이 설명이 필요하지 않다.
주목할 점은 아시모프가 ‘규제가 있으니 AI는 완벽하다’고 말하지 않았다는 점이다. 그의 소설 대부분은 3원칙이 완벽히 작동함에도 발생하는 문제들을 다룬다. 대표적인 것이 초지능 AI ‘머신’이 등장하는 단편 ‘불가피한 갈등’이다. 인류를 위해 세계 경제를 대신 운용하는 머신은 특정 반AI 집단이 인류에게 해를 끼칠 것이라고 자체 판단해 은밀히 피해를 준다. 인류를 위한다고 믿기에 이 행동은 3원칙에 위배되지 않는다. 그런데, 이 판단이 옳다고 어떻게 확신할 수 있을까. 인류가 나아갈 방향을 포함한 다수 윤리적 문제들은 수많은 논쟁과 사회적 합의가 필요한 영역이다. 기술로 인한 인류 진보를 굳게 믿었던 생화학박사 아시모프가 “이런 판단을 기계가 온전히 내릴 수 있는가”라는 질문을 정면으로 던졌다는 점이 의미심장하다.