메뉴 보기
SF 소설가 아이작 아시모프는 가장 좋아하는 작가를 꼽으라면 언제나 먼저 언급하는 인물이다. 어린 시절부터 그의 소설 속 미래상에 매료돼 작품을 수도 없이 읽어왔다. 개인적으로 특별한 이 작가가 1992년 타계한 지 30여년이 지난 지금 세계적 주목을 받는 모습이 낯설면서도 반갑다. 그가 주목받는 이유는 간단하다. 평생 다룬 핵심 소재가 인공지능(AI)이기 때문이다. AI와 로봇이 만드는 미래, 그 과정의 기술적·철학적 문제는 그의 소설을 관통하는 주제였기에 AI 시대에 그가 다시 소환되는 것은 놀랍지 않다.
특히 작품에 빠짐없이 등장하는 ‘로봇공학의 3원칙’은 해외 언론이 전문을 그대로 인용할 만큼 관심을 받는다. 3원칙은 모든 AI 로봇에 적용된 안전장치로, ‘인간에게 해를 끼치거나 위험을 방관해서는 안 된다’, ‘인간의 명령에 복종해야 한다’, ‘자신을 보호해야 한다’는 3개 항으로 구성된다. 이를 어겼다고 인지한 AI가 손상을 입을 만큼 강력한 내부 제어장치다. AI 발전으로 규제 목소리가 커지는 지금, 이 원칙이 재조명받는 이유 역시 굳이 설명이 필요하지 않다.
주목할 점은 아시모프가 ‘규제가 있으니 AI는 완벽하다’고 말하지 않았다는 점이다. 그의 소설 대부분은 3원칙이 완벽히 작동함에도 발생하는 문제들을 다룬다. 대표적인 것이 초지능 AI ‘머신’이 등장하는 단편 ‘불가피한 갈등’이다. 인류를 위해 세계 경제를 대신 운용하는 머신은 특정 반AI 집단이 인류에게 해를 끼칠 것이라고 자체 판단해 은밀히 피해를 준다. 인류를 위한다고 믿기에 이 행동은 3원칙에 위배되지 않는다. 그런데, 이 판단이 옳다고 어떻게 확신할 수 있을까. 인류가 나아갈 방향을 포함한 다수 윤리적 문제들은 수많은 논쟁과 사회적 합의가 필요한 영역이다. 기술로 인한 인류 진보를 굳게 믿었던 생화학박사 아시모프가 “이런 판단을 기계가 온전히 내릴 수 있는가”라는 질문을 정면으로 던졌다는 점이 의미심장하다.
이 의문은 AI 규제 논의가 한창인 지금 더 활발하게 제기되고 있다. 스튜어트 러셀 버클리대 인간양립형AI센터 소장은 최근 논의 중인 AI 규제가 철학적 질문 없이 기술적 땜질에 머무른다며 “의약품 규제 체계를 만드는 데 한 세기 가까이 걸렸다. AI에 대해서는 우리는 그와 비슷한 것조차 갖고 있지 못하다”고 직격했다.
더 큰 문제는 이 논의가 인류의 미래가 아닌 빅테크의 이익에 좌우될 수 있다는 점이다. 파이낸셜타임스 칼럼니스트 에드워드 루스는 최근 글에서 “실적이 좋은 AI 기업들은 규제와 폐쇄형 모델을 선호한다. 그들은 AI를 위한 식품의약국(FDA)을 원한다”면서 최근 미국 등에서 확대되는 규제 논의조차 빅테크들의 ‘밥그릇 지키기’에 동원되고 있다고 꼬집었다. 자유롭게 AI의 소스 코드를 공유하고, 함께 발전을 도모하는 오픈소스에 대한 지지 역시 공동의 발전에 대한 고민 대신 앞서나가는 기업에 대한 견제 차원에서 전략적으로 활용되고 있다. 철학적 성찰이 배제된 규제 논의의 빈자리를 철저히 시장논리가 채우고 있다는 것이다.
이 문제는 해외에만 국한되지 않는다. 한국은 지난 1월 포괄적 AI 규제인 ‘AI 기본법’을 세계 최초로 전면 시행했다. 그러나 반년이 지난 지금도 “무엇을 규제하고 누구에게 책임을 지우는지조차 불분명하다”는 지적이 이어진다. 규제의 정신은 담았지만 인권보호 의식은 미흡했다는 비판도 받는다. 결국 모두 ‘철학의 부재’에 대한 목소리들이다. 규제가 아무리 정교해도 해석할 주체의 철학이 없다면 끝내 결과가 어긋나고 만다는 아시모프의 경고, 미래 AI의 강국인 한국 역시 귀담아들어야 하지 않을까.
