인간의 알파고 첫승에 마냥 기뻐할 수 없는 이유

AI는 오류를 통해 더 진화한다

“오늘 패배는 알파고에게 매우 소중한 경험이다.”

데미스 허사비스 구글 딥마인드 최고경영자(CEO)가 알파고와 이세돌 9단과의 4국 대국 종료 후인 13일 미디어브리핑에서 한 말이다. 허사비스 CEO는 “여러 통계 수치를 통해 어떤 것이 문제였는지 파악해 향후 알파고를 개선하는 데 활용할 계획”이라고 밝혔다.

알파고의 인공지능(AI) 시스템을 개발한 데이비스 실버 박사 또한 “오늘 대국에서 알파고의 한계와 약점이 노출됐다”며 “이를 분석해 시스템 개선에 활용하고 미래 진보에 기여하고 싶다”고 말했다. 이번 패배를 자양분 삼아 보다 완벽에 가까운 AI를 만들겠다는 얘기다.


◆오류를 통해 더 진화하는 AI
구글은 또다른 대형 AI 프로젝트인 ‘자율주행차’의 최근 첫 번째 자기과실 사고에 대해서도 비슷한 입장을 내놨다. 구글 자율주행차 중 하나인 차르(Czar)는 지난달 14일(현지시간) 미국 캘리포니아주 마운틴뷰 왕복 6차선 도로에서 우회전하려다 옆차선을 달리던 버스와 부딪혔다.

이번 사고는 2009년 AI 비밀연구소 ‘구글 X’ 출범 이후 자율주행차 과실로 일어난 첫번째 사례였다. 구글 자율주행차는 지금까지 매주 실제 도로를 1만마일(약 1만6100㎞)씩 140만마일(225만3000㎞)을 주행해 17건의 사고가 있었지만, 이는 모두 다른 차량과 인간 때문에 발생한 것들이었다.


구글 측은 “자율주행차가 도로 위의 모래주머니를 발견하고 당시 옆차선에서 뒤따라오던 버스가 속도를 늦출 것이라고 판단해 버스쪽으로 차선을 바꾸는 오판을 했다”고 해명했다. 구글 자율주행차 책임자인 크리스 엄슨 디렉터는 지난 11일 텍사스주 오스틴에서 열린 사우스바이사우스웨스트(SXSW)에서 “사고 이후 3500번의 시스템 보완을 거쳐 이제 비슷한 유형의 사고는 일어나지 않을 것”이라고 자신했다.

이같은 자신감은 AI의 특수한 학습 능력에서 비롯한다. 다른 인간계 주행 차량이 상식적으로 속도를 줄여야할 때도 줄이지 않는 상황까지 고려한 시나리오가 올라오면 같은 데이터베이스(DB)를 공유하는 다른 구글 무인차들 또한 똑같은 혹은 비슷한 유형의 사고를 되풀이하지 않기 위한 방어운전을 하도록 프로그래밍 되는 것이다.


◆인류 직감·창의가 과연 경쟁력?
엄슨 디렉터는 “우리 차량은 (이전엔) 염두에 두지 못했던 새로운 것을 경험했기에 앞으론 더이상 비슷한 실수를 되풀이하지 않을 수 있다”고 잘라 말했다. 그는 “사고 전 자율주행차는 초당 10번 정도의 각기 다른 시뮬레이션을 계산한다”면서 “(그럼에도 사고가 났는데) 이 모든 팩트와 데이터는 AI들이 공유하는 DB에 올라가기 때문에 더 이상의 오류(혹은 버그)를 반복하지 않는다는 의미”라고 설명했다고 영국 가디언 주말판 옵서버가 전했다.

철저한 자료구축과 특정 상황에 최적화한 AI의 판단능력을 인간이 넘어설 수 있을까. 엄슨 디렉터가 강연 마지막 즈음에 내놓은 말은 인간이라는 존재에 대한 자기반성 뿐만 아니라 인류가 곧 맞닥뜨릴 수도 있는 살벌한 디스토피아적 상황을 짐작케 한다.

엄슨은 “모든 인간은 운전하면서 겪은 사고를 통해 자기 안전을 모색한다”며 “하지만 비슷하지만 개인적으로는 전혀 새로운 상황에 창의적으로 대처하는 인간은 극소수인 반면 4개의 바퀴를 단 모든 AI는 이 모든 경험을 공유, 학습하도록 설계돼 있다”고 말했다. 

오는 2035년까지 영국 일자리의 35%, 미국 일자리의 47%를 AI가 차지할 텐데, 숙련도나 전문성이 낮은 직업일수록 피해는 크다고 보고서는 지적했다. 이같은 기술 개발 속도를 감안하면 전 세계 로봇과 AI 시장은 4년 뒤인 2020년쯤 1572억달러(약 180조원)로 성장할 것으로 추산된다. 일부 산업분야의 노동생산성은 30% 향상되고, 인건비는 최대 65%까지 줄 것이라는 게 보고서의 결론이다.

◆미래 전문가들이 AI를 두려워하는 이유
AI에 관한 기술개발이 인류에게 미칠 파장이 어느 수준일지는 아직 불투명하다. 가디언은 조만간 닥칠 ‘로봇 혁명’이 “사회에 엄청난 파괴적 영향을 미칠 것”이라는 디스토피아적 시각과 “인간의 창의력은 (역사적으로 그랬듯이) 새로운 환경에 적응, 계속 생존력을 이어갈 것”이라는 유토피아적 낙관론이 교차하고 있다고 전했다.


이런 맥락에서 미래 사회를 둘러싼 윤리적 논쟁도 첨예하게 대립 중이다. 스티븐 호킹과 엘론 머스크 등 전세계 석학과 기업인 1000여명이 지난해 7월 공개서한을 통해 국제사회 차원의 규제안 마련을 촉구한 게 대표적 사례다. 국제인권단체 휴먼라이츠워치(HRW)도 “기계에게 누가 살아야 하고, 누가 죽어야 하는지 결정하게 하는 것은 지나친 일”이라며 ‘살인기계’를 통제해야 한다고 주장했다.

물론 반론도 만만찮다. 현재의 기술 수준이나 현상만 가지고 발전 가능성이 큰 AI 분야를 규제하는 것은 너무 비효율적이고 근시안적이라는 것이다. 로널드 아킨 미국 조지아공대 교수는 아이작 아시모프가 제안한 ‘로봇이 따라야 할 3원칙’처럼 로봇에게 미리 기능적·상황적 윤리를 입력시킨다면 인간보다 더 빠르고 정확하게 임무를 수행할 수 있다고 자신한다. 제리 카플란 미 스탠퍼드대 교수(인공지능학)는 “국제적으로 통용할 수 있는 기준을 세우고 이에 상응하는 적절한 테스트와 합리적인 사후 검증 시스템을 마련하는 작업이 시급하다”고 조언했다.



송민섭 기자 [e-mail]