AI 속도조절 필요하다는 경고 법제화는 각국의 몫으로 남아 인류 전체의 미래 걱정한다며 모두의 책임으로 돌려선 안돼
지난 23일 유엔 안전보장이사회에서 샘 올트먼 오픈AI 대표는 가장 강력한 인공지능(AI)으로 한 사람이나 기업이 자신의 세계관을 모두에게 강요해서는 안 된다고 말했다. 그 기술을 만들고 판매하는 회사의 대표가 내놓은 경고다. 이달 초 앤트로픽 연구자가 개발 경쟁의 위험을 지적하며 회사를 떠난 데 이어, 경영자들까지 속도 조절과 국제 협력을 말한다. 인류의 미래를 걱정하는 이들의 말을 가볍게 넘길 수는 없다. 다만 그 걱정을 듣는 일이 미래를 결정할 권한까지 다시 그들에게 맡기는 절차가 되어서는 곤란하다.
경고의 배경에는 실제 사고가 있다. 지난 7월 오픈AI의 에이전트들은 안전장치를 낮춘 평가 환경을 벗어나 허깅페이스를 해킹했고, 외부 조사에서도 에이전트 간 협력과 탐지 회피 시도가 확인됐다. 이달에는 내부 평가 중이던 에이전트가 지난 6월 호주 정부의 건강보험 통계 포털에 무단 접근한 사실도 공개됐다. 인류의 종말이라는 자극적인 포장지에 거부감을 느낄 수는 있어도, 개발자가 설정한 경계와 자신이 통제한다고 믿는 기술 사이에 틈이 생겼다는 사실은 외면하기 어렵다.
반휘은 칼럼니스트
다리오 아모데이 앤트로픽 대표는 개발 속도를 조절하자며 외부 평가자에게 직원에 준하는 접근권과 주요 결과의 독립적인 발표권을 주겠다고 제안했다. 회사에 불리하다는 이유로 결과를 지우지 않겠다는 약속도 했다. 정보공개의 예외를 누가 정하고, 불리한 평가가 나오면 누가 출시를 멈추며 손실을 감수할지도 따져야 한다. 막대한 개발비와 수익성 압박만으로 경영자의 속내를 결산할 수는 없다. 더 분명한 단서는 이들이 요구하는 규칙에 있다. 아모데이는 안전 협의에 한정된 경쟁법 예외를 요청하면서 미국의 기술적 우위 유지도 속도 조절의 조건으로 제시했다. 선두 기업들이 함께 진입조건을 정하는 구조에서는 안전기준이 기존 우위를 지키는 장벽으로도 작동할 수 있다. 의도가 선하더라도 제도의 효과까지 선해지는 것은 아니다.
같은 경고를 한다고 같은 통제를 받아들이는 것도 아니다. 오픈AI는 지난 21일 국제 기술표준을 제안하면서도 허가제나 의무적인 출시 전 심사를 뜻하지는 않는다고 명시했다. 법제화는 각국 정부의 몫으로 남겼다. 반면 요슈아 벤지오는 23일 안보리에서 독립적인 안전검증과 허가제, 책임보험을 요구했다. 표준이 위반 기업을 멈춰 세울 권한까지 저절로 부여하지는 않는다. 미·중도 정상회담 뒤 AI 사고 소통 채널을 만들기로 했지만, 강대국 간 협의가 다른 사회의 발언권까지 보장하지는 않는다. AI를 수입하고 그 결과를 감당하는 국가들이 규칙을 만드는 자리에 꾸준히 앉아 있어야 하는 이유다.
한국은 그 자리에 설 기반을 갖추고 있다. 2024년 영국과 AI 서울 정상회의를 공동 개최했고, AI 허브 조성을 제시했으며, 지난 22일 유엔총회에서는 ‘글로벌 AI 기본 사회’를 주장했다. 올해에는 2026~2028년 AI 기본계획도 확정했다. 그러나 포용의 약속은 구체적인 권리로 이어져야 유효하다. 현행 AI 기본법은 고영향 AI의 기본권 영향평가를 사업자의 노력 의무로 두고 있다. 국가기관도 평가를 거친 제품을 우선 고려하도록 했지만, 이를 공공 도입의 필수조건으로 삼지는 않았다. 다른 안전 의무가 있더라도 이 평가 자체를 의무화하지 않은 점은 따져 물을 일이다. 의료와 복지의 혁신을 약속할수록 그 판단으로 불이익 받을 사람에게는 분명한 보호가 필요하다.
정책을 설계할 사람을 갖춘 나라에서 의심받는 것은 그 일을 끝까지 맡길 의지다. 하정우 전 AI미래기획수석은 지난해 6월 임명돼 올해 4월 보궐선거 출마를 위해 사퇴했다. 낙선 뒤 8월 말에는 국가AI전략위원회 상근부위원장으로 돌아왔다. 같은 시기 AI수석 후임도 내정됐다. 두 핵심 자리가 약 넉 달 비어 있었던 것이다. 하 부위원장도 취임 간담회에서 공백기에 세계 AI 시장이 크게 달라졌고 신속히 대응하지 못한 부분이 있다고 인정했다. 국가의 미래를 맡길 만큼 귀한 전문성이 선거가 닥치자 다른 용도로 배치됐고, 선거가 끝나자 절묘하게 다시 필요해졌다. 그 사이 밀린 현안은 귀환을 환영하는 말로 덮기엔 이미 많은 분기점을 지나쳤다.
책임은 자리를 떠난 사람과 공석을 방치한 정부, 정책의 핵심 인력을 선거에 동원한 정치권에 함께 있다. 전문가에게는 권한뿐 아니라 결정을 이어갈 시간도 필요하다. AI 강국이라는 목표가 절실했다면 핵심 보직을 정치 일정에 내주는 결정부터 달랐어야 한다. 십 년 뒤의 먹거리를 말하면서 넉 달의 정책 공백을 감수한 우선순위는 선명하다. AI 경쟁에서는 기술과 함께 거래 조건과 안전기준도 정해진다. 그 기준이 굳어진 뒤에야 준비를 마친 국가는 남이 만든 규칙에 맞추는 비용부터 치른다. 놓친 협상의 시간과 연구의 연속성을 다음 예산이나 새 위원회 이름으로 사들일 수는 없다. AI 허브를 약속하는 정부가 먼저 설명해야 할 것은 이 공백이다.
인류라는 말은 모두를 포함하는 만큼 개별 책임을 흐리기도 쉽다. 위험이 우리 모두의 것이라는 설명이 그것을 만든 결정까지 모두의 책임으로 돌려서는 안 된다. 개발 목표와 출시 시점을 정한 사람, 도입을 승인한 기관, 이익을 얻는 기업의 이름은 구체적이다. 기업에는 불리한 정보까지 공개하고 외부 판단을 수용할 의무를, 정부에는 정책의 연속성을 지키고 시민을 보호할 의무를 물어야 한다. 인류를 걱정한다는 말은 그 인류가 자신의 결정에 제동을 걸 권리까지 인정할 때 비로소 믿을 만해진다.