인공지능(AI)의 위험을 어디까지 규제하고 어떤 수준의 국제적 안전기준을 마련할 것인지를 두고 기술업계와 각국 정부 사이의 논의가 본격화하고 있다.
빌 게이츠 마이크로소프트(MS) 공동 창업자가 AI가 최대 10억명의 사망을 초래하는 사건을 촉발할 수 있다고 경고하며 미국 연방정부 차원의 안전장치와 감시 체계 마련을 촉구했다.
최근 AI가 사이버 공격이나 무기 개발 등에 악용된 사례가 잇따라 공개되면서 AI 통제에 대한 우려가 현실적인 안전 문제로 떠오르고 있기 때문이다.
26일(현지시간) 미국 정보기술(IT) 전문매체 등에 따르면 게이츠는 최근 NBC ‘밋 더 프레스’와의 인터뷰에서 “AI는 10억명의 사망을 초래하는 사건을 촉발할 만큼 분명히 강력하다”고 말했다.
NBC가 25일 인터뷰 일부를 공개하면서 게이츠의 발언 내용이 알려졌다.
게이츠는 AI가 인류 전체의 사망으로 이어질 가능성은 상대적으로 낮다고 보면서도, 악의를 품은 사람들이 최신 AI 도구를 결합해 사용할 경우 매우 강력한 무기가 될 수 있다고 지적했다.
그러면서 미국 연방정부가 AI 발전에 대한 안전장치와 감시 체계를 마련하는 법안을 통과시켜야 한다고 주장했다. AI 업계의 자율규제만으로는 충분하지 않으며, 법 집행기관과 정치권이 AI 안전장치와 감시 체계 마련에 직접 관여해야 한다는 취지다.
게이츠는 AI 위험을 단기적 위험과 장기적인 ‘실존적 위험’으로 구분했다. 단기적으로는 테러리스트나 이른바 불량 국가가 AI를 악용할 가능성을, 장기적으로는 AI가 인류 전체를 위협할 가능성을 우려했다.
실제로 최근 AI가 사이버 공격이나 무기 개발 등에 악용된 사례가 잇따라 공개되면서 이 같은 우려가 현실적인 안전 문제로 떠오르고 있다.
호주 정부는 지난 23일 오픈AI의 AI 에이전트가 지난 6월 호주 정부의 메디케어 통계 보고 서비스에 무단 접근해 공개·비공개 파일에 접근한 사실을 공개했다. 호주 정부는 현재까지 개인 의료정보가 접근된 것으로 보이지 않는다고 밝혔지만, 추가 피해 여부를 조사하고 있다. 오픈AI가 호주 정부에 이 사실을 알린 것은 사건 발생 약 3개월 뒤인 지난 9월 10일이었다.
AI가 무기 개발에 활용된 사례도 나왔다. 앤트로픽은 이달 예멘에 기반을 둔 무장세력이 자사 AI 모델 ‘클로드’를 이용해 유도 로켓과 탄도미사일 등의 유도·항법·제어 소프트웨어를 개발하려 한 정황을 확인했다고 밝혔다.
앤트로픽은 일부 요청을 차단했지만 공격자들이 안전장치를 우회하는 방식으로 여러 세션에서 작업을 진행했다고 설명했다. 다만 실제로 작전용 탄도미사일을 완성했다는 증거는 확인하지 못했다고 밝혔다.
이런 가운데 지난 23일 미국 뉴욕 유엔본부에서 열린 유엔 안전보장이사회 AI·국제안보 회의에서도 AI 규제를 둘러싼 입장 차이가 드러났다.
샘 올트먼 오픈AI CEO와 다리오 아모데이 앤트로픽 CEO 등 AI 업계 관계자들은 AI 능력과 위험을 평가하고 안전장치가 충분한지 확인할 수 있는 국제적 기준과 협력이 필요하다는 취지의 의견을 냈다.
반면 미국 측은 새로운 글로벌 AI 거버넌스 체계를 만드는 데 반대한다는 입장을 분명히 했다.
마이클 크라치오스 백악관 과학기술정책실장은 회의에서 AI의 빠른 발전이 개발을 중단하거나 새로운 글로벌 거버넌스 체계로 제약해야 할 이유는 아니라며, 각국이 자국의 법과 제도에 따라 AI를 규제해야 한다는 입장을 밝혔다. 그는 미국이 첨단 AI를 통제하기 위한 국제적 체제를 구축하려는 어떠한 시도도 받아들이지 않겠다고 강조했다.