메뉴 보기
피트 헤그세스 미 국방부(전쟁부) 장관은 24일(현지시간) 인공지능(AI) ‘클로드’ 개발사이자 기밀 군사 시스템에서 운영 중인 유일한 AI 기업인 앤트로픽의 최고경영자(CEO) 다리오 아모데이를 워싱턴으로 불렀다. 금요일(27일) 오후 5시 1분(한국시간 28일 오전 3시 1분)까지 미군이 앤트로픽의 인공지능(AI) 기술을 제한 없이 사용하도록 허용하지 않으면, 모든 정부 계약에서 배제될 수 있다는 것이다.
안보와 기술 분야의 이목이 쏠린 약 3일간의 ‘최후 통첩’ 기간은 이제 끝났다. 아모데이는 이미 앞서 26일 개인 블로그에 올린 성명에서 “양심상 도저히 수용할 수 없다”며 거부 의사를 밝혔다. 그는 “민주주의 국가는 보통 군과 정보기관이 자국민을 향해 돌아서지 못하도록 하는 안전장치를 갖추고 있다. 그러나 AI 도구는 극소수 인력으로 운용될 수 있기 때문에 이러한 안전장치와 이를 뒷받침하는 규범을 우회할 가능성이 있다”며 “일부 민주주의 국가에서는 이런 안전장치가 이미 점차 약화되고 있다는 점도 주목할 필요가 있다”고 말했다. 사실상 미국의 민주주의 안전 장치에 대해서도 의문을 표현한 셈이다.
국방부는 이미 후속 조치에 들어간 것으로 보인다. 앞서 보잉·록히드마틴 등 방산 기업에 앤트로픽과의 거래 위험도를 평가해달라고 요청하며 앤트로픽을 사실상 블랙리스트에 올리기 위한 작업에 착수한 것으로 알려졌다. 헤그세스 장관은 지난 24일 이미 앤트로픽이 국방부의 요구를 수용하지 않을 경우 국방물자생산법(DPA)을 발동해 앤트로픽에 강제로 모델을 제공하도록 하겠다고 말했다고 전해졌으나 이 조치의 법적 정당성을 놓고 논란이 있을 전망이다.
국방부와 앤트로픽의 대립은 AI 사용의 윤리적 문제를 넘어 본질적으로 AI의 군사적 이용에서의 통제권을 누가 가질 것인가의 문제로 연결된다. 특히 ‘AI의 군사적 통제권’을 둘러싼 거의 첫 공개 논쟁이 워싱턴에서 벌어졌다는 의의가 있다.
◆마두로 체포에 사용된 클로드의 AI 기술
미군은 1월 니콜라스 마두로 베네수엘라 대통령을 체포하는 작전에서 앤트로픽의 클로드 기술을 사용해 사이버 공격을 수행한 것으로 알려져 있다. CBS는 소식통을 인용해 이 과정에서 앤트로픽이 국방부에 클로드를 미국인에 대한 대규모 감시에 사용하는 것, 인간의 개입 없이 AI가 최종 결정을 내리는 것을 제한하는 등의 ‘가드레일’ 규정을 수용해달라고 반복적으로 요청했다고 보도했다. 이 소식통은 클로드가 ‘환각’(hallucination)에서 자유롭지 않으며, 인간의 판단 없이 사용될 경우 의도치 않은 확전이나 임무 실패 같은 치명적 오류를 피하기 어렵다고 말했다.
하지만 국방부 고위 관계자는 “(국방부의 앤트로픽 사용은) 대규모 감시나 자율 무기 사용과는 관련이 없다”며 “국방부는 오직 합법적인 명령만을 내려왔다”며 사실상 거부했다. 에밀 마이클 국방부 연구담당 차관보는 이달 한 행사에서 “기업이 부과한 제한은 우리가 그 모델을 사용하고 익숙해진 뒤, 긴급 상황에서 정작 필요할 때 사용하지 못하게 되는 상황을 만들 수 있다”고 말했다. CBS에 따르면 한 국방부 관계자는 AI가 군사 표적을 타격하거나 제거하는 과정에서 실수를 했을 경우 책임은 최종 사용자인 국방부에 있다고도 언급했다.
국방부는 지난해 7월 미국 국가안보를 강화할 AI 역량 개발을 위해 앤트로픽에 2억달러 규모 계약을 체결했다. 오픈AI, 구글, xAI 등도 각각 2억달러 계약을 체결한 바 있다. xAI가 소유한 ‘그록’은 기밀 환경에서의 사용에 동의했고, 다른 AI기업도 거의 이런 방향으로 가고 있다.
이 중에서도 앤트로픽은 데이터 분석 기업 팔란티어와의 협력을 통해 현재 국방부 기밀 네트워크에 배치된 유일한 AI 기업이다. 워싱턴의 전략국제문제연구소(CSIS) 매트 맨디 연구원은 25일 팟캐스트에서 클로드의 기술이 독보적이라며 “개인 사용자라면 챗GPT를 쓰다가 클로드로 바꾸는 것은 쉽지만, (정부로서는) 전환 비용이 매우 높다”고 말했다. 헤그세스 장관은 선례가 될 수 있는 상황에서 앤트로픽에 ‘최후 통첩’을 한 것이다.
◆규제 완화하려는 미국, AI 위험 경고하는 앤트로픽
AI의 군사적 사용 규율은 AI 기술 발전과 함께 시작된 난제다. 한국도 AI의 책임 있는 군사적 이용에 관한 고위급회의(REAIM) 등을 통해 주도적으로 이 문제를 논의해왔다.
다만 AI 강국이자 군사 강국인 미국이 어떤 입장을 취하느냐가 이 분야에선 특히 중요하다. 전임 조 바이든 행정부가 안전한 AI 활용을 위한 행정명령을 만들었던 것과 달리 트럼프 행정부는 AI 규제 완화를 선호한다. AI 규제가 혁신을 저해하고 미국 산업의 대중 경쟁력을 약화시킬 수 있다고 보는 트럼프 행정부는 주정부가 AI에 대해 부과하는 규제도 차단하려 해왔다. 미국 기술기업들은 대부분 트럼프 행정부의 규제 완화 기조를 환영했다.
이같은 분위기 속에 앤트로픽은 AI의 잠재적 위험성에 대한 우려를 공개적으로 표명해 왔으며 회사 브랜드의 중심 가치를 안전성과 투명성에 두고 있다. 아모데이는 성명에서 AI의 위험성을 경고하며 “강력한 AI가 수백만 명의 수십억 건 대화를 분석한다면, 여론을 파악하고 충성심이 약해지는 집단을 감지해 성장하기 전에 제거할 수 있다”고 말했다.
백악관 AI·암호화폐 자문인 데이비드 색스는 앤트로픽이 “공포를 조장(fear-mongering)”하고 있으며 AI 규제에 대한 관심이 자기 이익을 위한 것이라고 주장했다. 헤그세스 장관은 “우리는 전쟁 수행을 허용하지 않는 AI 모델을 사용하지 않을 것”이라며 “전쟁부의 AI는 ‘워크(woke·진보적 가치를 이르는 말)’하지 않을 것이다. 우리는 아이비리그 교수 휴게실용 챗봇이 아니라, 전투 준비가 된 무기와 시스템을 구축하고 있다”고 말했다.
