인공지능(AI) 모델 ‘클로드’ 개발사 앤트로픽이 역대 최대 규모의 기업공개(IPO)를 한 19일(현지시간) 다리오 아모데이 앤트로픽 최고경영자(CEO) 등 창업자들은 ‘안전한 AI’를 만들겠다고 강조했다.
아모데이 CEO는 이날 나스닥 상장식 연설을 통해 “우리는 AI 시스템의 학습과 배포 속도를 조절해 AI가 안전하고 앞으로도 계속 인간의 통제하에 있으리라고 확신할 수 있을 때까지 시간을 가질 것”이라고 말했다. 그는 “그러면서도 믿을 수 없을 만큼 성공적인 기업을 만들어 나가겠다”고 약속했다.
아모데이 CEO는 “안전에 거의 신경 쓰지 않을 때의 AI와 안전에 집착할 때의 AI는 엄청나게 다르다”며 “안전과 공익에 대한 집착은 앤트로픽의 유전자(DNA)에 처음부터 깊이 새겨져 있다”고 강조했다.
그는 자신들이 선택한 이와 같은 방식을 AI 업계의 다른 기업들도 채택하게 될 것이라면서 “우리는 이를 ’정상을 향한 경쟁’이라고 부른다”고 설명했다. 이와 같은 경쟁이 제대로 작동한다면 모두가 안전하게 기술을 구축하고 있으므로 모두가 승자가 되는 미래가 오게 될 것이라고 강조했다.
아모데이 CEO는 질병을 앓던 아버지를 떠나보낸 뒤 불과 몇 년 뒤 치료법이 개발된 것을 봤다는 개인적 경험을 언급하면서 이제는 AI 덕분에 의학 기술의 발달이 더욱 빨라졌다고 AI의 잠재력을 강조하기도 했다.
아모데이 CEO의 동생인 다니엘라 아모데이 사장도 단상에 올라 “앤트로픽은 법적으로 주주 수익뿐 아니라 공익을 함께 고려해야 하는 공익법인”이라며 “상장을 추진하는 이유는 더 많은 사람이 AI를 올바르게 구축하는 과정에 동참하도록 하기 위한 것”이라고 설명했다.
아모데이 사장은 첫 제품을 출시하기 전에 AI 안전팀부터 꾸렸고, 인터넷의 주요 수익원인 광고 모델을 거부했으며 보안 결함이 발견된 최신 모델은 일반 공개를 미루고 방어자들에게 먼저 제공했던 일을 자신들이 AI 안전과 공익을 위해 노력한 사례로 소개했다.
그는 “이 기술에는 맹목적인 신뢰나 단순한 사용이 아니라 여러분의 목소리가 필요하다”며 “이야기의 결말은 아직 아직 쓰여지지 않았다. 우리가 무엇을 만들어갈지는 우리 모두에 달려있다”고 말했다.

