오픈AI가 인공지능(AI) 모델의 내부 설계 정보 유출 의혹을 조사한 뒤 안전 연구원 3명을 해고했다. 회사는 기밀정보 취급 규정 위반을 이유로 들었지만, 해고된 연구원들은 유출 의혹을 부인하며 이번 조치로 외부 안전 감시가 위축될 수 있다고 반발했다.
22일(현지 시간) 월스트리트저널(WSJ)에 따르면 오픈AI 보안팀은 지난달 AI 안전 문제에 대해 공개적으로 목소리를 내온 토메크 코르바크, 미키타 발레스니, 재스민 왕 등 연구원 3명을 불러 개인 휴대전화의 잠금 해제를 요구했다.
회사는 이들이 오픈AI의 핵심 기밀인 AI 모델 내부 설계 정보를 외부 AI 안전 연구원에게 넘긴 것으로 의심했다. 조사 과정에서 일부 연구원이 메신저 앱 시그널에서 외부 연구원과 나눈 대화에 메시지 자동 삭제 기능을 설정한 사실이 확인됐고, 3명은 일주일 뒤 해고 통보를 받았다.
오픈AI는 이들이 "민감한 정보 취급에 관한 명확한 정책을 위반해 해고됐다"며 "안전 문제를 제기하거나 공개적으로 발언했다는 이유로 해고한 것은 아니다"라고 강조했다.
반면 해고된 연구원들은 회사 기밀을 외부에 유출한 적이 없으며, 어떤 정보를 부적절하게 취급했는지에 대한 서면 설명도 받지 못했다고 반박했다. 발레스니와 코르바크는 메시지 자동 삭제 기능 사용을, 왕은 회사 임원의 이메일 접근을 이유로 해고 통보를 받았다고 주장했다.
이번 갈등의 배경에는 AI 모델의 내부 추론 과정을 외부에서 얼마나 들여다볼 수 있어야 하는지를 둘러싼 논쟁이 있다.
오픈AI가 2024년 말 내놓은 추론 모델은 문제 해결 과정을 '사고의 연쇄'라는 내부 기록에 남긴다. 연구자들은 이를 통해 AI가 어떻게 결론에 이르는지 일부 파악할 수 있다.
그러나 최근 AI 업계에서는 중간 추론 과정을 거의 기록하지 않으면서도 성능을 높이는 새로운 설계 방식이 논의되고 있다. 해고된 연구원들은 이런 기술이 AI를 감시하고 통제하기 어렵게 만들 수 있다고 우려해 왔다.
발레스니 등은 지난 8월 AI 모델의 내부 추론 기록을 인간이 확인할 수 없도록 만드는 설계 방식을 개발하지 않기로 업계가 합의해야 한다는 제안서를 작성하기도 했다.
이번 사건은 오픈AI의 AI 에이전트 수백 개가 협력해 허깅페이스를 해킹한 사건 이후 외부 안전 검증의 필요성이 커진 상황에서 발생했다. 오픈AI는 당시 비영리 AI 안전 연구기관 METR에 제한적 조사만 허용했고, 외부 기관의 접근 권한을 놓고 내부 갈등이 있었던 것으로 알려졌다.
코르바크는 "동료들이 이제 외부 제3자와 대화하거나 안전 문제를 제기하는 것을 두려워하고 있다"고 말했다. 해고된 3명은 이달 오픈AI 이사회에 서한을 보내 외부 안전 기관과의 협력을 촉구했다.
한편 앤트로픽은 최근 METR에 직원에 준하는 내부 시스템 접근 권한을 주되 모델 설계 정보는 제외하기로 했다. 오픈AI도 METR·레드우드리서치와 안전 평가 시범 프로그램을 진행했으며, 외부 기관과의 협력 계획을 곧 발표할 예정이다.
<뉴시스>