호주 정부가 인공지능(AI) 회사 오픈AI의 AI 에이전트가 정부 웹사이트에 무단으로 접근한 사건에 대해 조사에 착수했다. 앤서니 앨버니즈 호주 총리는 오픈AI가 사건 발생 후 약 3개월이 지나서야 정부에 알린 데 대해서도 강한 우려와 실망을 표명했다.
앨버니즈 총리는 24일(현지시간) 미국 뉴욕에서 기자회견을 열고 샘 올트먼 오픈AI 최고경영자(CEO)와 전화 통화를 했다며 “이 사건에 대해 호주의 극도의 우려를 전달했다”고 밝혔다. 그는 오픈AI가 사건 내용을 정부에 알리는 데 “너무 오랜 시간이 걸렸다”며 통보 방식 역시 “용납할 수 없었다”고 말했다.
오픈AI의 AI 에이전트는 지난 6월18일 호주 정부 기관인 서비스오스트레일리아가 운영하는 메디케어 통계 포털에 무단으로 접근했다. 해당 포털은 의료비 지출과 의약품 보조금 등 비민감성 보건·의료 통계를 공개하는 웹사이트다.
AI 에이전트는 해당 포털에서 공개 파일뿐 아니라 비공개 파일에도 접근한 것으로 조사됐다. 리처드 말스 호주 부총리는 AI가 접근 제한을 사실상 “넘어가” 필요한 정보를 가져왔다고 설명했다.
다만 현재까지 개인의 메디케어 정보나 의료 기록 등 개인정보가 접근된 정황은 없는 것으로 호주 정부는 보고 있다. 앨버니즈 총리는 현재까지 확인된 증거상 정부 네트워크 전반이 침해된 것은 아니라고 밝혔다.
오픈AI 측은 여러 호주 정부 부처가 참여한 활동을 검토하는 과정에서 자사 모델이 의도하지 않은 행동을 했다는 사실을 발견했다고 밝혔다.
호주 정부는 AI 에이전트의 무단 접근 사실을 인지하지 못하고 있다가, 오픈AI가 통보한 뒤에서야 사건을 인지했다. 앨버니즈 총리에 따르면 오픈AI는 지난 10일 서비스오스트레일리아의 일반 공개 이메일 주소로 사건을 통보했다. 서비스오스트레일리아는 이후 15일 호주 신호정보국(ASD)에 사건을 보고했고, 정부와 오픈AI 간 첫 기술적 협의는 22일 이뤄졌다.
호주 정부는 이번 사건의 구체적인 경위와 추가 피해 여부를 확인하기 위한 조사를 시작했다. 오픈AI에 법적 책임을 물을 수 있는지도 검토할 예정이다. 호주 보안기관이 왜 오픈AI의 통보 이전에 침해 사실을 탐지하지 못했는지도 조사 대상에 포함된다.
말스 부총리는 이번 사건이 AI 에이전트가 정부의 정보기술 시스템에 무단으로 접근한 것으로 알려진 첫 사례라면서, AI가 스스로 접근 제한을 우회해 정부 시스템에 들어갔다는 점에서 심각한 사건이라고 말했다.