인본주의적 행동 강령 문서 공개
앤트로픽 창업자 ‘킬 스위치’ 제안

인공지능(AI) 업계에서는 AI 모델 개발에 속도조절이 필요하다는 목소리가 지속되고 있다.

마이크로소프트(MS)가 ‘AI는 오직 인간의 통제하에서만 기능해야 한다’는 내용을 원칙으로 하는 지침을 발표했다. 기업마다 AI를 긴급 정지하는 장치를 의무화해야 한다는 의견도 제시됐다.

마이크로소프트(MS). 로이터연합뉴스

14일(현지시간) MS는 자사 홈페이지에 ‘인본주의적 AI 행동강령’이라는 문서를 공개하고 “MS의 AI는 ‘인간이 AI보다 중요하다’는 단순한 전제에서 출발한다”면서 “기술의 목적은 인류에 봉사하는 것이며, AI가 인간의 통제 아래 보조적 기술로 기능할 수 없다면 거부돼야 한다”고 밝혔다.

문서에 따르면 MS의 AI 모델은 인간이 설정하는 목표를 준수해야 하며, 자체적인 목표를 만들어내서는 안 된다. 추론 과정이나 코드를 조작·은폐하거나, 인간이 이해할 수 없는 ‘신경망 언어’ 등으로 AI끼리 소통하는 행위도 금지된다. MS는 “AI는 인간 의식을 모방하도록 만들어져서는 안 되며, AI 모델이 권리를 부여받아서도 안 된다”고 강조했다.

사티아 나델라 MS 최고경영자(CEO)는 엑스(X)를 통해 “우리가 개발하는 AI가 인류에게 도움이 되지 않고 인간에 통제되지 않는다면 추구할 가치가 없다”고 강조했다. 무스타파 술레이만 MS AI 최고경영자(CEO)는 CNBC방송과의 인터뷰에서 해당 강령을 약 5개월 전부터 준비해 왔으나 최근 ‘속도조절론’이 대두하는 점을 고려해 현시점에 발표를 결정했다고 설명했다.

AI 통제를 위한 또 다른 제언도 나왔다. 앤트로픽 공동창업자인 잭 클라크는 영국 BBC방송과의 인터뷰에서 AI가 통제하기 어려울 정도로 위험해질 경우 시스템 작동을 완전히 중단할 수 있는 비상 정지 장치인 ‘킬 스위치’ 설치를 의무화하는 방안을 정책적으로 논의할 필요가 있다고 밝혔다.

그는 “기업이 반드시 킬 스위치를 갖도록 의무화해야 하는가, 이를 제3자가 검증할 수 있어야 하는가”라고 질문한 뒤 “사회가 알고 싶어하는 것이 그런 종류의 정보이며, 결국 이에 대한 규칙을 제정하고 싶어할 것”이라고 설명했다.