인권 가이드라인 권고안 의결
“차별·편향적 데이터 결과 피해야”

사진=뉴시스

국가인권위원회가 인공지능(AI)을 개발하고 활용하는 과정에서 인권침해를 방지하기 위한 가이드라인을 만들기로 했다.

17일 인권위 등에 따르면 지난 11일 열린 제6차 전원위원회에서 ‘AI 개발과 활용을 위한 인권 가이드라인 권고 건’을 원안 의결했다. 기존 자율 규제 방식의 윤리강령에서 차별화한 가이드라인을 만들겠다는 취지다.

가이드라인은 △인간의 존엄성 △알 권리 △자기 결정권 △평등권 보장 등을 기본 원칙으로 내세운다.

큰 틀에서 정부와 공공기관, 기업이 인간의 존엄과 가치를 침해하지 않는 범위에서 AI를 개발·활용하고, 개인의 자율성 등을 침해해선 안 된다는 점을 원칙으로 삼았다. 아울러 AI의 결정이 특정 집단이나 일부 계층에 차별적이거나 부당한 영향을 초래하지 않고, 개인의 안전이나 권리에 차별적 영향을 미치지 않도록 필요한 조처를 해야 한다는 점도 명시했다.

구체적으로는 국가가 AI에 의해 발생할 수 있는 인권침해와 차별 가능성에 대해 인권 영향 평가를 하고, 이 평가를 개발해 적용하는 것을 의무화하는 내용을 담았다. 또 AI가 개인의 인권과 안전에 미치는 위험성을 단계별로 구분한 뒤 그에 맞춰 규제 수준을 정하고 인적 개입이 이뤄지도록 법 제도를 마련하라는 방안도 내놨다. AI를 개발하고 활용하는 전반적인 과정에서 차별적이고 편향적인 데이터 결과가 나오지 않도록 검수하고, 이미 개발된 AI도 모니터링을 통해 차별적 결과가 발생하지 않도록 개선 조치를 하라는 내용도 포함됐다.

인권위는 국무총리에게 이 가이드라인에 기초해 범정부적인 정책이 수립·이행되고 관계 법령이 규정될 수 있도록 관련 부처를 유기적으로 조정하고 통합할 것을 권고하기로 했다.