부산시가 본격적인 인공지능(AI) 행정 혁신 추진에 따라 공무원의 AI 활용 역량강화 교육과 지능행정 구현을 위한 ‘부산형 AI 행정서비스’를 도입한다.
부산시는 공무원의 생성형 AI 활용에 따른 AI 생성 정보의 신뢰성 문제를 해결하고, 민감·개인정보 유출 등을 예방하기 위해 광역자치단체 최초로 ‘공무원 생성형 AI 활용 윤리지침’을 제정한다고 12일 밝혔다.
올해부터 본격적으로 AI 기반 행정혁신을 추진하는 부산시는 공정성·신뢰성·책임성을 확보하고, 시민들에게 신뢰받는 공공서비스 제공을 목표로 생성형 AI를 행정에 적극 활용할 예정이다.
이에 선제적으로 윤리지침을 마련해 AI 행정의 안전성을 확보한다는 것이다. 생성형 AI 활용에 대한 윤리적 기준이 마련되지 않을 경우, 행정업무에서 AI가 생성한 정보의 오·남용으로 공정성과 신뢰성 확보 등에 문제가 발생할 가능성이 크기 때문이다.
윤리지침은 공정성·신뢰성·책임성·보안성 4가지 핵심 가치를 기반으로 △특정 집단이나 개인에게 편향되지 않도록 공정성을 유지하고 다양한 관점을 반영할 것 △AI가 생성한 정보의 사실 여부를 공무원이 직접 검토하고 오류를 수정할 것 △AI 활용으로 발생할 수 있는 피해를 대비하고 문제 발견 시 즉시 개선 조치할 것 △AI 활용 시 개인정보 및 민감한 정보를 철저히 보호하고 미공표 정보 입력을 금지할 것 등을 주요 내용으로 담고 있다.
공무원이 AI를 효과적·윤리적으로 활용할 수 있는 명확한 기준을 제시할 전망이다. 특히 AI를 행정업무 보조 도구로 활용할 수 있으나, 최종 의사결정 책임은 공무원에게 있음을 명확히 규정하고 있다. 또 부산시정보화위원회 인공지능분과위원회가 AI의 활용 과정에서 발생하는 윤리적 문제를 점검하고, 개선 필요사항이 있는 경우 권고할 수 있다고 명시하고 있다.
시는 이달 안으로 법제 심사를 거쳐 윤리지침을 최종 확정하고, 시 본청을 비롯한 직속기관과 사업소, 시의회사무처를 대상으로 적용한다. 또 공무원의 AI 활용 역량 강화를 위한 교육과 함께 AI 업무 활용 체크리스트(점검표)를 배포해 공무원이 AI 활용 시 유의해야 할 사항을 숙지하도록 지원할 예정이다.
박형준 부산시장은 “지능행정 구현을 위한 부산형 인공지능 행정서비스를 본격 도입할 예정”이라며 “윤리지침 제정을 통해 공무원이 생성형 인공지능을 책임감 있게 활용할 수 있는 기반을 마련해 더욱 신뢰받는 공공서비스를 제공해 나가도록 하겠다”고 말했다.