구글·네이버 등 16개 기업 첫 국제 합의
AI 정상회의 ‘서울 선언’ 채택 성과
尹대통령 “AI 안전연구소 설립할 것”

윤석열 대통령은 21일 인공지능(AI) 서울 정상회의에서 AI안전연구소를 설치해 AI 글로벌 규범을 만드는데 적극 동참하겠다는 입장을 밝혔다.

윤석열 대통령이 21일 청와대 영빈관에서 'AI 서울 정상회의'에 화상으로 참석하고 있다.   대통령실 제공.

윤 대통령은 리시 수낵 영국 총리와 AI 서울 정상회의 화상회담을 공동 주재하면서 개회사를 통해 “디지털은 국경을 넘어 초연결성을 지닌 만큼, 글로벌 차원의 디지털 규범이 만들어져야 한다”며 “AI 서울 정상회의는 그간의 노력을 결집해 글로벌 차원의 AI 규범과 거버넌스를 진전시키는 계기가 될 것”이라고 말했다. 이어 “AI가 미칠 수 있는 악영향을 최소화하고, 우리 사회의 안녕과 민주주의가 훼손되지 않도록 AI의 안전성을 확보해야 한다”며 “대한민국도 AI 안전연구소 설립을 추진해 글로벌 AI 안전성 강화를 위한 네트워크에 동참할 것”이라고 강조했다.

이번 정상회의를 계기로 오픈AI, 구글·딥마인드, 메타, 마이크로소트(MS), 네이버, 삼성전자 등 세계 각국의 16개 글로벌 빅테크(주요 기술 기업)도 “위험을 충분히 완화할 수 없는 경우 AI모델을 개발하거나 배포하지 않겠다”는 내용을 골자로 하는 ‘프론티어 AI 안전약속(commitment)’을 체결했다. 이는 기업이 안전한 AI개발을 약속한 첫 국제적 합의다.

윤 대통령과 각국 정상은 이날 ‘안전하고 혁신적이며 포용적인 AI를 위한 서울 선언’과 부속확인서로 ‘AI 안전 과학에 대한 국제 협력을 위한 서울 의향서’를 채택했다.

AI 서울선언은 ‘AI 분야에서 국제 협력 및 대화를 촉진하고자 하는 공동의 헌신을 확인하고, 직접 생각하고 결정하는 AI의 안전 서약을 환영한다’는 뜻을 담았다. 선언은 특히 최근 국제적 화두가 되는 AI 안전성 문제와 관련해 “AI로부터 야기되는 위험에 대응하기 위해 함께 행동하고, 인간 중심의 AI를 활용해 국제 난제를 해결하는 데 국제 협력 강화를 촉구한다”고 밝혔다.

이번 정상회의는 지난해 영국에서 열린 1차 회의가 AI 안전 관련 논의에만 집중한 것과 달리 포용과 혁신이라는 AI 거버넌스의 원칙을 국제사회에 제시한 점에서 의의가 있는 것으로 평가된다. 과학기술정보통신부는 정상회의에 앞서 이날 오전 개최된 국무회의에서 AI 생성물의 워터마크 표시를 의무화하는 등 딥페이크를 활용한 가짜뉴스 생성·유통·확산에 대한 대응 체계 구축 계획을 보고했다. 정부는 또 AI안전성을 검증하고 연구하는 안전연구소를 설립해 한국을 아시아·태평양지역의 AI안전 허브로 육성할 계획이라고 밝혔다.