사이버 위협 대응 등 협력 MOU 미토스5 등 외국인 접근 제한 관련 “美 정부와 소통… 문제 해결 노력”
미국 인공지능(AI) 기업 앤트로픽의 최첨단 AI 모델 ‘미토스5’와 ‘페이블5’에 대한 미국 정부의 수출통제가 논란이 된 가운데 한국 정부와 앤트로픽이 AI 안전·사이버보안 협력 의지를 확인했다.
과학기술정보통신부는 18일 앤트로픽과 AI 안전성 확보 및 사이버보안 분야 협력을 위한 업무협약을 체결했다고 밝혔다.
이도규 과학기술정보통신부 정보통신정책실장과 크리스 차우리 앤트로픽 글로벌총괄이 18일 서울 중구 코리아나호텔에서 열린 AI 안전성 확보 및 사이버보안 분야 협력을 위한 업무협약식에서 대화를 나누고 있다. 과학기술정보통신부 제공
과기정통부는 이번 협약을 통해 AI가 사이버 공격과 방어에 미치는 영향을 심층 분석하고 한국어 맥락에서의 AI 모델 안전성 및 오남용 위험 평가, 자율형 AI 에이전트에 대한 레드팀 평가 등 첨단 AI의 안전성 확보를 위한 앤트로픽과의 협력체계를 공고히 할 예정이다.
AI 안전 분야에서는 우리나라 AI안전연구소와 앤트로픽 간 AI 모델 및 자율형 AI 에이전트 안전성 평가 등 AI 안전성 확보를 위한 협력이 추진된다. 사이버보안 분야에서는 금융 분야 등을 포함한 AI 취약점 발굴, 사이버 위협에 대한 전문 지식과 관련 정보의 신속한 공유 등을 포함한 협력이 이뤄질 예정이다.
이번 협약은 미국 정부가 앤트로픽의 일부 최상위 AI 모델에 대한 외국인 접근을 제한하면서 한국과 추진하는 AI 안전·사이버보안 협력에도 영향을 미칠 수 있다는 우려가 제기된 가운데 이뤄졌다. 앤트로픽은 미 정부와 소통해 수출 통제 문제를 풀어나가겠다는 뜻을 밝혔다고 한다. 크리스 차우리 앤트로픽 글로벌 총괄은 업무협약식에서 “(미토스5와 페이블5 통제 문제 해결을 위해) 미 정부 관계자에게 적극 접촉해 잘 설명하고 있다. 잘 해결할 수 있도록 노력 중”이라며 말한 것으로 알려졌다.