美 캘리포니아 주지사, ‘AI 규제 법안’에 거부권 행사

“비싼 AI 모델에만 집중… 새 법안 추진”
AI 기술 개발 중심지… 빅테크들 ‘안도’

인공지능(AI) 기술 개발 중심지인 미국 캘리포니아주에서 논란이 됐던 AI 개발 업체의 책임을 강화하는 내용의 AI 규제 법안에 제동이 걸렸다.

29일(현지시간) 월스트리트저널(WSJ) 등에 따르면 개빈 뉴섬 캘리포니아주 주지사는 AI 규제법안 ‘SB 1047’에 대해 거부권을 행사했다. 뉴섬 주지사는 “(법안의) 규제가 가장 크고 비싼 AI 모델에만 집중돼 있다”고 지적했다. 그는 작은 AI 모델들도 전력망이나 의료 기록 같은 민감한 정보를 다루는 위험한 상황을 초래할 수 있다며, ‘AI 대모’로 불리는 페이페이 리 스탠퍼드대 교수와 협력해 새로운 법안을 추진하고 있다고 밝혔다.

개빈 뉴섬 캘리포니아 주지사. AP뉴시스

AI 기술의 중심인 캘리포니아주에서 시행될 예정이었던 SB 1047은 AI 기술이 야기할 피해를 줄이기 위해 대규모 언어 모델에 대한 안전성 테스트를 의무화한다는 내용이 담겼다. AI 기술이 5억달러(약 6523억5000만원) 이상의 심각한 피해 또는 사망 사고를 일으키지 않도록 개발 업체가 책임을 지도록 했으며, 통제가 어려운 AI는 작동을 강제로 멈추게 하는 ‘킬 스위치’를 도입했다. 규정을 어길 시 주 법무장관은 소송을 제기할 수 있다.

개빈 주지사의 거부권 행사로 법안에 반대해 온 기업들은 한숨 돌릴 수 있게 됐다. 그간 구글, 오픈AI, 메타 등 주요 기업들은 성급한 입법이 AI 개발을 저해할 것이라는 입장이었다. 낸시 펠로시 전 하원의장, 런던 브리드 샌프란시스코 시장 등도 반대 입장을 밝힌 바 있다.

다만 뉴섬 주지사는 사람의 두뇌 등 ‘신경 데이터’를 지문, 얼굴 이미지 등 생체 인식 정보같이 민감 데이터로 간주한다는 개인정보 보호법 개정안에는 서명했다. 명상이나 집중력 향상, 우울증 등 정신 건강 치료를 위한 기기들이 개발되며 개인 두뇌 정보가 오남용될 가능성이 있기 때문이다. 현재 페이스북 모회사 메타, 애플 등과 같은 거대 정보기술(IT) 기업들은 뇌와 관련된 신경 정보 수집 장치를 개발 중인데, 이번 법안 시행으로 건강기기 개발 업체들의 반발이 예상된다.