조 바이든 미국 대통령이 30일(현지시간) 인공지능(AI)의 기술 오용에 따른 위험을 차단하기 위한 행정명령에 서명했다. AI와 관련한 미국의 첫 법적 규제 장치다. AI발 가짜뉴스 확산을 막기 위해 AI 생성 콘텐츠라는 사실을 알 수 있도록 워터마크(식별표시)를 붙이도록 하고, 이를 위한 표준은 정부가 개발하기로 했다. 국가안보, 경제, 공공보건 등 중요 분야의 AI 모델 개발사는 AI 훈련 단계부터 정부에 통보해야 하고, 정부가 꾸린 검증 전문가팀인 ‘레드팀’의 안전테스트 결과를 정부에 보고해야 한다. 사실상 AI 서비스의 개발과 출시 전후 모든 과정을 정부가 관리·감독하겠다는 것이다.
미국의 이런 행보는 예견된 일이다. 오늘부터 이틀간 영국 정부가 주최하는 주요 7개국(G7) AI 안보 정상회의에서 첨단 AI시스템 개발 기업을 위한 행동강령이 채택된다고 한다. 이미 유럽연합(EU)은 지난 6월 AI법을 통과시켜 2026년 시행을 앞두고 있다. 생성형 AI를 악용한 불법 콘텐츠가 제작되지 않도록 기업에 관리 의무를 부여하고, 위반한 기업에는 연간 매출액의 최대 2%까지 과징금을 부과한다고 한다. 미국의 행보는 EU의 법체계가 세계 표준화로 이어지는 걸 막는 동시에 주도권을 놓지 않으려는 노림수가 분명하다.
AI 기술은 하루가 다르게 발전하고 있다. AI가 승자 독식 특성이 큰 기술 분야라는 걸 간과해선 안 된다. AI 주권 확보는 경제·안보와 직결된다. 가짜뉴스로 대변되는 생성형 AI의 폐해로 인한 파급효과는 방대하다. 정부가 생성형 AI 결과물에 대한 단계적 워터마크 도입과 AI 저작권 활용 가이드 초안 등 제도 정비에 나서고 있지만 갈 길이 멀다.
그렇다고 규제 일변도로만 내달려서는 안 된다. 미국의 행정명령에는 AI로 영향을 받는 근로자 지원과 스타트업의 시장 진입 완화, 고숙련 전문 인력 유치 등이 담겼다. 눈여겨볼 대목이다. 우리 국회에 계류된 법안 상당수가 지원보다는 규제 위주라는 점과 대조된다. 국회에서 낮잠 자고 있는 AI 기본법(인공지능산업 진흥 및 신뢰 기반 조성 등에 관한 법률안) 처리가 시급하다. 이 법안에는 AI에 대한 개념 규정과 AI 산업 육성·안전성 확보를 위한 방향성이 담겼다. 명확한 법적 기준이 있어야 기업들도 그 테두리 안에서 기술·서비스 개발에 나설 것 아닌가. AI 경쟁력 확보를 위한 선제 대응에는 여야가 따로 없다.