미국 42개주 검찰총장들이 주요 기술 기업에 인공지능(AI)의 위험성을 경고하고 이용자 보호 대책을 마련하라고 요구했다.
10일(현지시간) 로이터통신에 따르면 뉴욕주를 비롯한 38개주와 워싱턴 등 4개 지역 검찰총장은 마이크로소프트(MS), 메타, 구글, 오픈AI, 앤트로픽 등 13개 AI 기업에 공개서한을 보냈다. 이들은 서한에서 “AI 챗봇은 이용자의 망상을 부추기는 등 정신건강 위험을 초래하고, 이는 법 위반 소지가 있다”고 지적했다.
특히 한 10대 청소년이 AI 챗봇에 자살 계획을 털어놓은 사례를 언급하며 AI가 면허 없이 정신건강 관련 상담과 유사한 조언을 하거나, 범죄행위를 부추기는 것도 법에 저촉된다고 경고했다.
이들은 “각 기업이 AI 이용자를 보호할 수 있는 안전장치를 마련해야 한다”며 “각 기업은 독립적인 외부 감사를 받아야 하고, 이를 주·연방 규제 당국이 검토할 수 있도록 허용해야 한다”고 촉구했다.
이번 서한은 도널드 트럼프 미국 대통령이 연방정부 차원에서 AI 규제 권한을 일원화하려는 가운데 나왔다. 트럼프 대통령은 지난 8일 사회관계망서비스(SNS) 트루스소셜에 올린 글에서 “AI 분야에서 계속해서 선두를 유지하려면 단 하나의 규정집만 있어야 한다”며 “이번 주 ‘단일 규정(One Rule)’ 행정명령을 발동하겠다”고 밝혔다. 규정집에 어떤 내용을 담을지는 구체적으로 언급하지 않았지만 AI 시장 선도에 방점을 찍은 만큼 규제를 해소하는 방향일 것이라는 관측이 제기됐다.
그러나 주 검찰총장들은 트럼프 행정부의 시도가 주정부의 권한을 침해한다며 반대하고 있다.