2020년 영국 법원의 아동 양육권 분쟁 재판에서 남편은 아내가 아이를 학대하는 전화 통화 내역을 증거로 제출했다. 녹음 속 아내 목소리는 남편의 주장처럼 거칠고 폭력적이었다. 이 증거로 재판이 남편에게 유리한 쪽으로 진행됐으나 아내 측 변호인이 음향분석 전문가 검증을 통해 통화 내역이 아내 목소리를 이용해 합성된 가짜임이 드러났다. 재판에서 인공지능(AI) 조작 음성의 위험성이 보고된 세계 최초 사례다.
우리도 예외가 아니다. 지난해 부산에서 투자 사기로 수사를 받던 20대 청년은 피해 변제 능력이 있는 것처럼 꾸미기 위해 9억원의 잔액증명서를 위조해 구속을 면했다. 하지만 검사가 확인해보니 사기범의 계좌는 23원이 전부였다. 판사가 피의자들이 내는 서류의 진본 여부를 확인하지 않은 것이다. 한 대기업에선 직원이 평소 앙심을 품었던 상사의 목소리를 AI에 학습시켜 가짜 통화 녹취를 만든 뒤 성희롱을 당했다고 신고하기도 했다. AI를 이용한 증거 위조가 수사와 재판에 혼선을 주는 현실이 된 것이다.
배우 김수현씨가 과거 미성년자 배우와 교제했다는 의혹을 제기한 유튜버에 대해 검찰이 AI로 조작된 증거를 앞세워 허위 사실을 유포했다며 구속영장을 청구했다. 이 유튜버는 AI로 김씨의 휴대전화 문자를 비롯해 교제 상대방 음성까지 조작해 공개했다고 한다. 검찰은 “김씨의 사회적 기반과 경제 활동 전반을 붕괴시켰다”고 했다.
AI는 비약적 발전을 하고 있다. 문자든, 사진이든, 영상이든 AI 조작이 실제와 구분하기 어려운 시대가 머지않았다는 경고가 나온다. 한 연구자가 AI 허위 정보가 사법부에 제출된 전 세계 사례를 모아보니 1400건이 넘었고, 계속 늘어나는 추세라고 한다. 형사사법 질서의 기본인 증거의 신뢰성이 붕괴할 수 있다. 판사들이 특히 경각심을 가져야 하는 이유다.
AI를 이용한 가짜뉴스도 만연해질 우려가 크다. 가짜뉴스의 폐해로 인해 초래되는 사회·경제적 비용은 가늠하기도 어렵다. 이런 혼란을 줄이려면 AI를 활용한 ‘악마의 편집’을 판별할 전문 인력과 시스템 마련이 절실하다. AI 조작 위변조 범죄를 더 엄하게 처벌하는 법적 근거 마련도 필요하다. 사법당국이 시급히 풀어야 할 숙제다.