미국 텍사스주 북부지방법원의 한 판사가 앞으로 변호사들이 법정에 서류를 제출할 때 이를 인공지능(AI)이 작성하지 않았다는 서명을 함께 받기로 했다고 미 기술전문매체 테크크런치가 31일(현지시간) 보도했다.
보도에 따르면 브랜틀리 스타 텍사스 북부지법 판사는 자신의 법정에 출두하는 모든 변호사가 제출한 서류의 어떤 부분도 생성형 AI로 작성된 것이 아니며, AI의 도움을 받은 경우 이를 사람이 확인했다는 각서에 서명할 것을 요구하기로 했다.
텍사스 북부지법은 각 판사가 자신의 법정에 대해 구체적인 규정을 정할 수 있도록 하고 있다. 스타 판사를 시작으로 다른 법정들도 이 같은 규칙을 제정할 가능성이 작지 않다고 테크크런치는 전했다.
이번달 미 뉴욕남부지법에 한 변호사가 허위 판례와 인용구가 담긴 의견서를 제출했다가 생성형 AI 서비스인 챗GPT를 사용했다고 자백한 사건 이후로 법조계에서도 AI에 대한 우려를 표하고 있다.
해당 사건을 일으킨 스티븐 슈워츠 변호사는 25일 법원에 선처를 호소하며 “(챗GPT의) 콘텐츠가 가짜일 수도 있다는 가능성을 알지 못했다”고 말했다. 그가 챗GPT에 해당 판례들이 ‘진짜가 맞느냐‘고 물었지만, 여러 차례 “그렇다”는 대답이 돌아왔다는 것이다.
스타 판사는 생성형 AI의 ‘할루시네이션(Hallucination·환각)’이 법정에서 큰 문제가 될 수 있다고 경고했다. 이는 AI가 사실이 아닌 내용을 마치 옳은 답처럼 생성하는 현상을 말한다.
그는 이번 규정을 도입하게 된 경위를 설명하며 “(생성형 AI) 플랫폼은 놀랍도록 뛰어지만 할루시네이션과 편견에 취약하다”며 “현재 상태로서는 거짓 출처와 인용문까지 만들어내고 있다”고 적었다.
이어서 “변호사는 개인적 편견·신념을 버리고 법과 의뢰인에게 충실할 것을 선서하지만, 생성형 AI는 이런 선서를 할 필요가 없는 프로그래밍의 산물”이라며 “이들은 미국의 법과 헌법, ‘진실’에 대한 충성심을 갖고 있지 않다”고 지적했다.