미국 변호사가 재판에 오픈AI의 인공지능(AI) 챗봇 챗GPT를 통해 얻은 ‘가짜 판례’를 제출했다가 들통나는 일이 벌어졌다.
28일(현지시간) 뉴욕타임스(NYT) 보도에 따르면 로베르토 마타라는 남성은 2019년 8월 엘살바도르에서 미국 뉴욕으로 가는 콜롬비아 아비앙카항공 여객기에서 기내식 운반용 손수레(밀 카트)에 부딪혀 무릎을 다쳤다며 소송을 제기했다.
사진=AP연합뉴스
아비앙카는 소멸시효가 지났다고 주장했지만 마타의 변호인인 스티븐 슈워츠는 소송을 계속 진행해야 한다며 탑승객이 한국 대한항공과 중국 남방항공, 미국 델타항공 등을 상대로 제기한 6건 이상의 유사 판례를 담은 10페이지 분량의 의견서를 법원에 제출했다.
하지만 누구도 의견서에 담긴 판례와 인용 문구를 찾을 수 없었다. 이에 아비앙카를 대리한 바트 바니노 변호사는 의견서에 담긴 판례들이 실제 판결이 아닐 수 있다며 여기에 AI 챗봇이 관여했을 수 있다고 주장했다. 2008년 대한항공 판결문의 출처로 제시된 제11연방고등법원은 슈워츠가 제시한 판례의 사건번호로 검색한 결과 전혀 무관한 다른 사건이 나왔다고 답했다. 나머지 5건의 판례도 가짜로 밝혀졌다.
사건을 맡은 케빈 카스텔 뉴욕남부연방지법 판사는 해당 의견서가 “위조된 가짜 사법부 결정과 가짜 인용문으로 가득 찬 의견서”라며 6월8일 슈워츠 변호사에 대한 제재 여부를 논의하기 위한 공판을 열겠다고 밝혔다.
슈워츠 변호사는 지난 25일 법원에 선처를 호소하며 자신이 챗GPT의 도움을 받았다고 인정했다. 30년 경력의 슈워츠 변호사는 법원과 항공사를 속일 의도가 아니었다며 AI챗봇을 한 번도 써본 적이 없어 가짜 콘텐츠가 나올 수 있다는 가능성에 대해 알지 못했다고 해명했다. 그는 챗GPT에 여러 차례 ‘진짜 판례가 맞느냐’고 확인했음에도 챗GPT가 끝까지 “그렇다”고 주장했다고 전했다.
NYT는 AI가 온라인 세계를 휩쓸면서 특히 화이트칼라 직종의 노동을 대체할지 모른다는 우려가 커졌는데, 이번 사건은 AI가 이들의 직업을 인수하기까지 약간의 시간이 남아 있을 수도 있다는 것을 보여준다고 평가했다.