판사 81% “AI가 만든 ‘가짜 판례’ 경험”

대법 첫 실태 설문조사

소송대리인·변호사 제출 58% 달해
AI와 나눴던 대화 그대로 인용도
92% “과태료·검증의무 부과 필요”
사법부 “환각현상 방지대책 마련”

일선 법관 10명 중 8명은 재판 심리 과정에서 인공지능(AI)이 만든 ‘가짜 판례’가 인용된 사례를 경험한 것으로 나타났다. 사법부는 AI가 사실이 아닌 것을 정답인 양 소개하는 이른바 ‘환각’현상을 방지하기 위한 대책을 마련하기로 했다.

사진=연합뉴스

대법원은 지난달 6∼16일 각급 법원 민사·가사·행정 담당 법관을 대상으로 실시한 AI 허위 판례 등 인용 관련 설문조사 결과 이같이 조사됐다고 2일 밝혔다. 설문에는 법관 360명이 응답했다. AI의 환각현상으로 인한 허위 법령·판례 인용 사례가 잇따르자 그 실태를 파악하고자 대법원이 처음으로 실시한 조사다.

조사 결과 민사·가사·행정 담당 법관의 약 80%가 존재하지 않는 판례와 주요 내용이 실제와 다른 허위 판례 등이 인용된 사례를 경험했다고 답했다. 유형별로는 부존재 판례 인용을 경험한 법관이 196명(80.7%)으로 가장 많았다. 이어 허위 판례 인용 159명(65.4%), 허위·부존재 법령 인용 41명(16.9%), 허위·부존재 논문·문헌 등 자료 인용 10명(4.1%) 순이었다.

허위 판례 등을 인용한 주체는 당사자 본인이라는 응답이 164명(69.5%)이었다. 소송대리인 또는 변호인을 꼽은 법관도 136명(57.6%)에 달했다. 당사자 본인뿐만 아니라 변호사가 제출한 서면에서도 허위·부존재 판례 등을 인용한 사례가 다수 확인된 것이다.

구체적으로 대법원 판결서 형식을 그대로 차용해 AI로 생성한 허위 판결서를 제출하거나, 대법원 사건번호가 기재돼 있음에도 해당 판례가 검색되지 않는 사례가 있었다. 판시 내용을 변경하거나 판결의 취지와 다르게 인용된 사례, AI와의 대화 내용이나 소송 전략에 관한 문구가 서면에 그대로 포함된 사례 등도 발견됐다.

응답자의 91.7%는 AI 허위 판례 등 인용과 관련해 ‘제도적 대응 방안 마련이 필요하다’고 답변했다. 구체적인 대응 방안으로는 과태료 부과 근거 마련, 인용한 판례 등의 검증 의무 부과, 반복적인 허위 인용 등에 대한 변호사 징계 의뢰 등이 제시됐다.

대법원 법원행정처는 “소송 상대방은 허위 판례의 존재 여부와 인용 내용의 정확성을 확인하고 반박하는 데 추가적인 시간과 비용이 소요될 수 있다”며 “특히 변호사 없이 직접 소송을 수행하는 당사자는 이러한 오류를 찾아내고 대응하는 데 어려움을 겪을 수 있다”고 지적했다.

재판부 역시 이를 확인하는 데 추가적인 시간을 할애해 재판의 신속한 진행을 저해할 수 있다고 행정처는 설명했다.

행정처는 이번 설문조사를 결과를 토대로 제도와 실무 면에서 실효적인 대응 방안을 마련할 계획이라고 밝혔다. 과태료 부과 등 근거 규정을 마련하고자 법무부 등 관계기관과 협의하고 국회에도 의견을 제출할 방침이다. 아울러 변호사나 소송 당사자가 AI 활용 인용 자료의 정확성을 확인할 수 있도록 전자소송사이트에 ‘AI 활용 시 유의사항’을 안내하는 방안도 검토한다.