AI가 만든 ‘유령 판례’를 법정에 제출하다니

 변호사들 무더기 적발, 캘리포니아 변호사협회

인공지능 오남용 ‘징계’, 법조계 전반 경각심 확산

 

 

 

생성형 인공지능(AI)이 일상생활은 물론 법조계와 의료계 등 전문 분야에서도 전방위적으로 확산되고 있는 가운데 AI를 활용해 작성한 법정 서류에 존재하지 않는 ‘가짜 판례’를 인용한 변호사들이 적발되면서 법조계 전반에 AI 활용에 대한 심각한 경고음이 울리고 있다.

캘리포니아주 변호사협회는 최근 생성형 AI를 활용한 법률 문서 작성 과정에서 허위 판례를 제출한 혐의로 변호사 2명을 제소하고 또 다른 변호사 1명에 대해 징계 조치를 승인했다고 밝혔다. 이번에 징계 대상에 오른 변호사들은 LA의 오미드 에밀 칼리페, 애리조나 스코츠데일의 스티븐 토머스 로메인, 그리고 베벌리힐스의 세피데 아르데스타니 등이다.

조사에 따르면 칼리페 변호사는 2025년 연방법원 상표권 소송에서 존재하지 않는 판례를 인용하고 사건과 관련성이 낮은 판례를 근거로 제출한 혐의를 받고 있다. 또한 생성형 AI 사용 사실을 법원에 공개하도록 한 규정을 위반한 정황도 드러났다. 

 

로메인 변호사 역시 오렌지카운티 민사소송에서 AI로 작성된 문서를 제출하면서 존재하지 않거나 실제 내용과 다른 판례 인용을 포함시킨 것으로 조사됐다. 그는 일부 인용만 검증했을 뿐 전체 내용을 확인하지 않았다고 인정했다.

이미 징계를 받은 아르데스타니 변호사의 경우 2025년 연방 집단소송 서류에 존재하지 않거나 잘못된 판례를 인용한 사실이 확인됐다. 법원은 해당 사건 검토에 소요된 시간이 “제한된 사법 자원의 낭비”라고 지적했으며 그는 1년 보호관찰과 함께 30일 자격정지 처분을 받았다.

캘리포니아 변호사협회 측은 이번 사건이 단순한 실수를 넘어 사법 시스템의 신뢰를 훼손할 수 있는 중대한 사안이라고 강조했다. 캘리포니아 변호사협회의 조지 카르도나 수석 변호사는 “법원과 의뢰인은 변호사가 제출하는 서류가 정확하고 신뢰할 수 있다고 믿을 수 있어야 한다”며 “기술은 법률 실무를 돕는 도구일 뿐, 변호사의 전문성과 성실성을 대체할 수 없다”고 밝혔다.

실제로 생성형 AI는 사실이 아닌 정보를 그럴듯하게 만들어내는 ‘환각(hallucination)’ 현상이 있는 것으로 알려져 있으며, 이번 사건에서도 이러한 문제가 그대로 드러났다는 분석이다. 현재 캘리포니아에서는 변호사들이 AI를 활용해 문서를 작성하는 것은 허용되지만 최종 제출 전 모든 내용의 정확성을 검증할 책임은 전적으로 변호사에게 있다.

전문가들은 이번 사건이 AI 기술 도입이 급속히 확산되는 상황에서 법률 윤리와 책임 문제를 재점검하는 계기가 될 것으로 보고 있다. 특히 법조계뿐 아니라 의료, 금융 등 전문성이 요구되는 분야 전반에서 AI 의존이 가져올 위험성에 대한 논의가 더욱 확대될 전망이다.

법조계 관계자는 “AI가 생산한 정보가 실제 사실처럼 보일수록 검증 책임은 더욱 중요해진다”며 “편의성과 효율성 뒤에 숨은 위험을 간과할 경우, 사법 정의 자체가 흔들릴 수 있다”고 지적했다.