인공지능 시대, AI가 만들어준 가짜 정보 ‘주의’… 한인 변호사, 허위 판례 제출해 벌금

한인 기업 관련 소송서

AI생성 판례 이용했다가

 

뉴저지 연방법원이 한인 변호사에게 인공지능(AI)이 생성한 허위 판례를 법정에 제출한 사실을 이유로 제재를 가했다. 이번 사건은 최근 미국 법조계에서 확산되는 AI 오용 문제에 대해 경종을 울린 사례로 주목받고 있다.

 

뉴저지 지역 매체 NJ닷컴 보도에 따르면 뉴저지 버겐 카운티 포트리에 사무실을 둔 조모 변호사는 연방 민사소송에서 AI가 만들어낸 가짜 판례를 인용한 서류를 법원에 제출했다가 제재를 받았다. 호세 R. 알몬테 연방 치안판사는 지난 18일 조 변호사에게 3,000달러의 벌금을 부과하고, 문제가 된 서류를 기록에서 삭제하도록 명령했다.

 

법원 명령문은 조 변호사가 초기 법률 리서치 과정에서 생성형 AI 도구에 과도하게 의존했으며, 제출 전 인용 검증을 소홀히 해 변호사에게 부과된 성실 검토 의무를 위반했다고 밝혔다. 알몬테 판사는 “AI는 그럴듯한 인용과 판례를 만들어내지만 실제로는 존재하지 않는 경우가 있다”며 “검증 없는 무분별한 사용은 변호사 스스로의 위험으로 돌아간다”고 경고했다.

 

조 변호사는 서면 진술을 통해 AI 사용 사실을 인정하고 “마감 기한과 일정 압박으로 인해 실수가 발생했다”고 해명했다. 그는 앞으로 재발을 막기 위해 내부 검토 절차를 강화하겠다고 밝혔다. 법원은 조 변호사의 행위를 과실로 판단했지만, 잘못을 신속히 인정하고 솔직히 공개했으며, 사과와 재발 방지 약속을 한 점을 감경 사유로 고려해 가벼운 벌금을 결정했다.

 

이번 사건이 불거진 소송은 한국 유명 식품 브랜드의 미 동부 지역 독점 유통권을 둘러싼 업체들 간 소송 케이스에서 비롯됐다. 법원은 조 변호사에게 14일 내 벌금을 납부하고, 제재 명령을 의뢰인과 자신이 면허를 가진 주의 변호사 징계 당국에 통지할 것을 명령했다.

 

알몬테 판사는 판결문에서 과거에도 유사한 사건이 6차례 있었으며, 변호사들이 AI가 만들어낸 허위 판례를 제출해 1,000~6,000달러 벌금을 부과받은 사례를 언급했다. 이번 사건은 비교적 낮은 수준의 제재가 내려졌지만, 법원은 “AI는 리서치 도구일 수 있으나 결코 변호사의 책임을 대신할 수 없다”며 “변호사는 반드시 인용 검증과 내부 감수를 철저히 해야 한다”고 강조했다.

 

<로스앤젤레스 노세희 기자>