|
문제는 AI가 자신 있게 내놓은 판례가 세상에 존재하지 않을 때다. 그럴듯한 사건번호와 법원 이름, 판결 요지까지 갖췄다면 일반인이 가짜를 가려내기는 쉽지 않다. 화면 속 오류가 법원에 제출되는 순간 피해는 현실이 된다. 재판은 지연되고 소송 비용은 불어나며, 당사자의 권리까지 흔들릴 수 있다.
실제 법정에서도 경고음이 울렸다. 특허법원은 변호사가 AI로 생성한 허위 판례 8건을 검증 없이 서면에 인용한 사실을 판결에서 지적했다. 수원지법에서도 AI를 이용해 만들어진 것으로 보이는 허위 판례가 제출됐다. 법관 연수에서는 제출된 판례 40건 가운데 39건이 실제로 존재하지 않았던 사례까지 공유됐다.
법률 서비스에 AI를 도입하는 흐름은 이미 거스를 수 없다. 법률 플랫폼들이 판례 검색과 분석 서비스를 내놓았고, 법원행정처도 법관과 법원 직원의 업무를 지원하는 생성형 AI 시스템을 시범 운영하고 있다. 이제 필요한 것은 도입 여부를 둘러싼 논쟁이 아니라 검증과 책임의 기준이다.
법원행정처 태스크포스(TF)는 AI가 만든 허위 법령이나 판례로 소송이 지연되거나 불필요한 비용이 발생하면 당사자에게 비용의 전부 또는 일부를 부담시키고, 변호사가 이를 검증하지 않고 제출하면 대한변호사협회에 징계를 의뢰하는 방안 등을 제시했다. 허위 사건번호를 확인하는 기능도 대응책으로 거론됐다.
법원은 허위 판례와 사건번호를 신속하게 확인할 체계를 갖추고 반복되는 오류를 공유해야 한다. 법률 서비스 업체도 실제 판례를 검색한 결과와 AI가 생성한 답변을 이용자가 구분할 수 있게 해야 한다. 출처와 원문을 쉽게 확인하도록 하고, 검증되지 않은 정보를 확정적인 사실처럼 제시하지 않도록 설계하는 일도 필요하다.
판결문 한 줄을 찾는 것과 그 판결이 어떤 사실관계에서 나왔고 현재 사건에 적용되는지 판단하는 것은 다르다. 비슷한 문장을 찾아내는 능력이 법리를 이해하는 능력을 보장하지는 않는다. AI가 잘못된 판결 요지를 전달하면 시민은 실제 판결을 읽고도 재판부가 법리를 잘못 적용했다고 오해할 수 있다. 사법 판단에 대한 불신으로 번질 가능성도 있다.
법정에서 필요한 것은 그럴듯한 판례가 아니라 실제 판례다. AI가 소송을 돕는 유용한 도구로 남으려면 편리함을 앞세우기 전에 오류를 걸러낼 장치를 갖춰야 한다. 없는 판례를 만들어낸 AI에 책임을 물을 방법을 마련하는 것과 함께, 그 판례가 법정에 들어오기 전에 발견할 수 있는 검증 체계도 세워야 한다. 재판의 신뢰는 AI가 얼마나 유창하게 답하느냐가 아니라 그 답이 실제 기록과 법리에 부합하는지 확인하는 데서 지켜진다.
