[단독] AI 가짜 판례 속출하는데...법원은 통계 없고 정부는 가이드라인 없어

법원행정처, 허위 판례·징계 의뢰 현황 별도 집계 안 해
3월 대응방안 공지에도 별도 지침 없어...법무부는 의견수렴 단계

[파이낸셜뉴스]생성형 인공지능(AI)이 만들어낸 허위 판례가 재판에 인용되는 문제가 불거진 가운데, 법원이 대응방안을 마련하고도 관련 사건과 징계 의뢰 현황을 별도로 집계하지 않는 것으로 나타났다. 법률 AI서비스 전반에 대한 정부 차원의 가이드라인도 발표 여부조차 정해지지 않은 상태다.

25일 국회 법제사법위원회 소속 김한규 더불어민주당 의원이 법원행정처로부터 제출받은 자료에 따르면 법원행정처는 "현재까지 생성형 AI를 활용한 허위 판례·법령 인용 및 허위·변조 증거 제출이 확인된 사건 수를 별도로 취합·관리하지 않고 있다"고 답했다. 해당 사유로 대한변호사협회에 징계를 의뢰·통보한 건수와 처리 결과, 소송비용 부담이나 변론 제한 등 법원이 취한 조치 현황도 집계하지 않고 있다.

다만 이는 실제 징계 의뢰나 제재가 없었다는 의미는 아니다. 관련 조치는 개별 재판부가 판단할 사항으로, 법원행정처 차원에서 전체 현황을 파악할 별도 통계가 없다는 취지다.

앞서 법원행정처는 지난 3월 'AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)'를 통해 대응방안을 제안했다. 허위 판례 인용으로 불필요한 비용이 발생하면 소송비용을 부담하게 하고, 해당 서면의 진술은 제한하며, 판결서에 허위 인용 사실을 명시하거나 변호사에 대한 징계를 의뢰하는 등의 내용이다. 지난 2월에는 사법정보공개포털에 허위 사건번호 확인 기능도 도입했다.

실제 허위 판례가 확인돼 재판부가 지적하기도 했다. 지난 4월 서울고법 민사33부(이창형 부장판사)는 보증금 반환 사건 판결문 각주에서 피고가 항소이유서에 인용한 판결 3건의 사건번호가 모두 존재하지 않는 것으로 보인다고 꼬집었다. 해당 사건번호를 사법정보공개포털에서 조회하면 존재하지 않는다는 안내창이 나온다.

법원행정처는 지난 3월 말 대응방안을 법원 내부 게시판에 공지했지만 별도 내부지침은 마련하지 않았다고 밝혔다. 법원행정처는 "개별 사건의 구체적인 사실관계, 당사자의 행위 태양 및 허위 자료가 재판에 미친 영향 등을 종합적으로 고려해 판단할 사항"이라며 "내부지침을 일률적으로 마련하는 것은 적절치 않다"고 했다.

법무부의 AI 리걸테크 가이드라인도 논의 단계다. 법무부는 지난 2월 'AI리걸테크 특별분과위원회'를 발족해 7월까지 다섯 차례 회의를 열었지만, 가이드라인의 내용과 방향은 물론 발표 여부도 결정되지 않았다고 김 의원실에 밝혔다. 앞서 보도된 국내 리걸테크 업체의 유료 법률 서비스 제공 제한 방안에 대해서도 "쟁점을 정리한 내부 회의자료에 불과하다"고 설명했다.
법무부는 "AI 허위 판례 대응 문제 등을 포함한 다수의 쟁점에 대해 변호사업계, 리걸테크업계 등의 다양한 견해를 청취하고 있으나, 구체적인 검토 결과가 도출되지 않은 상태"라는 입장이다. 위원회 활동에는 AI 서비스 이용료와 위원 수당 등 약 4313만원이 집행됐다.

김한규 의원은 "AI 리걸테크 시장의 성장은 거스를 수 없는 흐름"이라며 "법원과 법무부가 실태파악조차 못 하고 있는 것은 매우 아쉬운 부분"이라고 지적했다.

[email protected] 최은솔 기자