영국에서 변호사가 법정 준비에 AI를 사용하다가 가짜 판례를 인용해 적발된 사건이 화제입니다. 이 사건은 단순한 실수를 넘어 법조계 전반에 AI 사용에 대한 새로운 기준이 필요함을 보여주고 있어요.
변호사 AI 사용 적발 사건의 전말
영국 이민법원에서 촉두리 라만(Chowdhury Rahman) 변호사가 AI를 사용해 법정 준비를 하다가 적발됐어요. 온두라스 출신 자매의 난민 신청 사건을 담당하던 라만 변호사는 ChatGPT 같은 생성형 AI를 사용해 판례를 조사했는데, 문제는 인용한 12개 판례 중 일부가 아예 존재하지 않는 가짜였다는 점이에요.
마크 블런델(Mark Blundell) 상급심 판사는 “인용된 판례들이 존재하지 않거나 전혀 관련이 없다”며 라만 변호사가 AI 사용 사실을 숨기려 했다고 판단했어요. 특히 한 판례의 경우 “ChatGPT가 최근 비슷한 주장을 뒷받침하기 위해 잘못 사용한 사례”라고 지적하기도 했답니다.
AI 생성 판례의 위험성과 법적 신뢰성 문제
생성형 AI의 가장 큰 문제점 중 하나가 바로 ‘할루시네이션(hallucination)’ 현상이에요. AI가 그럴듯하지만 사실이 아닌 정보를 생성하는 것인데, 법조계에서는 이것이 치명적일 수 있어요.
이번 사건에서 라만 변호사는 AI가 제공한 정보를 검증 없이 그대로 사용했어요. 판사는 “제출된 근거들이 작성 스타일의 문제가 아니라 인용된 판례가 존재하지 않거나 주장을 뒷받침하지 않는다”고 명확히 지적했답니다.
법정에서의 AI 사용 윤리 기준
법조계에서 AI 사용에 대한 명확한 가이드라인이 필요한 시점이에요. 현재 대부분의 법조인들이 연구나 초안 작성에 AI를 활용하고 있지만, 이를 규제하는 명확한 기준은 부족한 상황이거든요.
변호사 징계와 법조계 자정 노력
블런델 판사는 라만 변호사를 변호사 표준 위원회(Bar Standards Board)에 신고하는 것을 검토하고 있다고 밝혔어요. 이는 단순한 실수가 아니라 법정을 기만하려는 시도로 판단했기 때문이에요.
라만 변호사는 처음에 “다양한 웹사이트를 이용해 조사했다”며 AI 사용을 부인했지만, 판사는 “압도적으로 생성형 AI를 사용했을 가능성이 높으며, 이를 숨기려 했다”고 결론지었답니다.
전 세계 법조계의 AI 도입 현황
이런 사건은 영국만의 문제가 아니에요. 미국에서도 비슷한 사례들이 보고되고 있고, 각국 법조계는 AI 사용에 대한 새로운 규정을 만들어가고 있어요.
특히 법률 문서 작성, 판례 검색, 계약서 검토 등에서 AI 활용이 급속히 확산되고 있지만, 동시에 정확성과 신뢰성에 대한 우려도 커지고 있는 상황이에요.
법조계 AI 사용의 올바른 방향
앞으로 법조계에서 AI를 활용하려면 몇 가지 원칙이 필요해요. 첫째, AI 생성 정보에 대한 철저한 검증이 필수이고, 둘째, AI 사용 사실을 투명하게 공개해야 해요. 셋째, AI는 보조 도구로만 사용하고 최종 판단은 반드시 인간이 해야 한다는 점이에요.
미래 법률 서비스의 변화 전망
이번 사건을 계기로 법조계의 AI 사용 가이드라인이 더욱 구체화될 것으로 예상돼요. AI 기술 자체를 배제하기보다는 올바르게 활용할 수 있는 방법을 찾아가는 것이 중요하겠어요.
법조계도 이제 AI 시대에 맞는 새로운 변화가 필요한 시점입니다. 여러분은 변호사의 AI 사용에 대해 어떻게 생각하시나요?
출처: https://www.theguardian.com/technology/2025/oct/16/barrister-found-to-have-used-ai-to-prepare-for-hearing-after-citing-fictitious-cases