한눈에
인도 대법원, AI가 지어낸 판례를 근거로 한 하급심 결정을 파기했다.
사법부가 판결 자체를 뒤집은 것은 전 세계에서 처음이다.
한국도 특허법원 AI 시범재판부 등으로 이미 검증 장치를 시험하고 있다.
두 개의 판례, 실재하지 않았다
두 개의 판례가 하급심 결정문에 인용됐다. 둘 다 존재하지 않았다. 있지도 않은 이 판례들이, 인도 대법원까지 사건을 끌고 올라갔다.
2026년 7월 2일, 인도 대법원 나라심하·아라데 대법관 재판부는 국가회사법원(NCLT)과 항소원(NCLAT)이 내린 결정을 파기하고 사건을 돌려보냈다. 파기 이유는 명확했다. 하급심이 AI가 지어낸 가짜 판례를 근거로 삼았기 때문이다. 인용된 “ICICI Bank Ltd vs Urban Infrastructure” 등 두 건은 애초에 존재한 적이 없었다.
이 사건은 단순한 해프닝이 아니다. 판결의 근거가 된 자료 자체가 조작이었고 그 자료를 아무도 미리 걸러내지 못했다. AI 검증 체계를 갖추지 못한 조직이라면, 어디든 같은 함정에 빠질 수 있다.
“법과 정의의 영역에 유출된 메틸 이소시아네이트”
대법원은 이 사건을 특유의 표현으로 규정했다. 재판부는 AI환각 자료의 무분별한 활용을 “법과 정의의 영역에 유출된 메틸 이소시아네이트"에 비유했다. 1984년 보팔 참사를 일으킨 바로 그 유독가스다. 눈에 보이지 않다가 뒤늦게 발견되지만 발견됐을 땐 이미 되돌릴 수 없다.
재판부는 원칙도 분명히 했다. AI가 만든 허위 자료를 검증 없이 인용하면 변호사의 직무상 과오다. 판사가 이를 근거로 판단해도 마찬가지로 중대한 과실이다. 대법원은 인도 변호사협의회(BCI)에 징계 규범을 만들 위원회를 구성하라고 지시했다.
이번 사건이 처음은 아니다. 2023년 미국 뉴욕에서 벌어진 Mata v. Avianca 사건이 세계 최초의 AI환각 소송으로 기록됐다. 당시 변호사 두 명은 제재금 5,000달러를 물었다. 이후 미국 내 제재금은 최고 55,597달러까지 뛰었다.
짧은 기간에 제재 수위가 가파르게 올랐지만 이번처럼 최상급 법원이 하급심 판결 자체를 파기한 사례는 인도가 처음이다. 법조 데이터베이스 Damien Charlotin에는 이미 전 세계 1,300건 넘는 AI환각 소송이 등재돼 있다.
7월 15일 이후, 무엇을 지켜봐야 하는가
인도는 이 사건을 계기로 개별 제재가 아니라 국가 차원 대응에 나섰다. 대법원은 지난 6월 3일 「법원 AI 사용 규정 2026」 초안을 공개했다. AI는 재판을 보조할 뿐 판단을 대신할 수 없다는 원칙, 사용 시 공시 의무, 그리고 대법원 산하 상설 기구의 감독 체계가 골자다. 의견수렴 기한은 7월 15일까지 연장됐다.
법원 현장의 대응은 이미 더 빠르게 움직였다. 펀자브·하리아나 고등법원은 지난 4월 6일, 판사들에게 ChatGPT·Gemini·Copilot 등 AI 도구로 판결문을 쓰거나 법률 조사를 하지 말라는 회람을 내렸다. 구자라트 고등법원에 이어 두 번째로 전면 금지에 나선 주(州)다.
금융권도 같은 속도로 움직인다. 인도중앙은행(RBI)은 은행 등 전 규제 대상 기관에 프론티어AI 사이버리스크의 이사회 승인 갭평가와 시정계획을 6월 30일까지 제출하라고 요구했다. 6월 24일에는 AI·머신러닝 모델까지 포괄하는 「모델리스크관리 가이드라인」 초안도 함께 내놨다.
사법부와 금융감독 기관이 거의 동시에 움직인 것은 우연이 아니다. 개별 사고 대응에서 제도 구축으로 무게중심이 옮겨가고 있다는 신호다.
이 흐름은 인도만의 일이 아니다. 유네스코는 2024년부터 「법원 AI 시스템 사용 가이드라인」 15개 원칙을 마련해왔다. 44개국 판사를 조사한 결과, 절반에 가까운 판사가 이미 AI를 업무에 쓰고 있었다. 그런데 관련 훈련을 받은 비율은 열에 한 명이 채 되지 않았다.
스탠퍼드 RegLab 연구도 같은 간극을 보여준다. 상용 법률AI 도구조차 여섯 번에 한 번꼴, 많게는 세 번에 한 번꼴로 환각을 일으켰다. “환각 제로"라던 업체 마케팅과는 거리가 멀다.
️ 정책 및 사회적 시사점
한국 법원과 금융감독 당국에도 이 사건은 남의 일이 아니다. 대법원 법원행정처는 지난 2월 13일 외부 거대언어모델에 의존하지 않는 자체 AI 플랫폼을 구축하고 ‘재판지원 AI 시스템’을 시범 오픈했다. 판례·법령 검색을 지원하되 최종 판단과 책임은 법관에게 있다는 원칙을 분명히 못 박았다.
특허법원은 한 발 더 나갔다. 특허2부와 특허5부가 4월부터 9월까지 당사자 동의를 전제로 한 AI 재판 시범 운영에 들어갔다. 양측이 모두 동의한 사건에서만 AI를 판결 초고 감수에 활용한다. 지난 6월 25일 특허5부가 특허거절심결 취소소송에서 AI 동의를 받은 첫 판결을 선고했다.
이 절차는 인도 사례의 교훈과 정확히 맞닿아 있다. 당사자 동의와 판결 초고 감수라는 활용 범위 제한은, AI가 만든 자료가 검증 없이 판단의 근거로 스며드는 것을 막는 안전장치다. 인도가 사고 이후 규정을 만든 반면, 한국은 시범 단계부터 이 장치를 넣었다는 점이 다르다.
조기 경보 지표는 두 가지다. 특허법원의 시범 운영이 9월 이후 다른 재판부로 확대되는지, 재판지원 AI 시스템이 사건 기록 분석 단계로 넘어가며 검증 체계도 함께 강화되는지다.
신뢰는 한 번 새면 되돌릴 수 없다
인도 대법원의 파기 결정은 “AI가 재판을 대신할 것인가"라는 익숙한 질문보다 앞선 자리에 서 있다. 그보다 더 근본적인 질문, 즉 AI가 만든 허위 정보가 판단의 근거 데이터로 스며들었을 때 누가 책임지는가다. 그 질문에 한 국가가 처음으로 실체적인 답을 내놓았다.
이 답은 제재금이 아니라 판결 파기였다. 그만큼 무겁다. 사법부 최상단에서 나온 이 판단은, AI 리스크가 더 이상 IT 부서만의 문제가 아니라 이사회와 최고 의사결정권자의 책무라는 인식을 함께 남겼다.
메틸 이소시아네이트는 무색무취였다. 새어 나온 뒤에야 피해가 드러났다. 대법원이 이 비유를 굳이 꺼내 든 이유는 하나다. 지금 손을 쓰지 않으면, 다음엔 발견조차 늦어질 수 있다는 경고다.
⏰ 다음 확인 시점: 2026년 7월 15일, 인도 대법원 「법원 AI 사용 규정 2026」 초안 의견수렴 마감일.
확인할 지표: 대법원 규정이 실제로 확정·시행되는지, RBI 갭평가 제출 이후 은행권 시정조치 이행률이 공개되는지, 한국을 포함한 다른 국가에서 유사한 판결 파기 사례가 뒤따르는지.
이 신호가 죽는 조건: 7월 15일 마감 후 대법원 규정이 흐지부지 표류하거나, 인도 사례가 국제적으로 별다른 후속 조치 없이 일회성 사건으로 소비된다면 이 신호는 트렌드로 이어지지 못한다.
생각해볼 질문
당신이 낸 세금이나 대출 심사 서류를 AI가 검토한다면, 그 결과를 얼마나 믿을 수 있을까? 인도 사례처럼 근거 자체가 조작됐는데 아무도 몰랐다면, 그 피해는 고스란히 당신 몫이 될 수 있다.
변호사나 판사도 AI가 지어낸 판례에 속았다. 당신이 업무에서 AI 답변을 그대로 믿고 넘어간 적은 없는가? 한 번쯤 스스로 검증해본 적이 있는지 떠올려볼 만하다.
주목해야 할 것들
미래 신호: 인도의 「법원 AI 사용 규정」이 확정되면, 다른 신흥국 사법부도 유사한 규정을 뒤따라 만들 가능성이 있다.
⚖️ 분기점: 인도 대법원의 판결 파기가 국제적으로 선례로 인용되느냐, 아니면 인도만의 특수 사례로 남느냐에 따라 각국 법원의 AI 검증 의무화 속도가 갈릴 것이다.
연결 이슈: 2026년 3월 남아공에서 AI 환각 인용으로 정책 문서가 철회된 사례(260620-PG-01)와 함께 보면, AI환각이 국가 제도에 침투하는 패턴이 반복되고 있음을 확인할 수 있다.
