AI로 법률 콘텐츠 만들 때 환각을 거르는 3단계 검증

AI에게 법률 콘텐츠 초안을 맡겨본 전문가라면 한 번쯤 겪는다. 문장은 매끄럽고 구성도 그럴듯한데, 인용된 판례 번호를 검색하면 존재하지 않는 사건이다. 이것이 환각(hallucination)이다. 언어 모델은 "그럴듯한 텍스트"를 생성하도록 만들어졌지, "사실인 텍스트"를 보장하도록 만들어지지 않았다. 조문 번호·판례 번호·시행일처럼 형식이 정형화된 정보일수록 그럴듯하게 지어내기 쉽다.

일반 마케팅 콘텐츠라면 오류가 창피한 수준에서 끝난다. 그러나 전문직 콘텐츠에서 틀린 조문 하나는 전문성 자체에 대한 불신으로 직결되고, 콘텐츠를 보고 찾아온 잠재 의뢰인 앞에서 신뢰를 무너뜨린다.

환각이 자주 나오는 지점

• 판례 번호 — 형식(예: 2023다12345)은 완벽한데 실제로는 없는 사건. 가장 흔하고 가장 위험하다.
• 조문 번호와 내용의 불일치 — 조문은 실재하지만 내용 요약이 다른 조문의 것.
• 개정 전 법령 — 학습 시점 이전의 옛 조문·폐지된 제도를 현행처럼 서술.
• 수치 — 최저임금, 과태료 상한, 신고 기한 등 해마다 바뀌는 숫자.

발행 전 3단계 검증

1단계 — 인용 실재 확인. 초안에 등장하는 모든 조문·판례 번호를 국가법령정보센터와 판례 검색 서비스에서 직접 조회한다. "본 적 있는 번호 같다"는 느낌은 검증이 아니다. 검색되지 않으면 삭제가 원칙.

2단계 — 내용 대조. 실재하는 인용이라도 AI의 요약이 원문과 일치하는지 확인한다. 특히 "원칙-예외" 구조에서 예외를 빠뜨리는 경우가 많다. 5인 미만 사업장 적용 제외, 소액 사건 특례처럼 예외가 결론을 뒤집는 영역은 반드시 원문 대조.

3단계 — 시점 확인. 인용된 법령이 현행인지, 콘텐츠 발행 시점 기준으로 시행 전·후인지 확인한다. 개정 예정 사항을 다룰 때는 "O년 O월 시행 예정"을 명시.

도구 차원에서 줄이는 방법

범용 챗봇으로 초안을 만들면 위 3단계를 전부 수동으로 해야 한다. 반면 법률 도메인용으로 설계된 도구는 생성 단계에서 근거 검증을 끼워 넣을 수 있다. SpeciAI studio의 법령 환각 방지 레이어는 카드뉴스·숏폼 초안을 만들 때 조문·판례 근거를 확인하고, 확신이 없는 부분은 불확실 표시를 붙여 전문가 검수 단계로 넘긴다. 자동화는 초안까지, 최종 판단은 전문가가 — 이 원칙이 도구 선택의 기준이 되어야 한다. 문서 작성·리서치 영역의 AI 어드바이저리는 Speciai.team이 같은 원칙으로 만들어져 있다.

SNS 발행까지 고려한다면 직역별 주의점도 함께 봐야 한다. 변호사라면 광고 규정 가이드를 먼저 읽어보길 권한다.