형사소송법 일부개정법률안

최근 생성형 인공지능 기술의 급속한 발전으로 법률 전문가를 포함한 소송 관계인들이 공소장, 의견서를 비롯한 소송서류의 작성에 생성형 인공지능을 활용하는 사례가 증가하고 있음.

인공지능을 활용하는 경우 이른바 ‘할루시네이션 현상’에 따라 실제와 다르거나 존재하지 않는 판례 등을 만들어내는 경우가 있음. 따라서 법률전문가가 아닌 일반인들이 거짓 정보를 그대로 믿을 수 있어 활용 범위나 윤리에 대한 논의가 필요함.

허위 법령이나 판례가 소송서류에 제출되면 상대방은 그 진위를 일일이 확인하고 반박하여야 하고, 재판부 역시 해당 자료의 존재 여부와 인용 내용의 정확성을 별도로 검증하여야 함. 이로 인해 불필요한 심리가 늘어나 재판이 지연될 뿐만 아니라, 법률정보에 대한 접근과 대응 능력이 부족한 당사자의 방어권이 침해될 우려가 있음. 나아가 허위 정보가 재판 초기부터 핵심 쟁점을 흐릴 경우 한정된 사법자원이 낭비되고, 신속하고 공정한 재판과 사법절차에 대한 국민의 신뢰가 훼손될 수 있음.

이에 피고인, 변호인 및 그 밖의 소송관계인이 법령, 판례 또는 유권해석 등의 주요내용을 허위로 인용하거나 존재하지 아니하는 법령 등을 인용하는 경우 과태료를 부과할 수 있도록 하고, 검사, 피고인, 변호인 및 그 밖의 소송관계인이 공소장, 의견서 등 법원에 제출하는 소송서류에 인공지능을 이용하여 검색한 법령 등을 인용한 경우에는 해당 서류에 인공지능을 이용하였다는 사실을 기재하도록 의무화하며, 서면에 존재하지 아니하는 법령이 인용되었거나 허위로 인용된 경우, 인공지능 활용 사실이 기재되지 아니한 경우 등에는 재판장이 그에 대한 당사자의 의견 진술을 제한할 수 있도록 함(안 제299조의2 신설 등).