AI生成虚假案例混入司法审判太荒谬,AI好用也不能哪里都用
扬子晚报网·2025-10-31 13:46
这两日,一起略显荒谬的AI幻觉事件在法律圈中引发讨论。据北京市高级人民法院发布的消息,近日 北京市通州区人民法院在审理一起由股权代持引发的商事纠纷案件中,原告代理人提交给法庭的书面材 料里竟然出现了AI生成的虚假案例。 断进步,在试图减少AI幻觉的同时,作为使用者也不能太放心这些灵活好用的AI工具,即便要用二次 核查也必不可少,总不能让工具代替了独立思考。 扬子晚报|紫牛新闻记者 沈昭 校对 潘政 根据北京市通州区人民法院对这起案件的介绍,原告代理人为了进一步佐证其观点,在向法庭提交的书 面意见中,援引了名为最高法院的某案例及上海一中院的(2022)沪01民终12345号案件。从代理意见 的描述来看,两案的事实细节、法律争议与裁判逻辑都与审理中的案件高度契合,完美佐证了原告代理 人的主张观点,初看之下极具参考价值。 出于职业敏感性,承办法官进行了检索核实,却发现这两个案号所对应的真实案件事实与代理人书面意 见中描述的情况完全不同。在承办法官的质询下,原告代理人承认自己是向某AI大模型软件提问,由 AI软件生成了参考案例,代理人没有进一步核实案例的真实性,直接复制粘贴后提交给法院。承办法 官在判决书中明确对原告 ...