文章核心观点 - 人工智能模型生成的虚假或捏造内容（即“AI幻觉”）已进入司法领域，对司法秩序构成干扰，具体表现为律师在诉讼中提交由AI生成的虚假参考案例或证据，这违反了诚信原则，浪费司法资源，并损害司法公信力 [1][24][36] - 司法机关已开始识别并处理此类问题，相关典型案例已入选人民法院案例库，明确了诉讼参与人需对AI生成内容进行核验并承担相应法律后果的审判原则，同时专家呼吁需建立规则以应对AI带来的司法风险 [31][35][36] 事件经过：AI生成虚假案例干扰司法 - 北京市通州区人民法院在审理一起代持股民事纠纷时，原告律师应法官要求提交了补充代理意见及两个参考案例 [2][4][6] - 法官审核发现，提交的参考案例（一个来自最高人民法院，一个为上海一中院的“2022沪01民终12345号”案）与本案事实高度契合，完美支持原告诉请，但格式异常（如左边带实心点、当事人信息模糊），疑似AI生成 [8][12] - 经查询核实，被引用的上海一中院案例实为一起民间借贷案件，与本案股权代持纠纷毫无关系，原告律师最终承认案例是其提炼案情后向某AI大模型反复提问生成的，未经核实便提交 [13][14][16] 司法认定与处理 - 法院指出，代理意见与证据在法律性质上有明显区别，代理意见更侧重于观点梳理和审判辅助，无需像证据一样严格审核真实性、合法性等 [17][19] - 根据《民事诉讼法》，伪造重要证据妨碍审理可处以罚款、拘留甚至追究刑事责任，但对于提交虚假书面参考材料，现行法律没有明确规定 [21] - 鉴于该律师行为情节轻微、无明显恶意且未造成严重后果，法院在判决书中对其进行了批评教育，并判决对原告的部分请求不予采纳，该判决已生效 [23] AI在司法活动中的风险与案例 - 除生成虚假参考案例外，利用AI伪造证据的情况也已出现，例如湖北孝感大悟县人民法院审理的一起房屋租赁合同纠纷中，原告提交了带有“AI生成”水印的伪造水电表照片作为证据，并因此受到训诫 [28][30] - 专家指出，律师使用AI生成虚假案例违反了职业的谨慎勤勉义务，浪费了司法资源，损害了司法公信力 [25][27] - 提交明显由AI生成的图片作为证据，是严重的妨害民事诉讼行为 [30] 司法应对与规则探索 - 北京市通州区人民法院的这起案例因其典型性，已于2025年12月入选人民法院案例库，裁判要旨明确：诉讼参与人应遵循诚信原则；提交未经甄别核实的AI生成虚假案例应承担法律后果；情节轻微可批评教育，情节较重可参照《民事诉讼法》第一百一十四条第一款处理 [31] - 专家强调，诉讼参与人对AI搜索或生成材料的真实性负有甄别和核实责任，若提供虚假内容需承担相应法律责任 [33] - 建议司法机关应更谨慎评估证据效力，司法行政部门应规范律师从业行为（并非禁止使用AI工具，而是禁止非法使用AI合成内容），各法律主体不得利用AI从事伪造证据等违法犯罪活动 [35] - 面对“AI幻觉”冲击，需探索建立完善的治理机制，以守护法律边界和司法尊严 [36]

文章核心观点 - 人工智能生成虚假法律案例并进入司法程序 对司法公正构成潜在风险 [1] - 法律从业者对人工智能生成内容核查失职 是问题产生的关键人为因素 [2][4] - 司法系统需提升对人工智能技术的认知与应用能力 以应对新技术带来的挑战 [4] 事件背景与性质 - 北京市通州区人民法院审结一起案件 原告代理人提交由人工智能编造的虚假最高人民法院案例及(2022)沪01民终12345号案件 [1] - 虚假案例的事实细节、法律争议与裁判逻辑均与审理中案件高度契合 完美佐证原告观点 [1] - 法官及时发现案例虚假性 若被采纳可能使案件结果“跑偏” [2] 人工智能工具的应用与风险 - 参考案例由原告代理人提炼案件事实后 反复向某人工智能大模型软件提问引导生成 [2] - 人工智能生成案例时还“煞有介事”编写了案号 [2] - 目前人工智能并不总是可靠 可能生成不实信息 未来可靠性亦不确定 [2] 法律从业者的责任与失职 - 原告代理人承认未对人工智能生成案例进行核实 直接复制粘贴后提交法院 [4] - 通过中国裁判文书网输入案号即可核实 真实案号(2022)沪01民终12345号对应一起民间借贷纠纷 与本案商事纠纷无关 [4] - 向法院提交参考案例时 确保内容真实准确是当事人和代理人不可放弃的责任 不得放任人工智能生成虚假信息扰乱司法秩序 [4] 司法系统的应对与挑战 - 判例对实现法律统一适用、避免“同案不同判”的价值日益显现 法官有责任知晓并遵循上级法院判例 [1] - 人工智能的不完全可信及法律从业者失察 赋予法官更重的核实责任 [4] - 法官需快速学习掌握人工智能技术 本案法官能及时发现问题得益于其所在法院对人工智能的重视和学习 [4]