文章核心观点 - 人工智能模型生成的虚假或捏造内容（即“AI幻觉”）已进入司法领域，对司法秩序构成干扰，具体表现为律师在诉讼中提交由AI生成的虚假参考案例或证据，这违反了诚信原则，浪费司法资源，并损害司法公信力 [1][24][36] - 司法机关已开始识别并处理此类问题，相关典型案例已入选人民法院案例库，明确了诉讼参与人需对AI生成内容进行核验并承担相应法律后果的审判原则，同时专家呼吁需建立规则以应对AI带来的司法风险 [31][35][36] 事件经过：AI生成虚假案例干扰司法 - 北京市通州区人民法院在审理一起代持股民事纠纷时，原告律师应法官要求提交了补充代理意见及两个参考案例 [2][4][6] - 法官审核发现，提交的参考案例（一个来自最高人民法院，一个为上海一中院的“2022沪01民终12345号”案）与本案事实高度契合，完美支持原告诉请，但格式异常（如左边带实心点、当事人信息模糊），疑似AI生成 [8][12] - 经查询核实，被引用的上海一中院案例实为一起民间借贷案件，与本案股权代持纠纷毫无关系，原告律师最终承认案例是其提炼案情后向某AI大模型反复提问生成的，未经核实便提交 [13][14][16] 司法认定与处理 - 法院指出，代理意见与证据在法律性质上有明显区别，代理意见更侧重于观点梳理和审判辅助，无需像证据一样严格审核真实性、合法性等 [17][19] - 根据《民事诉讼法》，伪造重要证据妨碍审理可处以罚款、拘留甚至追究刑事责任，但对于提交虚假书面参考材料，现行法律没有明确规定 [21] - 鉴于该律师行为情节轻微、无明显恶意且未造成严重后果，法院在判决书中对其进行了批评教育，并判决对原告的部分请求不予采纳，该判决已生效 [23] AI在司法活动中的风险与案例 - 除生成虚假参考案例外，利用AI伪造证据的情况也已出现，例如湖北孝感大悟县人民法院审理的一起房屋租赁合同纠纷中，原告提交了带有“AI生成”水印的伪造水电表照片作为证据，并因此受到训诫 [28][30] - 专家指出，律师使用AI生成虚假案例违反了职业的谨慎勤勉义务，浪费了司法资源，损害了司法公信力 [25][27] - 提交明显由AI生成的图片作为证据，是严重的妨害民事诉讼行为 [30] 司法应对与规则探索 - 北京市通州区人民法院的这起案例因其典型性，已于2025年12月入选人民法院案例库，裁判要旨明确：诉讼参与人应遵循诚信原则；提交未经甄别核实的AI生成虚假案例应承担法律后果；情节轻微可批评教育，情节较重可参照《民事诉讼法》第一百一十四条第一款处理 [31] - 专家强调，诉讼参与人对AI搜索或生成材料的真实性负有甄别和核实责任，若提供虚假内容需承担相应法律责任 [33] - 建议司法机关应更谨慎评估证据效力，司法行政部门应规范律师从业行为（并非禁止使用AI工具，而是禁止非法使用AI合成内容），各法律主体不得利用AI从事伪造证据等违法犯罪活动 [35] - 面对“AI幻觉”冲击，需探索建立完善的治理机制，以守护法律边界和司法尊严 [36]