文章核心观点 - 人工智能模型生成的“AI幻觉”内容（即虚构事实）已被引入司法诉讼，对司法秩序构成干扰，具体表现为律师使用AI生成的虚假案例作为参考材料提交法庭 [1][26] - 司法实践中已出现多起利用AI伪造证据或生成虚假参考案例的个案，暴露了法律从业者对AI的过度依赖和核验义务的缺失，亟需在法律和行业层面划定红线以应对风险 [26][28][32] 事件经过 - 北京市通州区人民法院在审理一起代持股引发的民事纠纷时，法官要求原告律师就罕见诉求提交补充代理意见及参考案例 [2][4] - 原告律师随后提交了附有两个参考案例（分别标注为最高人民法院与上海一中院的案例）的书面代理意见，其描述与本案高度契合，完美支持原告诉求 [6][8] - 法官审核时发现案例格式异常（如左边带实心点、当事人信息模糊），怀疑为AI生成，经查询核实，所引案例虽真实存在（如“2022沪01民终12345号”），但实际案情（民间借贷）与提交内容（股权代持）完全不符，系虚假材料 [12][13][15] - 在法官质询下，原告律师承认案例是通过向某AI大模型软件反复提问，由软件生成，其未加核实便复制粘贴提交 [15][17] 司法认定与处理 - 法院认定，代理意见与证据在法律性质上不同，后者需审核真实性、合法性等，前者更多是审判辅助 [18][20] - 根据民事诉讼法，伪造重要证据妨碍审理可处以罚款、拘留或追究刑事责任，但针对提交虚假书面材料的行为，现行法律无明确规定 [22] - 鉴于该律师行为情节轻微、无明显恶意且未造成严重后果，法院在判决书中对其予以批评，并判决对原告部分请求不予采纳，一审判决已生效 [24] - 此案裁判要旨已入选人民法院案例库，明确诉讼参与人应遵循诚信原则，提交未经甄别核实的AI生成虚假案例应承担法律后果，情节轻微可批评教育，情节较重可参照民事诉讼法处理 [30] 行业影响与专家观点 - 专家指出，律师使用AI生成虚假案例违反了职业的谨慎勤勉义务，浪费了司法资源，损害司法公信力 [26][28] - 利用AI伪造证据的情况已非个例，例如湖北孝感一起案件中，原告提交了带有“AI生成”水印的伪造水电表照片作为证据 [28] - 专家建议，司法机关应谨慎评估证据效力，司法行政部门应规范律师从业行为，禁止在司法活动中非法使用AI合成内容，各法律主体应严格遵守法规，不得利用AI从事伪造证据等违法犯罪活动 [32]