AI幻觉事件概述 - 北京市通州区人民法院披露一起案件，原告代理律师在书面代理意见中援引的两份裁判文书实为AI杜撰生成[1] - 该现象被归类为AI幻觉，表现为生成内容条理清晰但细节虚假，例如推荐不存在的书籍、虚构文献观点或提供无效链接[1] - 法律专业人士未能识破AI生成的虚假判例，凸显其迷惑性强，可能污染裁判事实源头并影响司法秩序和公信力[1] AI幻觉的威胁与防范 - 承办法官识别出虚假判例，但事件暴露的现实威胁不容低估，防范AI幻觉必要且紧迫[2] - 制度层面需划定边界，参考美国、澳大利亚、英国等国家对不当使用AI工具采取罚款、解雇等严厉处罚措施[2] - 医疗、法律、金融等低容错率行业应加快建立AI使用标准，完善评价体系和监管机制[2] 技术优化与人文应对 - 技术层面需优化AI训练语料，依靠可靠、可信、高质量数据降低幻觉风险，厂商应探索建立权威数据共享平台[2] - 使用者需保持独立思考能力，将AI作为启发工具而非决策替代品，谨慎对待生成内容并掌握决策权[2]