AI生成虚假判例警示了什么
广州日报·2025-10-30 10:04
付迎红 以技术驱散迷雾。研究表明,AI"养成"过程中,数据"投喂"是关键环节,可靠、可信、高质量的数 据对降低AI幻觉十分关键。有鉴于此,各大厂商也应优化人工智能的训练语料,用好数据生成优质内 容;同时探索建立具有权威性的数据共享平台。 以人文驾驭未来。古人言:"君子生非异也,善假于物也"。AI的正确打开方式,应当是启发灵感而 非代替思考。从使用者的角度看,我们要始终保持独立思考的能力,谨慎对待AI生成的内容,将决策 权牢牢掌握在自己手中。 编辑:林楠特 司法活动的核心,是"以事实为依据,以法律为准绳"。这里的"事实",既包括案件事实,也包括作 为先例的裁判事实。当AI凭借强大的自然语言处理能力,凭空捏造出逻辑自洽、格式规范的"判例"时, 它污染的正是裁判事实的源头活水,影响的是司法秩序和司法公信力。 所幸此案承办法官有一双"火眼金睛",但这起AI生成虚假判例暴露出的现实威胁,仍不容低估。以 上种种也在提醒,防范AI幻觉,必要且紧迫。 以制度划定边界。针对AI幻觉,许多地方都试图通过制定规则来破解。比如,在美国、澳大利 亚、英国等国家,若不当使用AI工具、编造虚假判例,后果往往极其严重,被罚款者有之,被解雇者 ...