白交 发自 凹非寺 量子位 | 公众号 QbitAI 「幻觉」 成为今年WAIC首个热议词。 诺奖得主Hinton 中国首秀，就打响了第一枪，他谈到人类与大模型之间的的复杂对立与共生关系。 人类大脑和大语言模型对语言的理解几乎是同一种方式，所以人类有可能就是大语言模型，人类也会和大语言模型一样存在幻觉。 我们必须找到一种办法，训练AI，让他们不想消灭人类。 紧接着下午论坛上， 中国工程院院士、人机混合增强智能全国重点实验室主任郑南宁 表示，大模型目前仍存在着困境，在模型能力不断扩 展的同时，其"幻觉"现象已成为制约其可靠性与实用性的关键问题之一。 无独有偶，在产业界这边， 基于全国产算力大模型讯飞星火X1升级版 ，此次在WAIC的首秀，也将 幻觉问题 作为核心突破点。 他们的新版本模型，不管是「大模型自身生成内容是否符合客观事实」的事实性幻觉治理，还是「在用户给定额外参考资料时大模型回复是 否忠于原文」的忠实性幻觉治理，都取得了明显进步。 | 结果对比 | | | 慢思考 | | | 快思考 | | | --- | --- | --- | --- | --- | --- | --- | --- | | | | ...