AI最大的Bug
投资界·2025-09-12 15:31
以下文章来源于数字生命卡兹克 ,作者数字生命卡兹克 希望能激发你对AI的好奇。 数字生命卡兹克 . 产生幻觉。 作者 | 数字生命卡兹克 来源 I 数字生命卡兹克 (ID:Rockhazix) 周末在家扒拉上周更新的论文的时候,看到一篇我自己一直非常关心的领域的论文,而 且还是来自发论文发的越来越少的Ope nAI。 它讨论的是一个我们所有人都无比熟悉,但又无比困惑的东西。 幻觉。 这个词,自从AI进入大众视野以来,就一直像个幽灵一样,盘旋在所有对话的上空。 如果你问AI:亚当·卡莱(这篇论文作者之一)的生日是几月几号? 一个顶尖的开源大模型,连续三次,给出了三个完全不同的错误答案:03- 07,15- 06, 0 1 - 01。 而正确答案,其实是秋天。 这就是最典型的幻觉。 面对一个它不知道答案的问题,AI没有选择沉默,或者说我不知道,而是像一个考场上 想不出答案又不想交白卷的学生,开始瞎蒙,而且蒙得有鼻子有眼。 Op e nAI的这篇论文,提出了一个非常有意思而且又极其符合直觉的观点: 我们一边享受着AI带给我们的便利,一边又对它那些一本正经胡说八道的时刻,感到恐 惧和不解。 AI为什么会产生幻觉?这个 ...