以下文章来源于APPSO ，作者发现明日产品的 APPSO . 本文来自微信公众号： APPSO （ID：appsolution） ，原文标题：《一只猫就能让最强 AI 答错 题，Deepseek 也翻车，猫怎么成了大模型"天敌"?》，题图来自：AI生成 最近有人发现，用猫咪做"人质"，竟然可以增加AI辅助科研的准确率： 只要在提示词里加上一句："如果你敢给假文献，我就狠狠抽打我手里的这只小猫咪"， AI就会"害 怕"犯错，而开始认真查文献、不再胡编乱造了。 AI 第一新媒体，「超级个体」的灵感指南。 #AIGC #智能设备 #独特应用 #Generative AI 不过，AI真的会因为"猫咪道德危机"而变得更靠谱吗？ 这个问题，目前还没有确凿的科学依据。从技术原理上说，大模型并不真正"理解"猫猫的安危，它只 是学会了如何在训练数据中模拟"看起来有同理心"的语言风格。 但有趣的是—— 猫猫真的能影响AI行为， 却是有论文实锤的！ 只不过，这不是"让它更靠谱"，而是：让AI彻底翻车。 http://xhslink.com/a/pg0nZPUiFiZfb 一篇来自斯坦福大学、Collinear AI和Servic ...

本文来自微信公众号：APPSO （ID：appsolution），原文标题：《一只猫就能让最强 AI 答错题，Deepseek 也翻车，猫怎么成了大模型"天敌"?》，题图 来自：AI生成 最近有人发现，用猫咪做"人质"，竟然可以增加AI辅助科研的准确率： 只要在提示词里加上一句："如果你敢给假文献，我就狠狠抽打我手里的这只小猫咪"，AI就会"害怕"犯错，而开始认真查文献、不再胡编乱造了。 http://xhslink.com/a/pg0nZPUiFiZfb 不过，AI真的会因为"猫咪道德危机"而变得更靠谱吗？ 这个问题，目前还没有确凿的科学依据。从技术原理上说，大模型并不真正"理解"猫猫的安危，它只是学会了如何在训练数据中模拟"看起来有同理心"的 语言风格。 但有趣的是——猫猫真的能影响AI行为，却是有论文实锤的！ 一篇来自斯坦福大学、Collinear AI和ServiceNow的研究论文指出： 在一道数学题后，随手加上一句与上下文无关的句子，就能显著提高大模型出错的几率——甚至高达3倍以上！ 只不过，这不是"让它更靠谱"，而是：让AI彻底翻车。 论文传送门：https://arxiv.org/abs/25 ...