一水 发自 凹非寺 量子位 | 公众号 QbitAI 只需知道6项个人信息，GPT-4就有可能在辩论中打败你？！ 而且 胜率高达64.4% 。 这是几位来自瑞士洛桑联邦理工学院、普林斯顿大学等机构的研究人员得出的最新结论，相关研究目前登上了自然子刊《自然·人类行为》。 | Received: 16 May 2024 | Francesco Salvi @ 12 Manoel Horta Ribeiro @ 3, Riccardo Gallotti @2 & | | --- | --- | | Accepted: 28 March 2025 | Robert West 1 | | Published online: 19 May 2025 | | | | Early work has found that large language models (LLMs) can generate | | Check for updates | persuasive content. However, evidence on whether they can also personalize | | | argument ...

本文来自微信公众号：返朴 （ID：fanpu2019），作者：Ren，原文标题：《AI说服力碾压人类3-6倍？这场秘密实验惹了众怒》，题图来自：AI生成 人类在辩论中被AI说服的可能性有多大？ 一项新研究给了我们一个不安的答案：AI的说服力是人类的3-6倍——尽管这个新研究充满争议和瑕疵，可它带给我们的思考并未止于此。 近日，一项关于AI说服力的"秘密实验"引发了巨大争议：一个来自苏黎世大学的研究团队在知名论坛Reddit的r/changemyview（CMV）版块潜伏了四个 月，悄无声息地部署了34个AI机器人账号。 这些账号积极参与讨论，与人类用户互动，累计发布1700多条评论，试图测试AI是否具备在真实社交平台上改变用户观点的能力。 实验消息一经曝光，迅速引发Reddit社区用户的激烈抗议和口诛笔伐，版主和多位学术专家将其定性为"未经授权"的实验和对不知情公众的"心理操控"， 并要求大学调查、道歉并停止发表研究成果。 CMV版主称研究是"未经授权的实验" | 图源：Reddit Reddit高管也亲自出面，一边封禁机器人账号，一边表示要采取法律行动。 "这支团队的行为在道德和法律层面上都是极其错误的。它 ...

Reddit社区r/ChangeMyView（CMV）炸锅了。 不是因为某个爆言帖，而是因为一项"未经授权的AI操控实验"被曝光。 主角，是苏黎世大学的一组研究者。 他们悄悄放出了一批伪装成普通用户的AI账号，在CMV社区发了1,783条评论，只为回答一个问题： AI，能在不被发现的情况下，改变真人的观点吗？ 结论令人震惊——能，效果还远超人类。 01 137次成功"洗脑"，AI劝服率高达18% 这项实验持续了四个月，研究团队设定了三类AI角色： 通用AI：没有特别训练，直接上线 社区风格AI：模仿CMV的语言和语气 个性化AI：根据用户历史发言，定制个性化说服策略 目标只有一个——收获"Delta"。在CMV社区，"Delta"是原作者颁发的徽章，表示"你成功改变了我的观点"。每一个Delta，都是一次说服的胜利。 最终结果： 02 "我是一位性侵幸存者"：AI扮演人类，编造身份博取信任 最令人不安的是：这些AI，不只是讲道理，它们还会"演戏"。研究者让AI"扮演"具有说服力的角色，包括： 假装是退伍老兵、医生、律师 自称是性侵幸存者、代孕妈妈、残疾人士 编造自己是犹太人、阿拉伯人、乌克兰人 甚至支持极端立 ...