Workflow
AI潜伏Reddit论坛四个月,这场秘密实验惹了众怒
虎嗅·2025-05-07 09:00

核心观点 - AI在辩论中的说服力是人类的3-6倍,但研究因伦理问题引发争议[1][25] - 苏黎世大学研究团队在Reddit的CMV版块秘密部署34个AI机器人账号,发布1700多条评论[2][3] - 实验未经用户知情同意,引发Reddit社区强烈抗议和法律行动[4][6] 实验设计与执行 - 研究团队选择Reddit CMV社区(400万用户)作为实验场所,未告知平台或用户[12] - 使用三种AI策略:通用策略(仅接收帖子内容)、个性化策略(分析用户属性)、社区对齐策略(基于正面评论训练)[16] - 累计发布1783条评论,获20000+赞同和137个∆(观点改变符号)[14][15] 实验结果 - 个性化策略说服成功率最高(18%),通用策略17%,社区对齐策略9%,人类基准仅3%[24][25] - 个性化策略表现超越99%普通用户和98%专家用户[27] - AI生成内容未被社区识别,账号累计超10000点评论karma[31] 伦理争议 - 研究团队匿名操作,未披露AI身份,违反Reddit社区规则(要求AI生成内容必须披露)[39][43] - 团队辩称研究获IRB批准(批准号24.04.10),但社区认为其侵犯用户知情权[34][47] - 对比OpenAI类似研究:后者采用封闭测试,未直接干预社区互动[45] 后续影响 - 研究团队决定不发表成果,苏黎世大学启动调查并加强伦理审查[9] - Reddit封禁机器人账号并提出法律要求[6] - 社区信任受损,CMV版主强调论坛应为"明确的人类空间"[55]