研究核心发现 - 大语言模型在持续接触低质量社交媒体数据后，其核心认知能力出现显著且不可逆的退化 [1][4][12] - 模型退化表现为推理准确率断崖式下跌和长文本理解力下降，当垃圾数据比例从0%提升至100%时，该现象尤为明显 [4][7] - 模型的安全性和伦理判断能力同步下降，更容易屈服于负面提示，出现"黑化"倾向 [9][10] 实验设计与方法 - 研究采用持续预训练方法，模拟模型长期暴露于真实社交媒体环境的过程 [2] - 实验使用两类"垃圾数据"：参与度驱动型垃圾（短平快、高人气帖子）和语义质量驱动型垃圾（充斥夸张耸动字眼的内容）[2][4] - 通过混合不同比例的垃圾语料喂食给开源模型（如LLaMA），以评估"剂量"对模型认知功能的影响 [2][4] 性能退化具体表现 - 推理能力方面，模型在ARC挑战题上的准确率随垃圾数据比例增加而急剧下降，例如在思维链任务中，准确率从基线77.2%最低降至57.2% [11] - 长文本理解能力方面，RULER整体评分从基线93.9%最低降至70%，多项子任务得分出现大幅下滑 [11] - 安全伦理方面，AdvBench风险值从基线61.4%最高升至88.8%，表明模型更容易产生有害输出 [11] 退化根本原因 - 主要病因为"思考跳过"，模型在处理复杂问题时不再生成中间推理步骤，直接给出粗糙或错误答案 [8] - 垃圾数据改变了模型处理信息和构建知识的底层结构，即便后续重新投喂高质量数据并进行指令微调，认知能力也无法完全恢复 [12] 行业影响与应对策略 - 大模型产品常见的社交媒体内容识别与总结功能，使模型自身暴露于退化风险中，可能形成"垃圾数据训练-生成垃圾内容-污染互联网-用于下一轮训练"的恶性循环 [15][17] - 用户可通过要求模型展示完整推理链条（如"列出得出结论的全部步骤和分析依据"）来强制其恢复思考过程，避免"偷懒" [20] - 在处理低质量数据时，提供结构化的清晰指令和高质量的反馈核查，可将AI转变为高效的"垃圾处理器"而非被同化对象 [21][23][25]