Workflow
认知偏差
icon
搜索文档
大模型越反思越错,原来是长链推理通过自我说服加重幻觉 | 北邮
量子位· 2025-07-03 12:26
北邮网安团队 投稿 量子位 | 公众号 QbitAI 风险缺口:长链CoT放大"误差滚雪球" 推理大模型(RLLMs)能把复杂问题拆解成几十步推理,再给出看似缜密的结论。然而,随着推理链条变长,一个令人不安的趋势浮出水面 —— 错误不再是偶发失误,而是沿链条滚雪球式放大 。 在医疗、金融、法律等高风险场景,一次细小偏差就可能酿成灾难。 当推理链从3步延伸到50+步,幻觉率暴增10倍;反思节点也束手无策。 遗憾的是,当前安全评估几乎都停留在结果级:判定答案对错、衡量毒性与否,犹如"考试只看最后分数"。 这种做法忽视了一个关键问题: 错误到底是如何在链内生根、扩散并固化的? 如果无法洞察这一机制,就难以对症下药。 北京邮电大学的研究团队为解决这一问题,采取了以下方法: 来自北京邮电大学的研究团队通过 思维链审计实验 ,首次定量揭示了这一"越想越错"现象背后的元认知偏差: 长链推理中的反思不是纠错机制,而是给幻觉颁发"理性证书"—— 模型为保持与用户提示语义一致, 宁可篡改协议定义也不否定前提 。 首先 基于RFC协议文档构建受控知识域 ,再让模型生成 30–60步 的长链推理,并在关键节点插入reflection ...
数字化转型助力 中小银行普惠金融业务发展
金融时报· 2025-06-30 11:12
推动普惠金融高质量发展是金融服务实体经济的应有之义,已成为中国金融改革目标和任务的关键一 环。根据《推进普惠金融发展规划(2016—2020年)》(以下简称《规划》)的定义,普惠金融是基于机会 平等和商业可持续性原则,以可负担的成本向社会各阶层和群体提供适当、有效的金融服务。习近平总 书记就发展普惠金融多次作出部署,要求"始终坚持以人民为中心的发展思想,推进普惠金融高质量发 展"。2025年3月印发的《国务院办公厅关于做好金融"五篇大文章"的指导意见》对普惠金融再次提出新 要求,指出要完善多层次、广覆盖、可持续的普惠金融体系。近年来,在政府、金融机构和市场主体的 共同努力下,中国普惠金融发展呈现出"量增""面扩"和"价降"的良好态势,前景更加明朗。 国家金融监督管理总局数据显示,截至2025年2月末,全国普惠型小微企业贷款余额达33.9万亿元,同 比增长12.6%,较各项贷款增速高5.7个百分点,全国新发放普惠型小微企业贷款平均利率4.03%,2018 年以来累计下降3.9个百分点。截至2024年末,普惠小微授信户数已超过6000万户,覆盖了约1/3经营主 体。作为普惠金融发展不可或缺的重要参与者,中小银行在 ...
你情绪不好,是因为认知不够
洞见· 2025-06-07 19:55
情绪管理核心观点 - 情绪爆发并非由表面小事引发,而是长期被忽略的内在需求积累所致[5][6][15] - 认知偏差是情绪困扰的根源,需通过理性分析识别"蚊子"背后的"大象"[27][31][32] - 治愈情绪需更新自我保护机制、审查固有观念、重塑人际关系认知[46][50][78] 情绪产生机制 - 婚姻案例显示,安娜因辞职迁居后的价值感缺失,将日常琐事转化为情绪爆发点[16][17][19] - 情绪如同垃圾堆积,长期压抑会导致心理腐蚀与活力丧失[23][24] - 两条情绪通路理论:低路(本能反应)与高路(理性评估)共同塑造情绪体验[47][48][49] 认知偏差影响 - 寓言中借锤子事件揭示,情绪爆发常源于想象而非现实冲突[34][35][36] - 阿尔伯特·埃利斯理论指出,不合理信念是情绪障碍的主因[38] - 负面情绪如同黑暗中的蚊子循环,需通过认知照明打破内耗[40] 认知重塑方法 1. **自我需求识别** - 建立防御屏障:明确表达"不允许伤害"的立场[55] - 承认受伤感受并梳理原因,实现心理独立[56][57] 2. **观念审查** - 识别过时观念如"懒惰有罪",释放快乐需求[58] - 记录固有认知,通过内心对话摆脱内耗[59] 3. **关系重构** - 将他人批评归因于外部压力而非恶意[64] - 通过正面回忆重建人际和谐[65][68] 4. **内核强化** - 保持冲突中的心理距离,建立自我价值感[70][75] - 鲁迅式反抗精神确认独立人格[74][77] 认知与情绪关联 - 情绪是内心需求的信使,认知层次决定情绪掌控力[51][82] - 认知利剑可穿透情绪本质,斩断内耗链条[81]